在软件个锤子站,你会发现许多生成式AI工具的整合包。这些整合包通常会打包好所需的运行环境,安装后即可使用。不过,也有不少朋友更喜欢亲自部署工具,自己动手更有成就感!但难免会遇到运行报错的问题。其实,很多时候问题的根源在于没有安装好必备的运行环境。
Damit Sie Umwege vermeiden, haben wir die unverzichtbaren Werkzeuge, Frameworks und Plugins für generative KI zusammengestellt. Ab dieser Ausgabe stellen wir Ihnen nach und nach die Funktionen und die Installationsanleitungen dieser Werkzeuge vor – auch Anwender ohne jegliche Vorkenntnisse schaffen das mühelos!
1. CUDA: Die Kerntechnologie der Grafikkartenbeschleunigung
CUDA, vollständig Compute Unified Device Architecture, ist eine von NVIDIA entwickelte Parallelrechenplattform. Sie ermöglicht es Ihrer Grafikkarte, komplexe Rechenaufgaben zu übernehmen, und verlagert einen Teil der Arbeit, die ursprünglich die CPU erledigt, auf die GPU, wodurch die Recheneffizienz erheblich gesteigert wird. In der generativen KI ist CUDA das grundlegende Werkzeug zur Beschleunigung großer Datenberechnungen und komplexer Algorithmen.
2. cuDNN: Das Wundermittel zur Beschleunigung von Deep Learning
cuDNN (CUDA Deep Neural Network) ist ebenfalls ein von NVIDIA entwickeltes Werkzeug, das speziell für tiefe neuronale Netze optimiert ist. Es baut auf der CUDA-Technologie auf und bietet hochoptimierte Rechenleistung für Kernoperationen wie Faltung, Pooling und Aktivierungsfunktionen. Diese Beschleunigungsbibliothek wird in gängigen Deep-Learning-Frameworks wie TensorFlow, PyTorch und MXNet umfassend eingesetzt und erhöht die Geschwindigkeit von Training und Inferenz deutlich. Einfach gesagt ist cuDNN das "Turbo-Wundermittel" im Bereich Deep Learning.
3. FFmpeg: Der Alleskönner für die Multimediaverarbeitung
In Anwendungen der generativen KI sind die Videogenerierung und die Audiobearbeitung zwei häufige Szenarien, und FFmpeg ist dabei ein unverzichtbares Werkzeug. Als leistungsstarkes Multimedia-Werkzeug erledigt es effizient die Kodierung, Dekodierung und Konvertierung von Audio und Video und ist der heimliche Helfer hinter dem Betrieb zahlreicher AI-Werkzeuge.
Als Nächstes folgt eine ausführliche Installationsanleitung, die Ihnen Schritt für Schritt bei der Einrichtung von CUDA und cuDNN hilft (Hinweis: nur für Nutzer von NVIDIA-Grafikkarten!).
(cuDNN ergänzt CUDA; stellen Sie vor der Installation von cuDNN bitte zuerst sicher, dass CUDA erfolgreich installiert wurde)
1. Die zu CUDA passende cuDNN-Version herunterladen
① Rufen Sie die offizielle Downloadseite unter dem unten stehenden Link auf, erstellen Sie mit Ihrer E-Mail-Adresse ein Konto und wählen Sie dann die zur CUDA-Version passende cuDNN-Version
Laden Sie die zur CUDA-Version passende cuDNN-Version herunter:https://developer.nvidia.com/rdp/cudnn-archive

② Klicken Sie auf "Local Installer for Windows (Zip)", um das lokale Archiv herunterzuladen

2. cuDNN installieren
① Entpacken Sie das heruntergeladene Archiv; nach dem Entpacken erhalten Sie drei Ordner

② Kopieren Sie die drei Ordner und fügen Sie sie in das CUDA-Verzeichnis ein. Beim Einfügen werden Sie feststellen, dass im CUDA-Installationsverzeichnis bereits gleichnamige Ordner aus dem entpackten cuDNN vorhanden sind. Keine Sorge, Sie können sie einfach kopieren und ersetzen

③ Fügen Sie den Umgebungsvariablen nacheinander die folgenden Pfade hinzu
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\bin
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\include
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\lib
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\libnvvp

3. Prüfen, ob cuDNN erfolgreich installiert wurde
① Wechseln Sie in den Ordner "demo_suite" im CUDA-Dateiverzeichnis
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\extras\demo_suite

② Geben Sie im Ordnerpfad "cmd" ein und drücken Sie einmal die Eingabetaste, um die Eingabeaufforderung zu öffnen

③ Ziehen Sie die Datei "bandwidthTest.exe" mit der Maus aus dem Ordner in die Eingabeaufforderung, drücken Sie einmal die Eingabetaste und prüfen Sie, ob in der Eingabeaufforderung jeweils die folgenden Anzeigen erscheinen. Wenn ja, fahren Sie mit dem nächsten Schritt fort; andernfalls wurde cuDNN nicht erfolgreich installiert

④ Ziehen Sie anschließend die Datei "deviceQuery.exe" mit der Maus aus dem Ordner in die Eingabeaufforderung und drücken Sie einmal die Eingabetaste. Erscheint die folgende Anzeige, ist cuDNN erfolgreich installiert

CUDA – Ausführliche bebilderte Installationsanleitung
FFmpeg – Ausführliche bebilderte Installationsanleitung