Unverzichtbare Programme für generative KI: NVIDIA CUDA – ausführliche Installationsanleitung mit Bildern

在软件个锤子站，你会发现很多关于生成式AI工具的整合包。这些整合包通常已经包含了运行环境，但不少朋友还是更倾向于自己部署。不过，过程中可能会遇到运行报错的问题。究其原因，大多是因为缺少关键的运行环境支持。

Um diese Probleme für alle zu lösen, haben wir einige unverzichtbare Werkzeuge, Frameworks und Plugins zusammengestellt. Dieser Artikel stellt insbesondere einige Basisprogramme vor, die für den Umgang mit generativer KI erforderlich sind, und enthält eine ausführliche Installationsanleitung, damit Programmieranfänger sich nicht mit technischen Hürden herumschlagen müssen.

Aufbau der Basisumgebung: drei unverzichtbare Programme

Für generative KI sind die folgenden drei Werkzeuge eine Grundvoraussetzung, an der Sie nicht vorbeikommen:

1. CUDA (Compute Unified Device Architecture)
CUDA ist eine von NVIDIA eingeführte parallele Rechenplattform und ein Programmiermodell, das speziell darauf ausgelegt ist, die Rechenleistung von NVIDIA-GPUs voll auszuschöpfen. Es ermöglicht Programmen, aufwendige Rechenaufgaben von der CPU auf die GPU zu verlagern und so die Effizienz deutlich zu steigern.
– Kernfunktion: komplexe Berechnungen mithilfe der Grafikkarte statt der CPU ausführen.
– Anwendungsfälle: geeignet für Szenarien, die große Datenmengen effizient verarbeiten oder rechenintensive Aufgaben ausführen müssen.
Einfach gesagt: CUDA bringt die Grafikkarte „in Bewegung“, und in der Welt der generativen KI wird die Verarbeitung dadurch um ein großes Stück schneller.

2. cuDNN
Als Nächstes stellen wir Ihnen dieses unverzichtbare Beschleunigungswerkzeug für Deep Learning vor und wie es nahtlos mit CUDA zusammenarbeitet.

3. FFmpeg
Ein Werkzeug zur Video- und Audiobearbeitung, das die in KI-Projekten möglicherweise anfallenden Multimedia-Datenanforderungen abdeckt.

Da viele Freunde keine Programmiererfahrung haben, ist unsere Anleitung völlig voraussetzungslos: Folgen Sie einfach den Schritten, und Sie schaffen es mühelos. Sie lässt nicht nur Ihre generative KI reibungslos laufen, sondern hilft Ihnen auch, die tatsächliche Funktion dieser Werkzeuge besser zu verstehen.

CUDA-Installationsanleitung

1. Installieren des NVIDIA-Grafiktreibers

Stellen Sie zunächst sicher, dass Sie eine NVIDIA-Grafikkarte verwenden und der Grafiktreiber installiert ist. Auf die Treiberinstallation gehen wir hier nicht weiter ein. Über diesen Link können Sie den NVIDIA-Grafiktreiber herunterladen und installieren (https://www.nvidia.cn/drivers/lookup/)

2. Ermitteln der installierbaren CUDA-Version

① Klicken Sie nach der Installation des NVIDIA-Grafiktreibers mit der rechten Maustaste auf eine freie Stelle des Desktops und wählen Sie „NVIDIA Systemsteuerung“.

② Klicken Sie auf der Seite „NVIDIA Systemsteuerung“ links unten auf „Systeminformationen“, im Fenster „Systeminformationen“ auf „Komponenten“; in der dritten Zeile sehen Sie die höchste CUDA-Version, die Ihre Grafikkarte unterstützt.

3. CUDA herunterladen

① Nachdem Sie die unterstützte CUDA-Version ermittelt haben, rufen Sie die unten stehende CUDA-Downloadadresse auf und wählen Sie in der Liste die entsprechende CUDA-Version.

CUDA-Download:https://developer.nvidia.com/cuda-toolkit-archive

② Wählen Sie das System Windows und dann die Systemversion: Bei Windows 10 wählen Sie 10, bei Windows 11 wählen Sie 11. Das CUDA-Toolkit bietet zwei Installationsarten – Netzwerkinstallation und Offline-Installation. Die „Netzwerkversion“ wählt automatisch den passenden Download für Ihren Rechner und eignet sich bei guter Netzwerkumgebung; die „lokale Version“ enthält alle Inhalte und lässt sich direkt installieren. Es wird die „lokale Version“ empfohlen; klicken Sie anschließend auf „Download“. Die heruntergeladene Datei kann in einem beliebigen Ordner abgelegt werden.

4. CUDA installieren

① Doppelklicken Sie auf das heruntergeladene CUDA-Installationsprogramm.

② Für den Installationspfad wird der Standardpfad empfohlen; klicken Sie auf „OK“ und warten Sie einen Moment.

③ Nach dem Start des Installationsprogramms klicken Sie auf „Zustimmen und fortfahren“.

④ Bei den Installationsoptionen wird standardmäßig „Express“ empfohlen; klicken Sie dann auf „Weiter“, nochmals auf „Weiter“, warten Sie geduldig auf die Installation und klicken Sie nach Abschluss erneut auf „Weiter“.

⑤ Standardmäßig sind zwei Optionen aktiviert; klicken Sie abschließend auf "Schließen"

⑥ Suchen Sie im Windows-Suchfeld unten links auf dem Desktop nach "Umgebungsvariablen" und wählen Sie "Systemumgebungsvariablen bearbeiten"

⑦ Klicken Sie im erscheinenden Fenster "Systemeigenschaften" auf "Umgebungsvariablen". In den Systemvariablen darunter sehen Sie, dass die CUDA-Umgebungsvariablen bereits automatisch hinzugefügt wurden. Doppelklicken Sie auf "Path"; auch im Fenster "Umgebungsvariablen bearbeiten" sehen Sie, dass die zugehörigen Pfade bereits automatisch eingetragen wurden. Wenn alles in Ordnung ist, klicken Sie dreimal nacheinander auf "OK" und starten Sie dann den Computer neu

⑧ Falls die Umgebungsvariablen nicht automatisch hinzugefügt wurden, können Sie auf "Neu" klicken und den CUDA-Installationspfad manuell einfügen. Klicken Sie nach der Einrichtung dreimal nacheinander auf "OK" und starten Sie dann den Computer neu

Sie lauten jeweils:

CUDA_PATH: C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6
CUDA_PATH_V12_6: C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6

C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\bin
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\libnvvp

5. Prüfen, ob CUDA erfolgreich installiert wurde

① Halten Sie die Taste "Win" gedrückt und drücken Sie dann die Taste "R". Geben Sie im Fenster "Ausführen" "cmd" ein und klicken Sie auf "OK", um die Eingabeaufforderung zu öffnen (ein schwarzes Codefenster)

② Geben Sie im Codefenster "nvcc --version" ein und drücken Sie einmal die Eingabetaste. Erscheint darunter die CUDA-Versionsinformation, ist CUDA erfolgreich installiert

cuDNN – Ausführliche bebilderte Installationsanleitung

FFmpeg – Ausführliche bebilderte Installationsanleitung