在软件个锤子站,你会发现许多生成式AI工具的整合包。这些整合包通常会打包好所需的运行环境,安装后即可使用。不过,也有不少朋友更喜欢亲自部署工具,自己动手更有成就感!但难免会遇到运行报错的问题。其实,很多时候问题的根源在于没有安装好必备的运行环境。
Per farvi evitare inutili giri a vuoto, abbiamo raccolto gli strumenti, i framework e i plugin indispensabili per padroneggiare l'IA generativa. A partire da questo numero, vi presenteremo uno per uno le caratteristiche e i tutorial di installazione di questi strumenti: anche gli utenti alle prime armi potranno cavarsela facilmente!
1. CUDA: la tecnologia principale per l'accelerazione della scheda grafica
CUDA, acronimo di Compute Unified Device Architecture, è una piattaforma di calcolo parallelo lanciata da NVIDIA. Consente alla scheda grafica di contribuire all'elaborazione di complesse attività di calcolo, trasferendo alla GPU una parte del lavoro che di norma spetta alla CPU, migliorando così notevolmente l'efficienza di calcolo. Nell'IA generativa, CUDA è lo strumento di base per accelerare il calcolo su grandi volumi di dati e gli algoritmi complessi.
2. cuDNN: il prodigio dell'accelerazione del deep learning
cuDNN (CUDA Deep Neural Network) è anch'esso uno strumento sviluppato da NVIDIA, ottimizzato specificamente per le reti neurali profonde. Si basa sulla tecnologia CUDA e offre capacità di calcolo altamente ottimizzate per operazioni fondamentali come convoluzione, pooling e funzioni di attivazione. Questa libreria di accelerazione è ampiamente utilizzata nei principali framework di deep learning, come TensorFlow, PyTorch e MXNet, e aumenta sensibilmente la velocità di addestramento e inferenza. In breve, cuDNN è il "prodigio dell'accelerazione" nel campo del deep learning.
3. FFmpeg: il re assoluto dell'elaborazione multimediale
Nelle applicazioni di IA generativa, la generazione video e l'elaborazione audio sono due scenari comuni, e FFmpeg è uno strumento indispensabile in questo ambito. In quanto potente strumento di elaborazione multimediale, è in grado di svolgere in modo efficiente attività di codifica, decodifica e conversione di audio e video, ed è il grande artefice nascosto dietro il funzionamento di numerosi strumenti di IA.
Di seguito vi presenteremo un tutorial di installazione dettagliato per aiutarvi a completare passo dopo passo la distribuzione di CUDA e cuDNN (attenzione: solo per utenti con scheda grafica NVIDIA!).
(cuDNN è un complemento di CUDA; prima di installare cuDNN assicurati che CUDA sia stato installato correttamente)
1. Scarica la versione di cuDNN corrispondente a CUDA
① Accedi al sito ufficiale di download al link sottostante, crea un account con un indirizzo e-mail, quindi seleziona la versione di cuDNN corrispondente alla versione di CUDA
Scarica la versione di cuDNN corrispondente alla versione di CUDA:https://developer.nvidia.com/rdp/cudnn-archive

② Fai clic su "Local Installer for Windows (Zip)" per scaricare il pacchetto compresso locale

2. Installa cuDNN
① Estrai il pacchetto compresso scaricato; dopo l'estrazione otterrai tre cartelle

② Copia le tre cartelle e incollale nella directory della cartella CUDA; al momento dell'incolla noterai che nella directory di installazione di CUDA sono presenti cartelle con lo stesso nome di quelle estratte da cuDNN: non preoccuparti, puoi semplicemente copiare e sostituire

③ Aggiungi in successione i percorsi sottostanti nelle variabili d'ambiente
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\bin
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\include
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\lib
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\libnvvp

3. Verifica se cuDNN è stato installato correttamente
① Entra nella cartella "demo_suite" nella directory di CUDA
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\extras\demo_suite

② Nella directory della cartella digita "cmd" e premi "Invio" per aprire il prompt dei comandi

③ Con il mouse trascina "bandwidthTest.exe" dalla cartella al prompt dei comandi, premi "Invio" sulla tastiera e controlla se nel prompt dei comandi compaiono le seguenti schermate; se compaiono, passa al passaggio successivo, altrimenti significa che cuDNN non è stato installato correttamente

④ Poi, con il mouse, trascina "deviceQuery.exe" dalla cartella al prompt dei comandi e premi "Invio" sulla tastiera; se compare la seguente schermata, significa che cuDNN è stato installato correttamente

Tutorial dettagliato con immagini per l'installazione di CUDA
Tutorial dettagliato con immagini per l'installazione di FFmpeg