在软件个锤子站,你会发现许多生成式AI工具的整合包。这些整合包通常会打包好所需的运行环境,安装后即可使用。不过,也有不少朋友更喜欢亲自部署工具,自己动手更有成就感!但难免会遇到运行报错的问题。其实,很多时候问题的根源在于没有安装好必备的运行环境。
Untuk mengelakkan semua orang mengambil jalan berliku, kami telah menyusun alat, rangka kerja dan pemalam yang wajib untuk menguasai AI generatif. Bermula dari episod ini, kami akan memperkenalkan satu per satu ciri fungsi alat ini serta tutorial pemasangan; walaupun pengguna tanpa asas juga boleh melakukannya dengan mudah!
1. CUDA: Teknologi teras pecutan kad grafik
CUDA, nama penuhnya Compute Unified Device Architecture, ialah platform pengkomputeran selari yang diperkenalkan oleh NVIDIA. Ia boleh membolehkan kad grafik anda membantu memproses tugas pengiraan yang kompleks, memindahkan sebahagian kerja yang asalnya ditanggung oleh CPU ke GPU untuk diselesaikan, seterusnya meningkatkan kecekapan pengiraan dengan sangat besar. Dalam AI generatif, CUDA ialah alat asas untuk mempercepatkan pengiraan data besar dan algoritma kompleks.
2. cuDNN: Perkakas sakti pecutan pembelajaran mendalam
cuDNN (CUDA Deep Neural Network) juga merupakan alat yang dibangunkan oleh NVIDIA, khusus dioptimumkan untuk rangkaian neural mendalam. Ia dibina di atas teknologi CUDA, menyediakan keupayaan pengiraan yang sangat dioptimumkan untuk operasi teras seperti konvolusi, pengumpulan dan fungsi pengaktifan. Pustaka pecutan ini digunakan secara meluas dalam rangka kerja pembelajaran mendalam arus perdana seperti TensorFlow, PyTorch dan MXNet, meningkatkan kelajuan latihan dan inferens dengan ketara. Secara ringkasnya, cuDNN ialah "perkakas pecutan" dalam bidang pembelajaran mendalam.
3. FFmpeg: Raja serba boleh pemprosesan multimedia
Dalam aplikasi AI generatif, penjanaan video dan pemprosesan audio adalah dua senario yang biasa, dan FFmpeg ialah alat yang tidak boleh diketepikan. Sebagai alat pemprosesan multimedia yang berkuasa, ia boleh menyelesaikan tugas pengekodan, penyahkodan dan penukaran audio-video dengan cekap, dan merupakan penyumbang di sebalik tabir kepada operasi banyak alat AI.
Seterusnya, kami akan membawa tutorial pemasangan yang terperinci untuk membantu anda menyelesaikan penggunaan CUDA dan cuDNN langkah demi langkah (nota: hanya untuk pengguna kad grafik NVIDIA sahaja!)
(cuDNN ialah pelengkap kepada CUDA, sebelum memasang cuDNN sila pastikan CUDA telah berjaya dipasang)
1. Muat turun versi cuDNN yang sepadan dengan CUDA
(1) Masuk ke laman muat turun rasmi melalui pautan di bawah, cipta akaun dengan e-mel, kemudian pilih versi cuDNN yang sepadan dengan versi CUDA
Muat turun versi cuDNN yang sepadan dengan versi CUDA:https://developer.nvidia.com/rdp/cudnn-archive

(2) Klik "Local Installer for Windows (Zip)" untuk memuat turun pakej mampat setempat

2. Pasang cuDNN
(1) Ekstrak pakej mampat yang dimuat turun; selepas diekstrak anda akan mendapat tiga folder

(2) Salin tiga folder tersebut, tampal ke dalam direktori folder CUDA; semasa menampal anda akan dapati direktori pemasangan CUDA mempunyai folder dengan nama yang sama seperti hasil ekstrak cuDNN, jangan risau, terus salin dan ganti sahaja

(3) Tambah laluan di bawah satu per satu dalam pemboleh ubah persekitaran
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\bin
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\include
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\lib
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\libnvvp

3. Sahkan sama ada cuDNN berjaya dipasang
(1) Masuk ke folder "demo_suite" dalam direktori fail CUDA
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\extras\demo_suite

(2) Taip "cmd" dalam direktori folder, tekan "Enter" sekali untuk membuka Command Prompt

(3) Gunakan tetikus untuk menyeret "bandwidthTest.exe" dalam folder ke dalam Command Prompt, tekan "Enter" sekali pada papan kekunci, lihat sama ada paparan berikut muncul satu per satu dalam Command Prompt; jika muncul teruskan ke langkah seterusnya, jika tidak bermakna cuDNN tidak berjaya dipasang

(4) Kemudian gunakan tetikus untuk menyeret "deviceQuery.exe" dalam folder ke dalam Command Prompt, tekan "Enter" sekali pada papan kekunci; jika paparan berikut muncul, ini bermakna cuDNN berjaya dipasang

Tutorial pemasangan CUDA bergambar terperinci
Tutorial pemasangan FFmpeg bergambar terperinci