在软件个锤子站,你会发现许多生成式AI工具的整合包。这些整合包通常会打包好所需的运行环境,安装后即可使用。不过,也有不少朋友更喜欢亲自部署工具,自己动手更有成就感!但难免会遇到运行报错的问题。其实,很多时候问题的根源在于没有安装好必备的运行环境。
Чтобы вы не набивали шишки, мы собрали инструменты, фреймворки и плагины, необходимые для работы с генеративным ИИ. Начиная с этого выпуска будем по очереди рассказывать об их возможностях и давать руководства по установке - справится даже пользователь без всякой подготовки!
1. CUDA: ключевая технология ускорения видеокарты
CUDA, полное название Compute Unified Device Architecture, - платформа параллельных вычислений от NVIDIA. Она позволяет видеокарте помогать в обработке сложных вычислительных задач, перенося часть работы, которую раньше выполнял CPU, на GPU, и тем самым значительно повышает эффективность вычислений. В генеративном ИИ CUDA - базовый инструмент ускорения расчётов с большими данными и сложными алгоритмами.
2. cuDNN: чудо-ускоритель глубокого обучения
cuDNN (CUDA Deep Neural Network) - также инструмент от NVIDIA, оптимизированный специально для глубоких нейронных сетей. Он построен на технологии CUDA и обеспечивает высокооптимизированные вычисления для ключевых операций - свёртки, пулинга, функций активации. Эта библиотека ускорения широко применяется в основных фреймворках глубокого обучения, таких как TensorFlow, PyTorch и MXNet, заметно повышая скорость обучения и инференса. Проще говоря, cuDNN - «ускоритель» в области глубокого обучения.
3. FFmpeg: универсальный король обработки мультимедиа
В приложениях генеративного ИИ генерация видео и обработка аудио - два частых сценария, и FFmpeg здесь незаменим. Как мощный инструмент обработки мультимедиа он эффективно выполняет кодирование, декодирование и конвертацию аудио и видео - незаметный герой работы множества ИИ-инструментов.
Далее приведём подробное руководство по установке, которое шаг за шагом поможет развернуть CUDA и cuDNN (внимание: только для пользователей видеокарт NVIDIA!).
(cuDNN - дополнение к CUDA; перед установкой cuDNN убедитесь, что CUDA установлена успешно)
1. Скачайте версию cuDNN, соответствующую CUDA
① Перейдите на страницу загрузки по ссылке ниже, создайте аккаунт с помощью электронной почты, затем выберите версию cuDNN, соответствующую версии CUDA
Скачать версию cuDNN, соответствующую версии CUDA:https://developer.nvidia.com/rdp/cudnn-archive

② Нажмите «Local Installer for Windows (Zip)», чтобы скачать локальный архив

2. Установите cuDNN
① Распакуйте скачанный архив - внутри будет три папки

② Скопируйте три папки и вставьте их в каталог установки CUDA. При вставке окажется, что в каталоге CUDA уже есть папки с теми же именами, что и распакованные из cuDNN, - не переживайте, просто скопируйте с заменой.

③ Поочерёдно добавьте в переменные среды следующие пути
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\bin
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\include
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\lib
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\libnvvp

3. Проверьте, успешно ли установилась cuDNN
① Перейдите в папку «demo_suite» в каталоге CUDA
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\extras\demo_suite

② В адресной строке папки введите «cmd» и нажмите «Enter», чтобы открыть командную строку

③ Мышью перетащите «bandwidthTest.exe» из папки в окно командной строки, нажмите «Enter» и посмотрите, появятся ли в командной строке соответствующие изображения. Если появились - переходите к следующему шагу, иначе это означает, что cuDNN не удалось успешно установить

④ Затем мышью перетащите «deviceQuery.exe» из папки в командную строку и нажмите «Enter»; если появятся следующие изображения, значит cuDNN установлена успешно

Подробное руководство по установке CUDA с картинками
Подробное руководство по установке FFmpeg с картинками