在软件个锤子站,你会发现很多关于生成式AI工具的整合包。这些整合包通常已经包含了运行环境,但不少朋友还是更倾向于自己部署。不过,过程中可能会遇到运行报错的问题。究其原因,大多是因为缺少关键的运行环境支持。
Чтобы помочь решить эти вопросы, мы собрали необходимые инструменты, фреймворки и плагины. В этой статье основное внимание уделим нескольким базовым программам, нужным для работы с генеративным ИИ, и приложим подробное руководство по установке, чтобы новички в программировании не мучились из-за технических сложностей.
Для работы с генеративным ИИ эти три инструмента - базовая поддержка, без которой не обойтись:
1. CUDA (Compute Unified Device Architecture)
CUDA - это платформа параллельных вычислений и модель программирования от NVIDIA, созданная для полного раскрытия вычислительных возможностей GPU NVIDIA. Она позволяет переносить тяжёлые вычислительные задачи с CPU на GPU, заметно повышая эффективность работы.
– Ключевая роль: видеокарта вместо CPU выполняет сложные вычисления.
– Область применения: задачи, требующие эффективной обработки больших данных или высокой вычислительной нагрузки.
Проще говоря, CUDA заставляет видеокарту «работать», и в мире генеративного ИИ скорость обработки значительно возрастает.
2. cuDNN
Далее расскажем об этом незаменимом инструменте ускорения глубокого обучения и о том, как он бесшовно работает с CUDA.
3. FFmpeg
Инструмент обработки видео и аудио, закрывающий потребности в мультимедийных данных, которые могут возникать в проектах ИИ.
Учитывая, что у многих нет опыта программирования, наше руководство совершенно не требует подготовки: просто повторяйте шаги - и всё получится. Оно не только обеспечит плавную работу вашего генеративного ИИ, но и поможет лучше понять реальную пользу этих инструментов.
1. Установите драйвер видеокарты NVIDIA
Сначала убедитесь, что вы используете видеокарту NVIDIA и драйвер установлен; подробно на установке драйвера останавливаться не будем. По этой ссылке можно скачать и установить драйвер видеокарты NVIDIA (https://www.nvidia.cn/drivers/lookup/)

2. Определите доступную для установки версию CUDA
① После установки драйвера видеокарты NVIDIA щёлкните правой кнопкой по пустому месту рабочего стола и выберите «Панель управления NVIDIA»

② На странице «Панель управления NVIDIA» нажмите «Сведения о системе» в левом нижнем углу, в окне «Сведения о системе» откройте «Компоненты» - в третьей строке видна максимальная версия CUDA, поддерживаемая вашей видеокартой

3. Скачайте CUDA
① Определив поддерживаемую версию CUDA, перейдите по ссылке для скачивания CUDA ниже и выберите в списке соответствующую версию CUDA
Скачать CUDA:https://developer.nvidia.com/cuda-toolkit-archive

② Выберите систему Windows, затем версию системы: если компьютер на Win10 - выбирайте 10, если на Win11 - 11. У набора инструментов CUDA есть два способа установки - сетевой и офлайн. «Сетевая версия» автоматически подберёт подходящую для вашего компьютера загрузку и подойдёт при хорошем интернете; «локальная версия» содержит всё необходимое и устанавливается сразу - рекомендуем выбрать «локальную версию», затем нажмите «Скачать». Загруженную программу можно разместить в любой папке.

4. Установите CUDA
① Дважды щёлкните загруженный установщик CUDA

② Путь установки советуем оставить по умолчанию, нажмите «OK» и немного подождите

③ После запуска установщика нажмите «Принять и продолжить»

④ В параметрах установки рекомендуем оставить по умолчанию «Экспресс», затем нажмите «Далее», ещё раз «Далее», дождитесь завершения установки, после чего снова нажмите «Далее»

⑤ По умолчанию отмечены два пункта, в конце нажмите «Закрыть»

⑥ В поиске Windows в левом нижнем углу рабочего стола введите «переменные среды» и выберите «Изменение переменных среды системы»

⑦ В открывшемся окне свойств системы нажмите «Переменные среды»: в разделе системных переменных ниже видно, что переменные среды CUDA добавлены автоматически; дважды щёлкните «path» - в окне редактирования переменной также видно, что нужные пути уже добавлены. Если всё верно, трижды подряд нажмите «ОК», затем перезагрузите компьютер.

⑧ Если переменные среды не добавились автоматически, нажмите «Создать», вручную вставьте путь установки CUDA, затем трижды подряд нажмите «ОК» и перезагрузите компьютер.
Соответственно:
CUDA_PATH: C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6
CUDA_PATH_V12_6: C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\bin
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\libnvvp

5. Проверьте, успешно ли установилась CUDA
① Зажмите клавишу «Win», затем нажмите «R», в окне «Выполнить» введите «cmd» и нажмите «ОК», чтобы открыть командную строку (чёрное окно с кодом)

② Введите в окне «nvcc --version», нажмите «Enter»; если ниже появилась информация о версии CUDA, значит CUDA установлена успешно

Подробное руководство по установке cuDNN с картинками
Подробное руководство по установке FFmpeg с картинками