생성형 AI 필수 프로그램: NVIDIA CUDA 상세 이미지 설치 튜토리얼

在软件个锤子站，你会发现很多关于生成式AI工具的整合包。这些整合包通常已经包含了运行环境，但不少朋友还是更倾向于自己部署。不过，过程中可能会遇到运行报错的问题。究其原因，大多是因为缺少关键的运行环境支持。

이러한 문제를 해결하기 위해 필수 도구, 프레임워크, 플러그인을 정리했습니다. 이번 글에서는 생성형 AI를 다루는 데 필요한 기본 프로그램 몇 가지를 중점적으로 소개하고 자세한 설치 튜토리얼을 함께 제공하여, 프로그래밍 초보자가 기술적인 어려움으로 골머리를 앓지 않도록 돕습니다.

기본 환경 구축: 세 가지 필수 프로그램

생성형 AI를 다루려면 다음 세 가지 도구가 기본 지원으로 꼭 필요합니다:

1. CUDA (Compute Unified Device Architecture)
CUDA는 NVIDIA가 출시한 병렬 컴퓨팅 플랫폼이자 프로그래밍 모델로, NVIDIA GPU의 계산 능력을 최대한 활용하기 위해 만들어졌습니다. 프로그램이 복잡한 계산 작업을 CPU에서 GPU로 옮겨 실행 효율을 크게 높일 수 있게 해줍니다.
– 핵심 역할: 그래픽 카드를 사용해 CPU 대신 복잡한 연산을 처리합니다.
– 적용 분야: 대용량 데이터를 효율적으로 처리하거나 계산량이 많은 작업을 수행해야 하는 상황에 적합합니다.
간단히 말해, CUDA는 그래픽 카드를 "움직이게" 하여 생성형 AI 환경에서 처리 속도가 훨씬 빨라집니다.

2. cuDNN
이어서 이 필수 딥러닝 가속 도구와 CUDA와의 원활한 연동 방법을 소개합니다.

3. FFmpeg
동영상과 오디오 처리 도구로, AI 프로젝트에서 필요할 수 있는 멀티미디어 데이터 요구를 해결할 수 있습니다.

많은 분이 프로그래밍 경험이 없으므로 저희 튜토리얼은 진입 장벽이 전혀 없습니다. 단계만 따라 하면 손쉽게 해결할 수 있습니다. 생성형 AI를 원활하게 실행할 수 있을 뿐 아니라 이러한 도구의 실제 역할을 더 잘 이해하는 데도 도움이 됩니다.

CUDA 설치 튜토리얼

1. NVIDIA 그래픽 카드 드라이버 설치

먼저 NVIDIA 그래픽 카드를 사용 중인지 확인하고 그래픽 카드 드라이버가 설치되어 있어야 합니다. 드라이버 설치에 대한 설명은 여기서 생략합니다. 이 링크에서 NVIDIA 그래픽 카드 드라이버를 다운로드해 설치할 수 있습니다 (https://www.nvidia.cn/drivers/lookup/)

2. 설치 가능한 CUDA 버전 확인

① NVIDIA 그래픽 카드 드라이버를 설치한 후 바탕 화면 빈 곳을 마우스 오른쪽 버튼으로 클릭하고 "NVIDIA 제어판"을 선택합니다

② "NVIDIA 제어판" 페이지에서 왼쪽 아래의 "시스템 정보"를 클릭하고, "시스템 정보" 창에서 "구성 요소"를 클릭하면 세 번째 줄에서 그래픽 카드가 지원하는 최고 CUDA 버전을 확인할 수 있습니다

3. CUDA 다운로드

① 지원되는 CUDA 버전을 확인한 후 아래 CUDA 다운로드 주소로 들어가 목록에서 해당 버전의 CUDA를 선택합니다

CUDA 다운로드:https://developer.nvidia.com/cuda-toolkit-archive

② 운영 체제로 Windows를 선택한 다음 시스템 버전을 선택합니다. 컴퓨터가 Win10이면 10을, Win11이면 11을 선택합니다. CUDA 툴킷은 네트워크 설치와 오프라인 설치 두 가지 방식이 있습니다. "네트워크 버전"은 본체에 맞는 다운로드를 자동으로 선택하며 네트워크 환경이 좋을 때 사용하기 적합하고, "로컬 버전"은 모든 내용을 포함해 바로 설치할 수 있습니다. "로컬 버전"을 권장하며, 그런 다음 "다운로드"를 클릭합니다. 다운로드 프로그램은 어느 폴더에 두어도 됩니다

4. CUDA 설치

① 다운로드한 CUDA 설치 프로그램을 더블클릭합니다

② 설치 경로는 기본 경로를 따르는 것을 권장하며 "OK"를 클릭하고 잠시 기다립니다

③ 설치 프로그램이 시작되면 "동의 및 계속"을 클릭합니다

④ 설치 옵션은 기본적으로 "간소화"를 선택하는 것을 권장하며, "다음"을 클릭하고 다시 "다음"을 클릭한 뒤 참을성 있게 기다립니다. 설치가 끝나면 다시 "다음"을 클릭합니다

⑤ 기본적으로 두 항목이 선택되어 있으며, 마지막으로 "닫기"를 클릭합니다.

⑥ 바탕 화면 왼쪽 아래의 Windows 시스템 검색 상자에서 "환경 변수"를 검색하고 "시스템 환경 변수 편집"을 선택합니다.

⑦ 나타난 시스템 속성 창에서 "환경 변수"를 클릭하면 아래쪽 시스템 변수에서 CUDA 환경 변수가 자동으로 추가된 것을 확인할 수 있습니다. "Path"를 더블 클릭하면 환경 변수 편집 창에서 관련 경로가 자동으로 추가된 것도 볼 수 있습니다. 문제가 없으면 확인을 세 번 연속 클릭한 후 컴퓨터를 다시 시작합니다.

⑧ 환경 변수가 자동으로 추가되지 않았다면 "새로 만들기"를 클릭하여 CUDA 설치 경로를 직접 붙여 넣고, 설정을 마친 후 확인을 세 번 연속 클릭한 다음 컴퓨터를 다시 시작합니다.

각각 다음과 같습니다.

CUDA_PATH: C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6
CUDA_PATH_V12_6: C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6

C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\bin
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\libnvvp

5. CUDA 설치 성공 여부 확인

① 키보드에서 "Win" 키를 누른 상태에서 "R" 키를 누르고, 실행 상자에 "cmd"를 입력한 후 "확인"을 클릭하여 명령 프롬프트(검은색 코드 창)를 엽니다.

② 코드 창에 "nvcc --version"을 입력하고 키보드에서 "Enter"를 누른 뒤, 아래에 CUDA 버전 정보가 나타나면 CUDA가 성공적으로 설치된 것입니다.

cuDNN 상세 이미지 설치 튜토리얼

FFmpeg 상세 이미지 설치 튜토리얼