1단계: NVIDIA 드라이버 설치

1-1. 기존 드라이버 확인 및 제거 (선택사항)

1. Win + X 키를 누르고 장치 관리자 선택
2. 디스플레이 어댑터 확장
3. NVIDIA 그래픽 카드 우클릭 → 속성 → 드라이버 탭에서 현재 버전 확인

1-2. 최신 드라이버 다운로드

1. 웹 브라우저에서 https://www.nvidia.com/Download/index.aspx 접속
2. 다음 정보 입력:
   • 제품 유형: GeForce
   • 제품 시리즈: GeForce RTX 50 Series
   • 제품: GeForce RTX 5070
   • 운영체제: Windows 11
   • 다운로드 유형: Game Ready Driver (GRD)
3. 검색 클릭 후 최신 드라이버 다운로드
4. 다운로드한 파일 실행 후 사용자 정의 설치 선택
5. 새로 설치 수행 체크 후 설치 진행
6. 설치 완료 후 재부팅

1-3. CUDA Toolkit 설치

1. https://developer.nvidia.com/cuda-downloads 접속
2. 다음 선택:
   • Operating System: Windows
   • Architecture: x86_64
   • Version: 11
   • Installer Type: exe (local)
3. 다운로드 후 설치 실행
4. Express 설치 선택
5. 설치 완료 후 재부팅

1-4. 설치 확인

1. Win + R 키 → cmd 입력 → 엔터
2. 다음 명령어 입력:

3. GPU 정보가 표시되면 정상 설치 완료

2단계: Ollama 설치

3단계: 모델 다운로드 및 실행

4단계: Windows 최적화 설정

4-1. 전원 관리 최적화

1. Win + X → 전원 옵션
2. 전원 모드를 최고 성능으로 설정
3. 추가 전원 설정 클릭
4. 고성능 플랜 선택 (없으면 생성)

4-2. Windows Defender 제외 설정

1. Win + I → 개인 정보 및 보안 → Windows 보안
2. 바이러스 및 위협 방지 클릭
3. 설정 관리 → 제외 → 제외 추가 또는 제거
4. 제외 추가 → 폴더 선택
5. 다음 경로 추가:

4-3. 방화벽 설정

1. Win + R → wf.msc 입력 → 엔터
2. 인바운드 규칙 선택
3. 우측 새 규칙 클릭
4. 포트 선택 → 다음
5. TCP 선택, 특정 로컬 포트: 11434 입력
6. 연결 허용 → 다음
7. 모든 프로필 체크 → 다음
8. 이름: Ollama API → 마침

5단계: Ollama API 테스트

5-1. PowerShell에서 API 테스트

1. PowerShell 열기
2. 다음 명령어로 API 테스트:

5-2. 웹 브라우저에서 확인

1. 브라우저 주소창에 입력:

2. “Ollama is running” 메시지 확인

6단계: 유용한 Ollama 명령어

문제 해결 (Troubleshooting)

GPU가 인식되지 않는 경우

모델이 느리게 실행되는 경우

• Task Manager에서 다른 프로그램 종료
• GPU 메모리 사용량 확인 (nvidia-smi)
• 더 작은 모델로 시작 (phi3:mini)

포트 충돌 발생 시

1. 다른 프로그램이 11434 포트 사용 중인지 확인:

2. 해당 프로세스 종료 또는 Ollama 포트 변경