윈도우 환경에서 Ollama 모델이 자동으로 종료되지 않도록 설정하는 구체적인 단계입니다.

1. PowerShell을 이용한 영구 설정 (가장 빠름)

관리자 권한으로 PowerShell을 실행한 후 아래 명령어를 입력하여 시스템 환경 변수를 추가하십시오.

[System.Environment]::SetEnvironmentVariable('OLLAMA_KEEP_ALIVE', '-1', 'User')

명령어 실행 후:

1. 작업 표시줄 오른쪽 하단 시스템 트레이에서 Ollama 아이콘을 찾아 마우스 우클릭합니다.
2. Quit Ollama를 선택하여 완전히 종료합니다.
3. Ollama를 다시 실행합니다.

2. GUI(그래픽 인터페이스) 설정 방법

1. 시작 메뉴에서 “시스템 환경 변수 편집”을 검색하여 실행합니다.
2. 하단의 환경 변수 버튼을 클릭합니다.
3. ‘사용자 변수’ 영역에서 새로 만들기를 클릭합니다.
4. 변수 이름: OLLAMA_KEEP_ALIVE
5. 변수 값: -1
6. 모든 창에서 확인을 눌러 저장합니다.
7. Ollama를 완전히 종료 후 재시작해야 적용됩니다.

3. 설정 확인 방법

정상적으로 적용되었는지 확인하려면 PowerShell에서 다음 명령어를 입력하십시오.

$env:OLLAMA_KEEP_ALIVE

출력 결과가 -1이면 성공입니다. 이제 모델은 사용자가 직접 종료하거나 PC를 끄기 전까지 VRAM에 상주하며 즉시 응답할 준비를 유지합니다.

최적화 및 후속 조치:

• 메모리 확보: 다시 자동 종료 기능을 켜고 싶다면 변수 값을 5m(5분)으로 수정하거나 변수를 삭제하십시오.
• 특정 시간 설정: 무기한 상주가 부담스럽다면 1h(1시간), 12h(12시간) 등으로 설정하여 유연하게 관리할 수 있습니다.
• 로그 확인: 설정 후에도 문제가 발생하면 $env:USERPROFILE.ollama\logs 폴더의 로그를 확인하십시오.