Llama, Gemma 같은 오픈 웨이트 AI 모델을 내 PC에서 실행하는 오픈 소스 프로그램 Ollama의 Windows 버전입니다.
Ollama 평가하기
평균 0.0 · 평가 수: 0
감사합니다! 평점이 저장되었으며 나중에 변경할 수 있습니다. 평점을 저장하지 못했습니다. 나중에 다시 시도해 주세요. 오늘 사용 중인 네트워크에서 너무 많은 평가가 등록되었습니다. 내일 다시 시도해 주세요. 평가가 5개 이상 모이면 평균이 표시됩니다.
Ollama 소개
Ollama 0.35.0(2026년 9월 28일)은 대규모 언어 모델(LLM)을 내 PC 안에서 실행하는 Windows용 프로그램입니다. MIT 라이선스의 오픈 소스이며, Ollama PC 다운로드는 공식 사이트에서 무료로 할 수 있습니다. 명령줄과 데스크톱 앱 두 가지 방식으로 쓸 수 있고, 대화 내용을 클라우드로 보내지 않고 AI를 사용할 수 있습니다.
기본 사양
| 항목 | 내용 |
|---|---|
| 프로그램 | Ollama |
| 버전 | 0.35.0 |
| 개발 | Ollama |
| 라이선스 | MIT (오픈 소스, 무료) |
| 지원 OS | Windows 10 22H2 이상 (macOS, 리눅스 버전도 있음) |
| 설치 파일 | OllamaSetup.exe, 약 1.5GB (GPU 라이브러리 포함) |
무엇을 할 수 있나요
Llama, Gemma, Qwen, DeepSeek, gpt-oss 같은 오픈 웨이트 모델을 내려받아 PC에서 대화할 수 있습니다. 이 모델 이름들은 실행할 수 있는 예시일 뿐 Ollama에 들어 있는 것이 아니며, 모델은 각자의 라이선스에 따라 따로 내려받습니다. Ollama는 로컬 HTTP API도 제공하고 OpenAI 호환 형식도 지원하므로, 직접 만든 앱이나 호환 도구에서 내 PC의 모델을 불러 쓸 수 있습니다.
시스템 요구 사항과 GPU
공식 Windows 문서에 따르면 GPU는 선택 사항이며, GPU가 없어도 CPU만으로 동작합니다. GPU를 쓸 경우 NVIDIA(CUDA, 드라이버 551.61 이상), AMD(ROCm), Vulkan을 지원합니다. 모델을 실행하려면 모델 크기에 맞는 메모리와 디스크 공간이 따로 필요합니다. 속도는 모델과 PC 조합에 따라 크게 달라지므로 작은 모델부터 시험해 보십시오.
설치와 첫 실행
- ollama.com에서 Windows용 설치 파일을 받아 실행합니다. 다운로드 버튼은 공식 직접 링크로, 항상 최신 버전이 설치됩니다.
- 설치가 끝나면 Ollama가 백그라운드에서 실행됩니다.
- 데스크톱 앱에서 모델을 고르거나, 명령 프롬프트에 ollama run과 모델 이름을 입력하면 모델을 받아 대화가 시작됩니다.
소스 코드와 변경 이력은 GitHub 저장소와 릴리스 페이지에서 볼 수 있습니다.
안전하게 쓰려면
로컬 API는 기본적으로 내 PC에서만 접속할 수 있습니다. 다른 기기에서 접속하도록 바꾼다면 네트워크 범위를 주의하십시오. 모델은 제공자와 라이선스를 확인하고 받으며, 업무에 쓴다면 이용 조건을 먼저 확인하십시오.
장점과 단점
- 장점: 오픈 소스이고 무료이며, 대화를 클라우드로 보내지 않습니다.
- 장점: OpenAI 호환 API로 다른 도구와 연결하기 쉽습니다.
- 단점: 모델 크기에 맞는 메모리와 저장 공간이 필요합니다.
- 단점: 명령어에 익숙하지 않으면 처음엔 어렵습니다.
대안 프로그램
화면에서 모델을 찾고 싶다면 LM Studio, 채팅 화면 위주라면 Jan이나 GPT4All, 내 문서를 읽혀 쓰려면 AnythingLLM이 있습니다.