Ollama 0.35.0 是免費開源的 Windows 工具，可在自己的電腦上執行開放權重語言模型，並提供相容 OpenAI 的本機 API。
為 Ollama 評分
平均評分 0.0 · 評分數: 0
謝謝！您的評分已儲存，之後仍可修改。 無法儲存評分，請稍後重試。 今天來自您網路的評分過多，請明天再試。 收到 5 個評分後將顯示平均評分。
關於 Ollama
Ollama 0.35.0 是一款免費、開源的 Windows 工具，讓您在自己的電腦上執行大型語言模型，而不是把問題送到雲端。這個版本於 2026年9月28日 發佈，可從官方網站 ollama.com 下載。
Ollama 能做什麼
Ollama 負責下載並執行開放權重的模型，例如 Llama、Gemma、Qwen、DeepSeek 或 gpt-oss。這些名稱只是它能執行的模型範例，並不包含在安裝程式裡：每個模型都要另外下載，各有自己的授權，也需要額外的磁碟空間與記憶體。您可以在命令列或桌面 App 中和模型對話；同時，Ollama 會在本機提供 HTTP API，也相容 OpenAI 的格式，讓其他程式、程式編輯器或您自己的腳本直接呼叫，資料不會離開電腦。
下載與安裝步驟
- 在 ollama.com 選擇 Windows 版，按鈕會連到官方的 OllamaSetup.exe，永遠是最新版本。
- 執行安裝程式；它約 1.5 GB，因為內含顯示卡運算所需的函式庫。
- 安裝後 Ollama 會在背景執行，圖示出現在系統匣。
- 開啟桌面 App 或命令提示字元，選擇一個模型，第一次使用時會自動下載。
Windows 的詳細說明請見 Ollama 官方文件。
系統需求
- 作業系統：Windows 10 22H2 或更新版本（也支援 macOS 與 Linux）。
- 顯示卡：非必要。支援 NVIDIA（CUDA，驅動程式 551.61 以上）、AMD（ROCm）以及透過 Vulkan 的顯示卡。
- 沒有顯示卡：模型會改用處理器執行。
- 記憶體與磁碟：取決於您選擇的模型，模型越大需求越高。
速度取決於模型、硬體與文字長度，因此我們不保證任何模型的速度或品質。
入門建議
先從較小的模型開始，觀察電腦的反應，再嘗試較大的模型。模型很佔空間，記得定期刪除不再使用的模型。要讓其他程式使用 Ollama，只要在它們的設定中選擇 Ollama 或 OpenAI 相容 API，並填入本機位址即可。商業用途前，請先閱讀模型的授權條款。
開源與隱私
Ollama 採用 MIT 授權，原始碼在 GitHub，各版本見 發佈頁面。模型在本機執行，提問與文件都留在您的電腦上，這是它和雲端聊天服務的主要差別。
Ollama 的優缺點
- 優點：模型在本機執行，資料不必上傳雲端。
- 優點：提供相容 OpenAI 的本機 API。
- 優點：免費且開源。
- 缺點：安裝程式大，模型另外佔用磁碟空間。
- 缺點：在較弱的電腦上，大型模型會很慢。
替代方案
有圖形介面的本機模型工具是 LM Studio，類似的開源聊天 App 是 Jan，想和自己的文件對話可以用 GPT4All 或 AnythingLLM。完整比較請見 本機 LLM 應用程式。