安裝 Ollama 並執行 DeepSeek 模型指南

安裝 Ollama 並執行 DeepSeek 模型指南 (Windows)

安裝 Ollama 並執行 DeepSeek 模型指南 (Windows)

Ollama 是一個開源工具,讓您可以在本地端輕鬆下載、安裝並執行各種大型語言模型 (LLM),包括 DeepSeek 系列模型。本指南將引導您完成在 Windows 系統上的安裝與設定過程。

步驟一:下載並安裝 Ollama

  1. 前往 Ollama 官方網站: 開啟您的網頁瀏覽器,前往 https://ollama.com/
  2. 下載 Windows 版本: 在首頁通常會直接看到下載按鈕。點擊 “Download for Windows” 按鈕下載 Ollama 的安裝程式 (OllamaSetup.exe)。 Ollama 網站下載按鈕示意圖
  3. 執行安裝程式: 下載完成後,找到 OllamaSetup.exe 檔案並執行它。
  4. 依照安裝精靈指示: 通常只需點擊 “Install” 或 “Next”,並同意授權條款即可完成安裝。安裝程式會將 Ollama 設定為背景服務,並將其命令列工具加入到系統路徑中。 Ollama Windows 安裝程式示意圖
  5. 安裝完成: 安裝成功後,Ollama 會在系統匣 (System Tray) 中顯示一個圖示,表示其服務正在背景執行。
提示: 安裝過程可能會需要系統管理員權限。

步驟二:驗證 Ollama 安裝

  1. 開啟命令提示字元或 PowerShell: 您可以按下 Win + R 鍵,輸入 cmdpowershell,然後按下 Enter。
  2. 執行 Ollama 指令: 在命令提示字元或 PowerShell 視窗中,輸入以下指令並按下 Enter:
    ollama --version
  3. 確認輸出: 如果安裝成功,您應該會看到 Ollama 的版本號碼,例如 ollama version is 0.1.xx。這表示 Ollama 已經成功安裝並可在命令列中使用。

步驟三:下載並執行 DeepSeek 模型

Ollama 透過簡單的指令來下載和執行模型。DeepSeek 有多種模型,常見的有通用對話模型 (如 deepseek-llm) 和程式碼專用模型 (如 deepseek-coder)。您需要根據需求選擇。

  1. 選擇 DeepSeek 模型: 您可以到 Ollama 官方的模型庫 (https://ollama.com/library) 搜尋 “deepseek” 來查看可用的模型及其標籤 (tags)。常見的模型包括:
    • deepseek-llm: 通用對話模型,有多種大小 (如 7b, 67b)。
    • deepseek-coder: 專為程式碼生成和理解優化的模型,也有多種大小。
    模型大小考量: 模型名稱後面的數字 (如 7b, 67b) 代表模型的參數數量(b = billion, 十億)。越大的模型通常能力越強,但也需要更多的記憶體 (RAM) 和更強的硬體。建議從較小的模型 (如 7b) 開始嘗試。
  2. 下載並執行模型 (以 deepseek-coder:7b 為例): 在命令提示字元或 PowerShell 中,執行以下指令。這個指令會自動下載模型(如果尚未下載),然後啟動一個互動式對話介面:
    ollama run deepseek-coder:7b

    (如果您想使用通用對話模型,可以執行 ollama run deepseek-llm:7b)

  3. 等待下載: 第一次執行時,Ollama 會開始下載模型檔案,這可能需要一些時間,具體取決於您的網路速度和模型大小。您會看到下載進度。 Ollama 模型下載進度示意圖
  4. 開始互動: 下載完成後,您會看到一個提示符 (通常是 >>> 或類似符號),表示您可以開始輸入文字與 DeepSeek 模型互動了。
    >>> Send a message (/? for help)
    直接輸入您的問題或指令,然後按下 Enter。模型會生成回應。
  5. 結束互動: 若要退出互動模式,可以輸入 /bye 或按下 Ctrl + D
硬體需求: 執行大型語言模型需要相對較高的硬體資源,特別是記憶體 (RAM) 和顯示卡記憶體 (VRAM,如果使用 GPU 加速)。請確保您的電腦符合所選模型的基本需求。7B 模型通常建議至少有 8GB RAM (CPU 執行) 或 8GB VRAM (GPU 執行)。

常用 Ollama 指令

  • ollama list:列出您已經下載到本地的模型。
  • ollama pull [model_name]:[tag]:僅下載模型,但不立即執行。例如:
    ollama pull deepseek-llm:latest
  • ollama rm [model_name]:[tag]:刪除本地已下載的模型以釋放空間。
  • ollama help:顯示幫助資訊。

結論

透過以上步驟,您應該已經成功在 Windows 電腦上安裝了 Ollama,並能夠下載和執行 DeepSeek 模型。現在您可以開始在本地端探索和利用這些強大的 AI 模型了!記得根據您的硬體條件選擇合適大小的模型。

發佈留言

3
AI智能助手
WhatsApp
電子郵件
AI智能助手
WhatsApp
電子郵件
AI智能助手
A重要聲明:AI的回應速度可能較慢。AI提供的資訊僅供參考,本公司對其準確性或完整性不承擔任何責任。AI回覆不代表本公司立場。

您好!歡迎來到 。我可以如何幫助您?

01:13