安装 Ollama 并执行 DeepSeek 模型指南 (Windows)
Ollama 是一个开源工具,让您可以在本地端轻松下载、安装并执行各种大型语言模型 (LLM),包括 DeepSeek 系列模型。本指南将引导您完成在 Windows 系统上的安装与设定过程。
步驟一:下載並安裝 Ollama
- 前往 Ollama 官方网站: 开启您的网页浏览器,前往 https://ollama.com/。
-
下载 Windows 版本:
在首页通常会直接看到下载按钮。点击 “Download for Windows” 按钮下载 Ollama 的安装程式 (
OllamaSetup.exe)。
-
执行安装程式:
下载完成后,找到
OllamaSetup.exe档案并执行它。 -
依照安装精灵指示:
通常只需点击 “Install” 或 “Next”,并同意授权条款即可完成安装。安装程式会将 Ollama 设定为背景服务,并将其命令列工具加入到系统路径中。
- 安装完成: 安装成功后,Ollama 会在系统匣 (System Tray) 中显示一个图示,表示其服务正在背景执行。
提示: 安装过程可能会需要系统管理员权限。
步驟二:驗證 Ollama 安裝
-
开启命令提示字元或 PowerShell:
您可以按下
Win+R键,输入cmd或powershell,然后按下 Enter。 -
执行 Ollama 指令:
在命令提示字元或 PowerShell 视窗中,输入以下指令并按下 Enter:
ollama --version -
确认输出:
如果安装成功,您应该会看到 Ollama 的版本号码,例如
ollama version is 0.1.xx。这表示 Ollama 已经成功安装并可在命令列中使用。
步驟三:下載並執行 DeepSeek 模型
Ollama 透过简单的指令来下载和执行模型。DeepSeek 有多种模型,常见的有通用对话模型 (如 deepseek-llm) 和程式码专用模型 (如 deepseek-coder)。您需要根据需求选择。
-
选择 DeepSeek 模型:
您可以到 Ollama 官方的模型库 (https://ollama.com/library) 搜寻 “deepseek” 来查看可用的模型及其标签 (tags)。常见的模型包括:
deepseek-llm: 通用对话模型,有多种大小 (如 7b, 67b)。deepseek-coder: 专为程式码生成和理解优化的模型,也有多种大小。
模型大小考量: 模型名称后面的数字 (如 7b, 67b) 代表模型的参数数量(b = billion, 十亿)。越大的模型通常能力越强,但也需要更多的记忆体 (RAM) 和更强的硬体。建议从较小的模型 (如 7b) 开始尝试。 -
下載並執行模型 (以 deepseek-coder:7b 為例):
在命令提示字元或 PowerShell 中,执行以下指令。这个指令会自动下载模型(如果尚未下载),然后启动一个互动式对话介面:
ollama run deepseek-coder:7b(如果您想使用通用对话模型,可以执行
ollama run deepseek-llm:7b) -
等待下载:
第一次执行时,Ollama 会开始下载模型档案,这可能需要一些时间,具体取决于您的网路速度和模型大小。您会看到下载进度。
-
开始互动:
下载完成后,您会看到一个提示符 (通常是
>>>或类似符号),表示您可以开始输入文字与 DeepSeek 模型互动了。直接输入您的问题或指令,然后按下 Enter。模型会生成回应。>>> Send a message (/? for help) -
结束互动:
若要退出互动模式,可以输入
/bye或按下Ctrl+D。
硬体需求: 执行大型语言模型需要相对较高的硬体资源,特别是记忆体 (RAM) 和显示卡记忆体 (VRAM,如果使用 GPU 加速)。请确保您的电脑符合所选模型的基本需求。7B 模型通常建议至少有 8GB RAM (CPU 执行) 或 8GB VRAM (GPU 执行)。
常用 Ollama 指令
ollama list:列出您已经下载到本地的模型。ollama pull [model_name]:[tag]:仅下载模型,但不立即执行。例如:ollama pull deepseek-llm:latestollama rm [model_name]:[tag]:删除本地已下载的模型以释放空间。ollama help:显示帮助资讯。
结论
透过以上步骤,您应该已经成功在 Windows 电脑上安装了 Ollama,并能够下载和执行 DeepSeek 模型。现在您可以开始在本地端探索和利用这些强大的 AI 模型了!记得根据您的硬体条件选择合适大小的模型。
