安装 Ollama 并执行 DeepSeek 模型指南

安装 Ollama 并执行 DeepSeek 模型指南 (Windows)

安装 Ollama 并执行 DeepSeek 模型指南 (Windows)

Ollama 是一个开源工具,让您可以在本地端轻松下载、安装并执行各种大型语言模型 (LLM),包括 DeepSeek 系列模型。本指南将引导您完成在 Windows 系统上的安装与设定过程。

步驟一:下載並安裝 Ollama

  1. 前往 Ollama 官方网站: 开启您的网页浏览器,前往 https://ollama.com/
  2. 下载 Windows 版本: 在首页通常会直接看到下载按钮。点击 “Download for Windows” 按钮下载 Ollama 的安装程式 (OllamaSetup.exe)。 Ollama 网站下载按钮示意图
  3. 执行安装程式: 下载完成后,找到 OllamaSetup.exe 档案并执行它。
  4. 依照安装精灵指示: 通常只需点击 “Install” 或 “Next”,并同意授权条款即可完成安装。安装程式会将 Ollama 设定为背景服务,并将其命令列工具加入到系统路径中。 Ollama Windows 安装程式示意图
  5. 安装完成: 安装成功后,Ollama 会在系统匣 (System Tray) 中显示一个图示,表示其服务正在背景执行。
提示: 安装过程可能会需要系统管理员权限。

步驟二:驗證 Ollama 安裝

  1. 开启命令提示字元或 PowerShell: 您可以按下 Win + R 键,输入 cmdpowershell,然后按下 Enter。
  2. 执行 Ollama 指令: 在命令提示字元或 PowerShell 视窗中,输入以下指令并按下 Enter:
    ollama --version
  3. 确认输出: 如果安装成功,您应该会看到 Ollama 的版本号码,例如 ollama version is 0.1.xx。这表示 Ollama 已经成功安装并可在命令列中使用。

步驟三:下載並執行 DeepSeek 模型

Ollama 透过简单的指令来下载和执行模型。DeepSeek 有多种模型,常见的有通用对话模型 (如 deepseek-llm) 和程式码专用模型 (如 deepseek-coder)。您需要根据需求选择。

  1. 选择 DeepSeek 模型: 您可以到 Ollama 官方的模型库 (https://ollama.com/library) 搜寻 “deepseek” 来查看可用的模型及其标签 (tags)。常见的模型包括:
    • deepseek-llm: 通用对话模型,有多种大小 (如 7b, 67b)。
    • deepseek-coder: 专为程式码生成和理解优化的模型,也有多种大小。
    模型大小考量: 模型名称后面的数字 (如 7b, 67b) 代表模型的参数数量(b = billion, 十亿)。越大的模型通常能力越强,但也需要更多的记忆体 (RAM) 和更强的硬体。建议从较小的模型 (如 7b) 开始尝试。
  2. 下載並執行模型 (以 deepseek-coder:7b 為例): 在命令提示字元或 PowerShell 中,执行以下指令。这个指令会自动下载模型(如果尚未下载),然后启动一个互动式对话介面:
    ollama run deepseek-coder:7b

    (如果您想使用通用对话模型,可以执行 ollama run deepseek-llm:7b)

  3. 等待下载: 第一次执行时,Ollama 会开始下载模型档案,这可能需要一些时间,具体取决于您的网路速度和模型大小。您会看到下载进度。 Ollama 模型下载进度示意图
  4. 开始互动: 下载完成后,您会看到一个提示符 (通常是 >>> 或类似符号),表示您可以开始输入文字与 DeepSeek 模型互动了。
    >>> Send a message (/? for help)
    直接输入您的问题或指令,然后按下 Enter。模型会生成回应。
  5. 结束互动: 若要退出互动模式,可以输入 /bye 或按下 Ctrl + D
硬体需求: 执行大型语言模型需要相对较高的硬体资源,特别是记忆体 (RAM) 和显示卡记忆体 (VRAM,如果使用 GPU 加速)。请确保您的电脑符合所选模型的基本需求。7B 模型通常建议至少有 8GB RAM (CPU 执行) 或 8GB VRAM (GPU 执行)。

常用 Ollama 指令

  • ollama list:列出您已经下载到本地的模型。
  • ollama pull [model_name]:[tag]:仅下载模型,但不立即执行。例如:
    ollama pull deepseek-llm:latest
  • ollama rm [model_name]:[tag]:删除本地已下载的模型以释放空间。
  • ollama help:显示帮助资讯。

结论

透过以上步骤,您应该已经成功在 Windows 电脑上安装了 Ollama,并能够下载和执行 DeepSeek 模型。现在您可以开始在本地端探索和利用这些强大的 AI 模型了!记得根据您的硬体条件选择合适大小的模型。

发表回复

3
AI智能助手
WhatsApp
电子邮件
AI智能助手
WhatsApp
电子邮件
AI智能助手
重要声明:AI的响应速度可能较慢。AI提供的信息仅供参考,本公司对其准确性或完整性不承担任何责任。AI回复不代表本公司立场。

欢迎!我在这里为您解答关于 的任何问题。

02:19