DeepSeek-R1 本地部署指南
DeepSeek-R1 是一款开源的大语言模型。由于访问人数过多,在线服务经常反应迟缓。通过本地部署,可以在自己的电脑上随时使用,且无需联网即可运行。
环境准备
本教程基于 Ollama 工具进行部署。Ollama 是一个用于在本地运行大模型的轻量级工具,支持 Windows、macOS 和 Linux 系统。
硬件要求
- 内存:建议至少 16GB RAM。
- 显存:若使用 GPU 加速,建议至少 8GB VRAM(针对 7B 版本)。
- 存储:根据选择的模型大小预留相应空间(1.5B 约需 3GB,70B 约需 40GB+)。
安装 Ollama
- 访问 Ollama 官网下载对应系统的安装包。
- 按照提示完成安装流程。
- 安装完成后,打开命令行工具(Windows 下按
Win + R输入cmd,Mac/Linux 下打开 Terminal)。 - 输入以下命令验证安装是否成功:
如果显示版本号,则说明安装成功。ollama --version
下载并部署 DeepSeek 模型
Ollama 提供了多种版本的 DeepSeek-R1 模型,从 1.5B 到 70B 不等。不同版本基于不同的基座模型(如 Qwen、Llama 等)进行蒸馏或微调。
拉取模型
在命令行中执行以下命令拉取对应的模型。例如,拉取 1.5B 版本:
ollama run deepseek-r1:1.5b
其他版本命令如下:
| 模型版本 | 命令 |
|---|---|
| 1.5B (Qwen) | ollama run deepseek-r1:1.5b |
| 7B (Qwen) | ollama run deepseek-r1:7b |
| 8B (Llama) | ollama run deepseek-r1:8b |
| 14B (Qwen) | ollama run deepseek-r1:14b |
| 32B (Qwen) | ollama run deepseek-r1:32b |
| 70B (Llama) | ollama run deepseek-r1:70b |
复制上述命令到终端并按回车键,系统将自动下载模型权重。首次运行可能需要较长时间,取决于网络速度和硬盘读写性能。
使用与交互
命令行交互
模型下载完成后,可以直接在命令行窗口中与模型对话。输入问题后,模型会直接返回回答。
若要退出当前会话,可输入 /bye 或按 Ctrl + C。
查看已安装模型
使用以下命令查看本地已下载的模型列表:


