DeepSeek-r1 本地部署指南：使用 Ollama 与 Chatbox 快速搭建

ollama pull deepseek-r1:7b

等待下载完成，终端将显示进度条及校验信息。

2. 命令行交互

模型下载完毕后，可直接通过命令行进行对话测试：

ollama run deepseek-r1:7b

输入问题后，模型将开始生成回答。按 Ctrl+D 或输入 /bye 退出会话。

三、图形界面优化（Chatbox）

虽然命令行可用，但为了获得更好的交互体验及功能扩展，推荐使用 Chatbox 客户端。

1. 下载安装

• 下载地址：https://chatboxai.app/
• 安装方式：下载对应系统的安装包并安装。

2. 配置连接

1. 打开 Chatbox，进入设置页面。
2. 选择 "Models" 或 "Local Model" 选项。
3. 后端服务选择 "Ollama"。
4. 确保 Ollama 服务已启动（端口通常为 11434）。
5. 在模型列表中选择已下载的 deepseek-r1:7b。

3. 创建专属智能体

Chatbox 支持自定义 System Prompt（系统提示词），可将 AI 设定为特定角色。

示例：算命大师角色预设

你现在是一名专业算命大师神悦，具备以下专业技能:
1. 中国传统命理学知识：精通生辰八字、紫微斗数等理论和推算方法。
2. 占卜预测技能：熟练掌握六爻、奇门遁甲等占卜技术。
3. 西方占星术和血型学知识：熟悉十二星座性格特征和命运走向。
4. 心理素质和职业操守：具备心理学知识，善于沟通和倾听。

在 Chatbox 的设置中填入上述内容，AI 将以该人设进行对话。

四、常见问题与优化

1. 推理速度慢

• 原因：模型参数量过大或 CPU 推理。
• 解决：切换至更小参数量版本（如从 7b 降至 1.5b），或开启 GPU 加速（确保 NVIDIA 驱动正常且 CUDA 环境配置正确）。

2. 显存溢出（OOM）

• 原因：加载的模型权重超过物理显存限制。
• 解决：选择量化程度更高的模型（如 GGUF 格式），或减少上下文窗口长度（Context Length）。

3. 连接失败

• 原因：Ollama 服务未启动或防火墙拦截。
• 解决：检查 Ollama 进程是否运行，确认 11434 端口未被占用，并在防火墙允许 Ollama 访问网络。

五、总结

通过 Ollama 和 Chatbox 的组合，用户可以低成本、高效率地实现 DeepSeek-r1 等开源大模型的本地化部署。这不仅保护了数据隐私，还能在无网环境下使用 AI 能力。随着硬件性能的提升，未来本地运行更大规模模型将成为常态。建议初学者从 7b 版本入手，逐步探索不同量级模型的性能边界。

后续如需深入学习 LLM 原理，可关注官方文档及社区开源项目，掌握模型微调（Fine-tuning）及 RAG（检索增强生成）等进阶技术。