前言
随着大语言模型技术的快速发展,数据隐私与离线使用需求日益增长。将 DeepSeek R1 等开源模型部署到本地环境,不仅能确保数据不出内网,还能避免公共 API 的调用限制与费用。本文将详细介绍两种主流的本地部署方案:基于 Ollama 的轻量级方案与基于 Docker 的容器化方案。
一、环境准备
在开始部署之前,请确保您的计算机满足以下基础要求:
- 操作系统:Windows 10/11, macOS (Intel/Apple Silicon), Linux (Ubuntu/CentOS)。
- 内存 (RAM):建议至少 16GB,运行 7B 参数模型推荐 32GB 以上。
- 显卡 (GPU):NVIDIA 显卡支持 CUDA 加速效果最佳;若无独立显卡,CPU 推理速度较慢但可用。
- 磁盘空间:模型文件通常占用 5GB-20GB 不等,请预留足够空间。
二、方案一:Ollama + Chatbox 集成
此方案适合追求快速上手、无需复杂配置的用户。Ollama 提供了命令行接口,Chatbox 则提供了友好的图形界面。
1. 安装 Ollama
访问 Ollama 官网下载对应操作系统的安装包。安装完成后,系统托盘会出现羊驼图标,表示服务已启动。
2. 拉取 DeepSeek 模型
打开终端(Terminal),输入以下命令拉取并运行 DeepSeek R1 模型:
ollama run deepseek-r1:7b
首次运行会自动下载模型权重,请耐心等待进度条完成。下载完成后,即可直接在终端进行对话测试。
3. 配置 Chatbox 图形界面
为了获得更好的交互体验,推荐使用 Chatbox 客户端。
- 下载 Chatbox:访问 Chatbox 官网下载桌面版应用。
- 连接本地 API:打开 Chatbox 设置,选择"Local API"或"Ollama"选项。
- 配置地址:默认地址通常为
http://localhost:11434。若遇到连接问题,需检查防火墙设置或重启 Ollama 服务。 - 保存并测试:选择已下载的 DeepSeek 模型,发送消息验证响应是否正常。
4. 创建专属智能体
Chatbox 支持自定义 System Prompt。您可以在设置中创建新的角色设定,例如'专业文案助手',通过注入特定的指令来优化模型的输出风格,使其更符合特定业务场景。
三、方案二:Docker + Open WebUI 集成
此方案适合需要多用户管理、语音输入及更高级功能的场景。Open WebUI 是一个功能强大的开源 Web 界面,支持多种后端模型。
1. 安装 Docker
前往 Docker 官网下载并安装 Docker Desktop。安装过程中保持默认设置,并确保 Docker 服务已启动。
2. 部署 Open WebUI
Open WebUI 官方提供了 Docker Compose 或单行 Docker Run 命令。以下是标准的部署命令:
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
该命令会创建一个名为 open-webui 的容器,并将数据持久化存储在本地的 open-webui 卷中。
3. 配置与使用
- 访问界面:浏览器打开 。


