跳到主要内容
极客日志极客日志面向AI+效率的开发者社区
首页博客我的书AI学习GitHub 精选镜像AI工具UI配色美学关于
搜索内容 / 工具 / 仓库 / 镜像...⌘K搜索
注册
博客列表
编程语言AI算法

本地部署 DeepSeek 模型完整教程

在本地离线环境下部署 DeepSeek R1 模型的两种主流方案。第一种基于 Ollama 命令行工具配合 Chatbox 图形界面,适合快速上手;第二种基于 Docker 容器化部署 Open WebUI,支持语音输入及多模态交互。教程涵盖环境准备、安装步骤、配置方法及常见问题排查,帮助用户实现数据隐私保护与低成本使用大模型能力。

清酒独酌发布于 2025/2/6更新于 2026/10/22101 浏览
本地部署 DeepSeek 模型完整教程

前言

随着大语言模型技术的快速发展,数据隐私与离线使用需求日益增长。将 DeepSeek R1 等开源模型部署到本地环境,不仅能确保数据不出内网,还能避免公共 API 的调用限制与费用。本文将详细介绍两种主流的本地部署方案:基于 Ollama 的轻量级方案与基于 Docker 的容器化方案。

一、环境准备

在开始部署之前,请确保您的计算机满足以下基础要求:

  • 操作系统:Windows 10/11, macOS (Intel/Apple Silicon), Linux (Ubuntu/CentOS)。
  • 内存 (RAM):建议至少 16GB,运行 7B 参数模型推荐 32GB 以上。
  • 显卡 (GPU):NVIDIA 显卡支持 CUDA 加速效果最佳;若无独立显卡,CPU 推理速度较慢但可用。
  • 磁盘空间:模型文件通常占用 5GB-20GB 不等,请预留足够空间。

二、方案一:Ollama + Chatbox 集成

此方案适合追求快速上手、无需复杂配置的用户。Ollama 提供了命令行接口,Chatbox 则提供了友好的图形界面。

1. 安装 Ollama

访问 Ollama 官网下载对应操作系统的安装包。安装完成后,系统托盘会出现羊驼图标,表示服务已启动。

2. 拉取 DeepSeek 模型

打开终端(Terminal),输入以下命令拉取并运行 DeepSeek R1 模型:

ollama run deepseek-r1:7b

首次运行会自动下载模型权重,请耐心等待进度条完成。下载完成后,即可直接在终端进行对话测试。

3. 配置 Chatbox 图形界面

为了获得更好的交互体验,推荐使用 Chatbox 客户端。

  1. 下载 Chatbox:访问 Chatbox 官网下载桌面版应用。
  2. 连接本地 API:打开 Chatbox 设置,选择"Local API"或"Ollama"选项。
  3. 配置地址:默认地址通常为 http://localhost:11434。若遇到连接问题,需检查防火墙设置或重启 Ollama 服务。
  4. 保存并测试:选择已下载的 DeepSeek 模型,发送消息验证响应是否正常。

4. 创建专属智能体

Chatbox 支持自定义 System Prompt。您可以在设置中创建新的角色设定,例如'专业文案助手',通过注入特定的指令来优化模型的输出风格,使其更符合特定业务场景。

三、方案二:Docker + Open WebUI 集成

此方案适合需要多用户管理、语音输入及更高级功能的场景。Open WebUI 是一个功能强大的开源 Web 界面,支持多种后端模型。

1. 安装 Docker

前往 Docker 官网下载并安装 Docker Desktop。安装过程中保持默认设置,并确保 Docker 服务已启动。

2. 部署 Open WebUI

Open WebUI 官方提供了 Docker Compose 或单行 Docker Run 命令。以下是标准的部署命令:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

该命令会创建一个名为 open-webui 的容器,并将数据持久化存储在本地的 open-webui 卷中。

3. 配置与使用

  1. 访问界面:浏览器打开 http://localhost:3000。
  2. 注册账号:首次访问需创建管理员账户。
  3. 添加模型:在设置中选择 Ollama 作为后端,输入 http://host.docker.internal:11434 以连接本地 Ollama 服务。
  4. 启用语音:Open WebUI 内置了语音识别功能,点击麦克风图标即可进行语音对话。

四、常见问题排查

  • 连接超时:检查防火墙是否放行了 11434 和 3000 端口。
  • 显存不足:尝试加载量化版本更小的模型(如 3B 或 7B 量化版)。
  • 模型加载失败:确认网络连接正常,或手动下载模型文件后放入本地目录。

五、总结

通过上述两种方案,您可以灵活地在本地构建私有化的 AI 助手。Ollama 方案简洁高效,适合个人开发;Docker 方案功能丰富,适合团队协作。无论选择哪种方式,核心目标都是实现数据的自主可控与低成本的大模型应用落地。

目录

  1. 前言
  2. 一、环境准备
  3. 二、方案一:Ollama + Chatbox 集成
  4. 1. 安装 Ollama
  5. 2. 拉取 DeepSeek 模型
  6. 3. 配置 Chatbox 图形界面
  7. 4. 创建专属智能体
  8. 三、方案二:Docker + Open WebUI 集成
  9. 1. 安装 Docker
  10. 2. 部署 Open WebUI
  11. 3. 配置与使用
  12. 四、常见问题排查
  13. 五、总结

更多推荐文章

查看全部
  • 自然语言处理在金融领域的应用与实战
  • C++ unordered_map 与 unordered_set 核心原理及模拟实现
  • 基于Python的多模态数据分块存储优化实践
  • HexHub:集成数据库、SSH 与 Docker 的一站式运维工具
  • 汽车雷达多径环境下幽灵目标检测技术解析
  • 网络安全挖洞实战指南:工具准备与漏洞提交流程
  • Django Web 框架实战:从零构建产品管理系统
  • C++ STL 标准库算法详解与实战
  • 秋田中文离线地图 App 上线
  • 构建离线私有 GPT:实现本地大模型与文档问答
  • Python+Agent 入门实战:从零搭建 AI 智能体
  • 热门开源 AI 大模型项目推荐与适用场景分析
  • 重读《人人都是产品经理》:AI 时代的经典内核与产品实践
  • GitHub Copilot 安装配置与核心功能详解
  • Linux 进程优先级与 O(1) 调度算法解析
  • Java 线程池:核心原理、参数配置与实战应用
  • LLM Prompt 万能框架:多层次架构解析与实践
  • Ubuntu 下安装与配置 AMULE 客户端
  • 大模型后训练技术全解析:Llama3.1、DeepSeek-V3 等关键实践
  • C++反向迭代器实现、逆波兰表达式与计算器实现

相关免费在线工具

  • 加密/解密文本

    使用加密算法(如AES、TripleDES、Rabbit或RC4)加密和解密文本明文。 在线工具,加密/解密文本在线工具,online

  • RSA密钥对生成器

    生成新的随机RSA私钥和公钥pem证书。 在线工具,RSA密钥对生成器在线工具,online

  • Mermaid 预览与可视化编辑

    基于 Mermaid.js 实时预览流程图、时序图等图表,支持源码编辑与即时渲染。 在线工具,Mermaid 预览与可视化编辑在线工具,online

  • 随机西班牙地址生成器

    随机生成西班牙地址(支持马德里、加泰罗尼亚、安达卢西亚、瓦伦西亚筛选),支持数量快捷选择、显示全部与下载。 在线工具,随机西班牙地址生成器在线工具,online

  • Gemini 图片去水印

    基于开源反向 Alpha 混合算法去除 Gemini/Nano Banana 图片水印,支持批量处理与下载。 在线工具,Gemini 图片去水印在线工具,online

  • Base64 字符串编码/解码

    将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具,Base64 字符串编码/解码在线工具,online