跳到主要内容
极客日志极客日志面向AI+效率的开发者社区
首页博客我的书AI学习GitHub 精选镜像AI 生图工具UI配色美学关于
搜索内容 / 工具 / 仓库 / 镜像...⌘K搜索
注册
博客列表
PythonAI算法

基于 Ollama 快速部署 DeepSeek 本地大模型

如何在本地环境中使用 Ollama 框架部署 DeepSeek 大模型,并通过 Open WebUI 提供图形化界面。内容涵盖系统环境准备、Ollama 安装配置、模型拉取以及 WebUI 部署步骤,包含常见问题排查与最佳实践建议,帮助用户实现离线运行大语言模型。

w795471发布于 2025/2/6更新于 2026/9/958 浏览
基于 Ollama 快速部署 DeepSeek 本地大模型

基于 Ollama 快速部署 DeepSeek 本地大模型

在人工智能飞速发展的今天,将大语言模型(LLM)部署到本地环境已成为许多开发者和爱好者的需求。本地部署不仅能保护数据隐私,还能实现离线使用。本文将详细介绍如何使用 Ollama 框架和 Open WebUI 快速在本地搭建 DeepSeek 大模型。

一、环境准备

在开始之前,请确保您的计算机满足以下基本要求:

  • 操作系统:Windows 10/11, macOS (Intel/Apple Silicon), 或 Linux。
  • 内存 (RAM):建议至少 8GB,运行较大模型推荐 16GB 以上。
  • 存储:预留 5GB - 20GB 空间用于模型文件下载。
  • Python 版本:安装 Open WebUI 需要 Python 3.11 环境,请勿使用更高版本以免出现兼容性问题。

二、安装 Ollama 服务

Ollama 是一个专为在本地机器上便捷部署和运行大型语言模型而设计的开源框架。你可以将其视为一个管理 LLM 的容器工具。

1. 下载安装

访问 Ollama 官网下载对应系统的安装包:

  • Windows: https://ollama.com/download/windows
  • macOS: https://ollama.com/download/macos
  • Linux: curl -fsSL https://ollama.com/install.sh | sh

2. 启动服务

安装完成后,直接运行 Ollama Setup。安装过程通常只需点击'下一步'即可。安装成功后,系统托盘区域会出现 Ollama 图标(部分版本显示为小猪猪图标),表示后台服务已启动。

验证安装是否成功,可在终端输入:

ollama --version

若输出版本号,则说明安装无误。

三、拉取 DeepSeek 模型

Ollama 支持多种模型,DeepSeek-R1 是其中性能优异的选择之一。根据设备容量选择合适的量化版本,一般推荐选择 1.5B 或 7B 版本以平衡速度与效果。

1. 选择模型

在命令行窗口中执行以下命令拉取模型:

ollama run deepseek-r1:1.5b

如果网络较慢,建议使用国内镜像源加速。

2. 等待下载

首次运行时会自动下载模型权重文件,请耐心等待下载完成。下载完成后,即可直接在终端与模型进行对话测试。

四、安装 Open WebUI 图形界面

如果你不喜欢纯命令行交互,希望拥有类似豆包或 ChatGPT 的 Web 界面,可以安装 Open WebUI。

1. 配置 Python 环境

Open WebUI 依赖 Python 环境,需确保已安装 Python 3.11。

  • 前往 Python 官网下载 Python 3.11.9 安装包。
  • 安装时务必勾选 "Add python 3.11 to Path" 选项。
  • 建议自定义安装路径,且路径中不要包含中文字符。

验证 Python 版本:

python --version

输出应包含 Python 3.11.x。

2. 安装 Open WebUI

打开命令行工具(CMD 或 PowerShell),输入以下命令安装 Open WebUI:

pip install open-webui

此过程会下载并安装相关依赖包,可能需要几分钟时间。

3. 配置环境变量

为了确保命令能全局调用,需要将 Open WebUI 的可执行文件路径添加到系统环境变量中。

  • 找到 open_webui.exe 的安装位置(通常在 site-packages 目录下)。
  • 将该路径添加到系统的 Path 环境变量中。

4. 启动服务

配置完成后,在命令行输入以下命令启动服务:

open-webui serve

启动成功后,终端会显示监听地址,通常为 http://127.0.0.1:8080/。

5. 访问界面

打开浏览器,访问 http://127.0.0.1:8080/,即可进入 WebUI 界面。首次使用可能需要注册账号或设置密码,具体取决于配置。

五、常见问题排查

  1. 端口冲突:如果 8080 端口被占用,可以在启动命令中添加端口参数,例如 open-webui serve --port 8081。
  2. 模型加载失败:检查网络连接,确保能访问 HuggingFace 或 Ollama 仓库。尝试更换镜像源。
  3. Python 版本不兼容:务必使用 Python 3.11,高版本可能导致依赖库报错。
  4. 内存不足:如果运行大模型时报错,尝试关闭其他占用内存的程序,或选择更小参数量(如 1.5B)的模型。

六、进阶配置

对于生产环境或更稳定的使用体验,推荐使用 Docker 方式部署 Open WebUI,这样可以隔离环境依赖,避免污染本地 Python 环境。

Docker 部署示例:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui ollama/open-webui

此外,可以通过修改配置文件来调整模型的上下文长度、温度参数等,以获得更好的生成效果。

七、总结

通过上述步骤,您已成功在本地构建了基于 DeepSeek 的大模型应用。本地部署不仅保障了数据隐私,还让您能够灵活地探索 AI 技术的边界。随着硬件性能的不断提升,本地运行大模型将成为常态。建议定期关注 Ollama 和 Open WebUI 的更新,以获取最新的模型支持和功能优化。

目录

  1. 基于 Ollama 快速部署 DeepSeek 本地大模型
  2. 一、环境准备
  3. 二、安装 Ollama 服务
  4. 1. 下载安装
  5. 2. 启动服务
  6. 三、拉取 DeepSeek 模型
  7. 1. 选择模型
  8. 2. 等待下载
  9. 四、安装 Open WebUI 图形界面
  10. 1. 配置 Python 环境
  11. 2. 安装 Open WebUI
  12. 3. 配置环境变量
  13. 4. 启动服务
  14. 5. 访问界面
  15. 五、常见问题排查
  16. 六、进阶配置
  17. 七、总结

更多推荐文章

查看全部
  • 主流 AI 绘图软件盘点及 Midjourney 使用教程
  • 基于 Flux 模型的本地 AI 绘画部署与使用指南
  • Flutter 三方库 discord_interactions 的鸿蒙化适配指南
  • Java I/O 操作详解
  • 深入理解强化学习:近端策略优化(PPO)算法详解
  • Trae AI 辅助编程实战指南:从入门到提效
  • AI 中的 Skills 详解:核心机制与场景应用
  • 大厂 AI 人才争夺战:哪些技术职位最火爆?
  • 前端开发必备:配色、素材与图标资源站精选
  • OpenHarmony 开发:使用 cached_query 实现高性能声明式数据缓存
  • C 语言快速排序详解与优化实现
  • Shell 脚本中 date 命令常用技巧与实战
  • GitHub 核心概念与开发协作指南
  • IDEA 插件开发:Swing 图形界面设计指南
  • Rust WebAssembly 与 Three.js 结合的高性能粒子系统实战
  • Python 技术生态全景:Web 开发、数据科学与自动化实战
  • GitHub Copilot Agent 模式使用经验与配置指南
  • 前端地图开发:主流 SDK 引入方式与初始化配置详解
  • Mac 环境下 LLaMA Factory 微调模型及 Ollama 部署实践
  • Python GIL 深度解析:原理、实现与优化策略

相关免费在线工具

  • 加密/解密文本

    使用加密算法(如AES、TripleDES、Rabbit或RC4)加密和解密文本明文。 在线工具,加密/解密文本在线工具,online

  • RSA密钥对生成器

    生成新的随机RSA私钥和公钥pem证书。 在线工具,RSA密钥对生成器在线工具,online

  • Mermaid 预览与可视化编辑

    基于 Mermaid.js 实时预览流程图、时序图等图表,支持源码编辑与即时渲染。 在线工具,Mermaid 预览与可视化编辑在线工具,online

  • 随机西班牙地址生成器

    随机生成西班牙地址(支持马德里、加泰罗尼亚、安达卢西亚、瓦伦西亚筛选),支持数量快捷选择、显示全部与下载。 在线工具,随机西班牙地址生成器在线工具,online

  • Gemini 图片去水印

    基于开源反向 Alpha 混合算法去除 Gemini/Nano Banana 图片水印,支持批量处理与下载。 在线工具,Gemini 图片去水印在线工具,online

  • curl 转代码

    解析常见 curl 参数并生成 fetch、axios、PHP curl 或 Python requests 示例代码。 在线工具,curl 转代码在线工具,online