基于 Ollama 快速部署 DeepSeek 本地大模型
本文介绍了如何在本地环境中使用 Ollama 框架部署 DeepSeek 大模型,并通过 Open WebUI 提供图形化界面。内容涵盖系统环境准备、Ollama 安装配置、模型拉取以及 WebUI 部署步骤,包含常见问题排查与最佳实践建议,帮助用户实现离线运行大语言模型。

本文介绍了如何在本地环境中使用 Ollama 框架部署 DeepSeek 大模型,并通过 Open WebUI 提供图形化界面。内容涵盖系统环境准备、Ollama 安装配置、模型拉取以及 WebUI 部署步骤,包含常见问题排查与最佳实践建议,帮助用户实现离线运行大语言模型。

在人工智能飞速发展的今天,将大语言模型(LLM)部署到本地环境已成为许多开发者和爱好者的需求。本地部署不仅能保护数据隐私,还能实现离线使用。本文将详细介绍如何使用 Ollama 框架和 Open WebUI 快速在本地搭建 DeepSeek 大模型。
在开始之前,请确保您的计算机满足以下基本要求:
Ollama 是一个专为在本地机器上便捷部署和运行大型语言模型而设计的开源框架。你可以将其视为一个管理 LLM 的容器工具。
访问 Ollama 官网下载对应系统的安装包:
curl -fsSL https://ollama.com/install.sh | sh安装完成后,直接运行 Ollama Setup。安装过程通常只需点击'下一步'即可。安装成功后,系统托盘区域会出现 Ollama 图标(部分版本显示为小猪猪图标),表示后台服务已启动。
验证安装是否成功,可在终端输入:
ollama --version
若输出版本号,则说明安装无误。
Ollama 支持多种模型,DeepSeek-R1 是其中性能优异的选择之一。根据设备容量选择合适的量化版本,一般推荐选择 1.5B 或 7B 版本以平衡速度与效果。
在命令行窗口中执行以下命令拉取模型:
ollama run deepseek-r1:1.5b
如果网络较慢,建议使用国内镜像源加速。
首次运行时会自动下载模型权重文件,请耐心等待下载完成。下载完成后,即可直接在终端与模型进行对话测试。
如果你不喜欢纯命令行交互,希望拥有类似豆包或 ChatGPT 的 Web 界面,可以安装 Open WebUI。
Open WebUI 依赖 Python 环境,需确保已安装 Python 3.11。
验证 Python 版本:
python --version
输出应包含 Python 3.11.x。
打开命令行工具(CMD 或 PowerShell),输入以下命令安装 Open WebUI:
pip install open-webui
此过程会下载并安装相关依赖包,可能需要几分钟时间。
为了确保命令能全局调用,需要将 Open WebUI 的可执行文件路径添加到系统环境变量中。
open_webui.exe 的安装位置(通常在 site-packages 目录下)。Path 环境变量中。配置完成后,在命令行输入以下命令启动服务:
open-webui serve
启动成功后,终端会显示监听地址,通常为 http://127.0.0.1:8080/。
打开浏览器,访问 http://127.0.0.1:8080/,即可进入 WebUI 界面。首次使用可能需要注册账号或设置密码,具体取决于配置。
open-webui serve --port 8081。对于生产环境或更稳定的使用体验,推荐使用 Docker 方式部署 Open WebUI,这样可以隔离环境依赖,避免污染本地 Python 环境。
Docker 部署示例:
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui ollama/open-webui
此外,可以通过修改配置文件来调整模型的上下文长度、温度参数等,以获得更好的生成效果。
通过上述步骤,您已成功在本地构建了基于 DeepSeek 的大模型应用。本地部署不仅保障了数据隐私,还让您能够灵活地探索 AI 技术的边界。随着硬件性能的不断提升,本地运行大模型将成为常态。建议定期关注 Ollama 和 Open WebUI 的更新,以获取最新的模型支持和功能优化。

微信公众号「极客日志」,在微信中扫描左侧二维码关注。展示文案:极客日志 zeeklog
使用加密算法(如AES、TripleDES、Rabbit或RC4)加密和解密文本明文。 在线工具,加密/解密文本在线工具,online
生成新的随机RSA私钥和公钥pem证书。 在线工具,RSA密钥对生成器在线工具,online
基于 Mermaid.js 实时预览流程图、时序图等图表,支持源码编辑与即时渲染。 在线工具,Mermaid 预览与可视化编辑在线工具,online
解析常见 curl 参数并生成 fetch、axios、PHP curl 或 Python requests 示例代码。 在线工具,curl 转代码在线工具,online
将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具,Base64 字符串编码/解码在线工具,online
将字符串、文件或图像转换为其 Base64 表示形式。 在线工具,Base64 文件转换器在线工具,online