Ubuntu 25.04私有大模型部署实战：Ollama+DeepSeek+OpenWebUI完全指南

优质文章学习记录

— 5 min read
Ubuntu 25.04私有大模型部署实战：Ollama+DeepSeek+OpenWebUI完全指南

Ubuntu 25.04私有大模型部署实战：Ollama+DeepSeek+OpenWebUI完全指南

作为一名技术爱好者，我对本地部署大型语言模型充满热情。在Ubuntu 25.04上搭建完整的私有AI环境（Ollama + DeepSeek + OpenWebUI）让我收获颇丰，也踩过不少坑。本文将分享零基础搭建流程、性能调优技巧和实用问题解决方案，助你快速拥有专属AI助手。

前置环境准备

推荐使用Ubuntu 25.04 Server版（最小化安装），配置要求：

  • CPU：4核及以上（建议Intel i7+/Ryzen 5+）
  • 内存：32GB以上（运行32B模型需要）
  • 显卡：NVIDIA RTX 3060 12GB+（显存越大越好）
  • 存储：至少100GB SSD空间

系统优化建议：

# 禁用自动更新降低系统中断几率sudosed-i's/Update-Package-Lists "1"/Update-Package-Lists "0"/g' /etc/apt/apt.conf.d/10periodic # 调整Swappiness提升内存使用效率echo"vm.swappiness=10"|sudotee /etc/sysctl.d/99-swappiness.conf sudosysctl-p

一、核心组件安装

1. Ollama服务部署

Ollama是本地大模型运行引擎，支持多种开源模型：

# 添加Ollama官方源curl-fsSL https://ollama.com/install.sh |sh# 创建专用系统用户（提高安全性）sudouseradd-r-s /bin/false -m-d /opt/ollama ollama

服务配置文件(/etc/systemd/system/ollama.service)是关键，下面是我优化后的版本：

[Unit] Description=Ollama Service After=network-online.target Requires=network-online.target [Service] ExecStart=/usr/bin/ollama serve User=ollama Group=ollama Restart=on-failure RestartSec=30s StartLimitIntervalSec=60 StartLimitBurst=5 # 环境变量配置 Environment="PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/opt/cuda/bin" Environment="CUDA_VISIBLE_DEVICES=0,1" # 指定使用哪几张显卡 Environment="OLLAMA_SCHED_SPREAD=1" # 多卡负载均衡 Environment="OLLAMA_KEEP_ALIVE=-1" # 模型常驻内存不卸载 Environment="OLLAMA_HOST=0.0.0.0" # 开放远程访问 Environment="OLLAMA_ORIGINS=*" # 允许所有跨域请求 Environment="OLLAMA_MODELS=/data/ollama" # 自定义模型存放路径 # 资源限制（根据硬件调整） MemoryHigh=24G MemoryMax=26G CPUQuota=300% [Install] WantedBy=multi-user.target

启动服务：

sudo systemctl daemon-reload sudo systemctl enable--now ollama

2. DeepSeek模型加载

DeepSeek是一款优秀的中文大模型，本地部署步骤：

# 下载模型（约25GB） ollama pull deepseek-coder:33b # 测试模型运行 ollama run deepseek-coder "用Python写一个快速排序函数"

为提升加载速度，可创建本地模型缓存：

mkdir-p /data/ollama/.ollama/models/blobs ln-s /data/ollama/.ollama/models /usr/share/ollama

3. OpenWebUI可视化界面

使用国内镜像源加速下载：

# 拉取镜像sudodocker pull ghcr.m.daocloud.io/open-webui/open-webui:main # 持久化存储目录准备mkdir-p /data/open-webui/{database,cache}chmod755 /data/open-webui

运行容器（特别注意网络配置）：

docker run -d\-p3000:8080 \--name open-webui \--restart always \ --add-host=host.docker.internal:host-gateway \-v /data/open-webui:/app/backend/data \-eOLLAMA_BASE_URL=http://172.17.0.1:11434 \ ghcr.m.daocloud.io/open-webui/open-webui:main

验证容器连通性：

dockerexec open-webui curl-Is http://172.17.0.1:11434 |head-1# 应返回 "HTTP/1.1 200 OK"

二、性能调优实战

1.GPU资源共享配置

# 安装NVIDIA容器工具包curl-sL https://nvidia.github.io/libnvidia-container/gpgkey \|sudo gpg --dearmor-o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg echo"deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] \ https://nvidia.github.io/libnvidia-container/stable/ubuntu25.04/$(arch) /"\|sudotee /etc/apt/sources.list.d/nvidia-container-toolkit.list sudoapt update &&sudoaptinstall-y nvidia-container-toolkit

修改Docker配置(/etc/docker/daemon.json)：

{"runtimes":{"nvidia":{"path":"/usr/bin/nvidia-container-runtime","runtimeArgs":[]}},"default-runtime":"nvidia"}

2.模型热加载优化

创建自动加载脚本(/usr/local/bin/ollama-autoload)：

#!/bin/bashMODELS=("deepseek-coder:33b""llama3:70b")forMODELin${MODELS[@]};docurl-X POST http://localhost:11434/api/pull -d'{"name": "'$MODEL'"}'done

添加到crontab：

(crontab -l;echo"@reboot /usr/local/bin/ollama-autoload")|crontab -

三、故障排查指南

1. OpenWebUI无法连接Ollama

# 容器内部测试dockerexec-it open-webui ping172.17.0.1 # 检查端口映射sudo ss -tulnp|grep11434# 临时关闭防火墙测试sudo ufw disable

2. 模型加载异常

查看详细日志：

journalctl -u ollama -f-n100

常见解决方案：

  1. 检查磁盘空间 df -h /data
  2. 验证模型完整性 ollama ls
  3. 调整显存分配（在小型卡上使用较小模型）

3. CUDA内存溢出

编辑~/.ollama/config.json：

{"num_gpu":1,"num_thread":6,"max_vram":10000// MB为单位}

四、安全加固建议

  1. 添加访问认证：
docker run ... -eOPENWEBUI_SECRET_KEY=YourStrongKey ...
  1. 配置HTTPS：
# 使用Let's Encrypt证书docker run -d\-p443:8080 \-v /etc/letsencrypt:/etc/letsencrypt \-eOPENWEBUI_SECURE_COOKIES=true \...其他参数...

五、实际效果展示

完成部署后，浏览器访问 http://your-server-ip:3000 即可使用：

  1. 支持多会话管理
  2. 提供模型切换面板
  3. 中文问答响应速度约5-8 tokens/秒（RTX 4090）
  4. 本地运行API支持：
curl http://localhost:11434/api/generate -d'{ "model": "deepseek-coder:33b", "prompt": "解释量子纠缠现象", "stream": false }'

六、总结与建议

通过本方案部署的私有AI环境具有:

  • 高性价比：完全本地运行，无API调用费用
  • 隐私安全：敏感数据不出内网
  • 灵活扩展：支持200+ HuggingFace模型

系统监控建议：

  • 使用nvtop监控GPU状态
  • 配置Prometheus+Granfa监控服务健康度
  • 设置日志轮转防止磁盘写满
经过一周的稳定运行测试，这套环境成功应对了日常开发辅助、技术文档撰写和编程问题解决等场景，是值得投入的生产力工具。期待你也成功部署属于自己的AI助手！

Read more

2026年最火的前端神器！让AI帮你设计专业级UI，告别丑陋界面

2026年最火的前端神器！让AI帮你设计专业级UI，告别丑陋界面

痛点引入 你是否遇到过这些问题： * 写代码很溜，但设计的界面总是"程序员审美"？ * 不知道该用什么颜色、字体，每次都要花大量时间调样式？ * 想让 AI 帮你写 UI 代码，但生成的界面总是千篇一律、毫无设计感？ * 看到别人的网站那么漂亮，自己却不知道从何下手？ 如果你有以上困扰，那么今天要介绍的这个工具，将彻底改变你的开发体验！ 🎯 UI UX Pro Max 是什么？ UI UX Pro Max 是一个为 AI 编码助手提供设计智能的工具，它就像给你的 AI 助手配备了一个专业的 UI/UX 设计师大脑。 简单来说：它让 AI 不仅会写代码，还懂设计！ 核心数据 * ✅ 57 种 UI 样式：
【Java Web学习 | 第15篇】jQuery（万字长文警告）

【Java Web学习 | 第15篇】jQuery（万字长文警告）

🌈个人主页: Hygge_Code🔥热门专栏:从0开始学习Java | Linux学习| 计算机网络💫个人格言: “既然选择了远方，便不顾风雨兼程” 文章目录 * 从零开始学 jQuery * jQuery 核心知识🥝 * 一、jQuery 简介：为什么选择它？ * 1. 核心用途 * 2. 核心优势 * 3. 下载与引入 * 二、jQuery 语法：基础与选择器 * 1. 常用选择器 * 2. ready 方法：确保文档加载完成 * 三、DOM 元素操作：内容、属性、样式 * 1. 操作元素内容 * 2. 操作元素属性 * 3. 操作元素样式 * （1）操作宽度与高度 * （2）
【OpenClaw从入门到精通】：Web控制台使用全解析——可视化配置与监控（2026实操版）

【OpenClaw从入门到精通】：Web控制台使用全解析——可视化配置与监控（2026实操版）

【OpenClaw从入门到精通】：Web控制台使用全解析——可视化配置与监控（2026实操版） 引言 在OpenClaw的多种管理方式中，Web控制台提供了最直观、最友好的用户体验。通过图形化界面，用户可以轻松完成复杂的配置任务，实时监控系统状态，以及进行各种管理操作。对于不熟悉命令行的用户来说，Web控制台是最佳选择。 本文将详细介绍OpenClaw Web控制台的各项功能，从基本操作到高级配置，从实时监控到数据分析。通过本文的学习，你将掌握Web控制台的使用技巧，能够高效地管理和监控OpenClaw系统。 Web控制台概览 访问方式 基本访问 # 启动Gateway服务 openclaw gateway --port18789--verbose# 打开浏览器访问 http://127.0.0.1:18789/ 安全