Open-WebUI 本地部署指南：打造私有化 AI 对话界面

# 进入目录
cd /usr/local/src
# 创建目录
mkdir /usr/local/ollama
# 解压到创建的目录
tar -xzvf ollama-linux-amd64.tgz -C /usr/local/ollama
# 创建运行用户和用户组
sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)
# 添加环境变量
echo "PATH=$PATH:/usr/local/ollama/bin" >> /etc/profile
# 环境变量生效
source /etc/profile

配置 Linux 服务

创建 systemd 服务文件：

vim /etc/systemd/system/ollama.service

写入以下内容：

[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/local/ollama/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="OLLAMA_HOST=0.0.0.0"
# 关键配置：允许外部访问

[Install]
WantedBy=multi-user.target

启动并设置开机自启：

# 重新载入配置
sudo systemctl daemon-reload
# 启动服务
sudo systemctl start ollama
# 查看状态
sudo systemctl status ollama
# 开机启动
sudo systemctl enable ollama

下载模型

# 查看已安装的模型
ollama list
# 拉取模型，这里演示拉取 qwen3:0.6b 模型，大小约 523MB
ollama pull qwen3:0.6b
# 查看模型详情
ollama show qwen3:0.6b
# 测试
curl http://localhost:11434/api/generate -d '{ "model": "qwen3:0.6b", "prompt":"介绍一下 React，20 字以内" }'

Open WebUI 安装

Open WebUI 支持多种安装方式，推荐使用 Docker 部署（最简单高效），也可通过源码编译安装（适合需要定制开发的场景）。

执行命令（假设服务器 IP 为 192.168.31.254，本机运行）：

docker run -d -p 3000:8080 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.nju.edu.cn/open-webui/open-webui:main

• -p 3000:8080：将容器内 8080 端口映射到本地 3000 端口（本地端口可修改，如 -p 80:8080）。
• -v open-webui:/app/backend/data：使用数据卷持久化对话历史、配置等数据，避免容器删除后数据丢失。
• --restart always：设置容器开机自启。

如果是实验环境，记得开放防火墙 3000 端口或直接关闭防火墙。浏览器访问：http://192.168.31.254:3000。

Open WebUI 基本使用

初次登录

首次访问 Open WebUI 时，需注册管理员账号（输入用户名、密码即可）。创建完账号后，使用账号登录即可进入主界面。

配置

• 禁用官方链接：如果不进行这一步，响应可能会非常慢，因为国内网络无法直接连上，系统会多次尝试超时。操作路径：管理员面板 / 设置 / 外部连接。
• 修改本地 Ollama 服务地址：在设置中填入你的 Ollama 服务地址（通常是 http://<你的 IP>:11434）。

开始聊天

选择之前下载好的模型，即可开始对话。支持多轮对话、Markdown 渲染及代码高亮等功能。