Open-WebUI 本地部署与使用指南

# 进入目录
cd /usr/local/src
# 创建目录
mkdir /usr/local/ollama
# 解压到创建的目录
tar -xzvf ollama-linux-amd64.tgz -C /usr/local/ollama
# 创建运行用户和用户组
sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)
# 添加环境变量
echo "PATH=$PATH:/usr/local/ollama/bin" >> /etc/profile
# 环境变量生效
source /etc/profile

配置 Linux 服务：

编辑 /etc/systemd/system/ollama.service，内容如下：

[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/local/ollama/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="OLLAMA_HOST=0.0.0.0"

[Install]
WantedBy=multi-user.target

# 重新载入配置
sudo systemctl daemon-reload
# 启动服务
sudo systemctl start ollama
# 查看状态
sudo systemctl status ollama
# 开机启动
sudo systemctl enable ollama

下载模型：

# 查看已安装的模型
ollama list
# 拉取模型，这里作为演示，拉取 qwen3:0.6b 模型，大概 523MB 左右
ollama pull qwen3:0.6b
# 查看模型详情
ollama show qwen3:0.6b
# 测试
curl http://localhost:11434/api/generate -d '{ "model": "qwen3:0.6b", "prompt":"介绍一下 React，20 字以内" }'

Open WebUI 安装

Open WebUI 支持多种安装方式，推荐使用 Docker 部署（最简单高效），也可通过源码编译安装（适合需要定制开发的场景）。

执行命令（假设服务器 IP 地址为 192.168.31.254，在本机上运行），确保服务器防火墙开放 3000 端口。

docker run -d -p 3000:8080 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.nju.edu.cn/open-webui/open-webui:main

• -p 3000:8080：将容器内 8080 端口映射到本地 3000 端口（本地端口可修改，如 -p 80:8080）。
• -v open-webui:/app/backend/data：使用数据卷持久化对话历史、配置等数据，避免容器删除后数据丢失。
• --restart always：设置容器开机自启。

浏览器打开：http://192.168.31.254:3000

Open WebUI 基本使用

初次登录

首次访问 Open WebUI 时，需注册管理员账号（输入用户名、密码即可）。

配置

• 禁用官方链接：如果不进行这一步，响应可能会非常慢，因为国内网络无法直接连接，系统会多次尝试。操作路径：管理员面板/设置/外部连接。
• 修改本地 Ollama 服务地址：在设置中配置本地 Ollama 的连接地址。

开始聊天

选择下载好的模型即可开始对话。