Open WebUI 本地部署指南：基于 Ollama 的 AI 对话界面搭建

# 进入目录
cd /usr/local/src
# 创建目录
mkdir /usr/local/ollama
# 解压到创建的目录
tar -xzvf ollama-linux-amd64.tgz -C /usr/local/ollama
# 创建运行用户和用户组
sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)
# 添加环境变量
echo "PATH=$PATH:/usr/local/ollama/bin" >> /etc/profile
# 环境变量生效
source /etc/profile

配置 Linux 服务： vim /etc/systemd/system/ollama.service 内容如下：

[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/local/ollama/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="OLLAMA_HOST=0.0.0.0"
# 关键配置：允许外部访问

[Install]
WantedBy=multi-user.target

# 重新载入配置
sudo systemctl daemon-reload
# 启动服务
sudo systemctl start ollama
# 查看状态
sudo systemctl status ollama
# 开机启动
sudo systemctl enable ollama

下载模型：

# 查看已安装的模型
ollama list
# 拉取模型，示例模型 qwen3:0.6b，大小约 523MB
ollama pull qwen3:0.6b
# 查看模型详情
ollama show qwen3:0.6b
# 测试
curl http://localhost:11434/api/generate -d '{ "model": "qwen3:0.6b", "prompt":"介绍一下 React，20 字以内" }'

Open WebUI 安装

Open WebUI 支持多种安装方式，推荐使用 Docker 部署（最简单高效），也可通过源码编译安装（适合需要定制开发的场景）。 执行命令（假设服务器 IP 地址为 192.168.31.254，在本机上运行），服务器防火墙开放 3000 端口。如果是做实验用，可直接关闭防火墙。

docker run -d -p 3000:8080 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.nju.edu.cn/open-webui/open-webui:main

• -p 3000:8080：将容器内 8080 端口映射到本地 3000 端口（本地端口可修改，如 -p 80:8080）。
• -v open-webui:/app/backend/data：使用数据卷持久化对话历史、配置等数据，避免容器删除后数据丢失。
• --restart always：设置容器开机自启。

浏览器访问：http://192.168.31.254:3000

Open WebUI 基本使用

初次登录

首次访问 Open WebUI 时，需注册管理员账号（输入用户名、密码即可）。

创建完账号后，使用账号登录。

配置

• 禁用官方链接：如果不进行这一步，很有可能响应会非常慢，因为国内网络无法直接连上，所以系统会多次尝试。操作路径：管理后台 > 设置 > 外部连接。
• 修改本地 Ollama 服务地址：在设置中配置 Ollama 的连接地址。

开始聊天

选择下载好的模型，即可开始对话。