Open-WebUI 本地 AI 对话可视化部署指南

4.2 手动安装

下载地址：https://ollama.com/download/ollama-linux-amd64.tgz

使用下载工具下载安装包，上传到 Linux 系统 /usr/local/src 目录下备用，完整文件为 /usr/local/src/ollama-linux-amd64.tgz。

# 进入目录
cd /usr/local/src
# 创建目录
mkdir /usr/local/ollama
# 解压到创建的目录
tar -xzvf ollama-linux-amd64.tgz -C /usr/local/ollama
# 创建运行用户和用户组
sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)
# 添加环境变量
echo "PATH=$PATH:/usr/local/ollama/bin" >> /etc/profile
# 环境变量生效
source /etc/profile

4.3 配置 Linux 服务

编辑 /etc/systemd/system/ollama.service，内容如下：

[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/local/ollama/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="OLLAMA_HOST=0.0.0.0"

[Install]
WantedBy=multi-user.target

# 重新载入配置
sudo systemctl daemon-reload
# 启动服务
sudo systemctl start ollama
# 查看状态
sudo systemctl status ollama
# 开机启动
sudo systemctl enable ollama

4.4 下载模型

# 查看已安装的模型
ollama list
# 拉取模型，这里作为演示，拉取 0.6b qwen3 模型，大概 523MB 左右
ollama pull qwen3:0.6b
# 查看模型详情
ollama show qwen3:0.6b
# 测试
curl http://localhost:11434/api/generate -d '{ "model": "qwen3:0.6b", "prompt":"介绍一下 React，20 字以内" }'

5. Open-WebUI 安装

Open-WebUI 支持多种安装方式，推荐使用 Docker 部署（最简单高效），也可通过源码编译安装（适合需要定制开发的场景）。

执行命令（假设服务器 IP 地址为 192.168.31.254，在本机上运行），服务器防火墙开放 3000 端口。如果是做实验用，可直接关闭防火墙。

docker run -d -p 3000:8080 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.nju.edu.cn/open-webui/open-webui:main

• -p 3000:8080：将容器内 8080 端口映射到本地 3000 端口（本地端口可修改，如 -p 80:8080）。
• -v open-webui:/app/backend/data：使用数据卷持久化对话历史、配置等数据，避免容器删除后数据丢失。
• --restart always：设置容器开机自启。

浏览器打开：http://192.168.31.254:3000

6. Open-WebUI 基本使用

6.1 初次登录

首次访问 Open-WebUI 时，需注册管理员账号（输入用户名、密码即可）。

创建完账号后，使用账号登录。

6.2 配置

• 禁用官方链接：如果不进行这一步，很有可能响应会非常慢，因为国内网络无法直接连上，系统会多次尝试。操作路径：管理员面板/设置/外部连接。

• 修改本地 Ollama 服务地址：

6.3 开始聊天

选择下载好的模型：