什么是 Open WebUI？
Open WebUI 是一个专为大型语言模型（LLM）设计的开源可视化交互框架。它通过简洁的 Web 界面，让用户无需编写代码即可与本地部署的 AI 模型或各大服务商的大模型 API（如 DeepSeek、Llama、ChatGLM 等）进行自然对话。其核心目标是让 LLM 私有化部署像打开浏览器一样简单，特别适合需要快速搭建企业级 AI 平台或追求数据隐私的开发者。
核心价值
- 开箱即用：无需复杂的前端开发，快速搭建 AI 交互界面。完全开源，可自由部署、修改和二次开发，无商业使用限制。
- 多模型支持：兼容 Ollama、OpenAI API（包括百炼、DeepSeek 等）。
- 功能丰富：支持 RAG（检索增强生成）、多模态输入（文本、图片）、网络搜索等高级功能。支持对话历史管理、提示词模板、上下文连续对话、Markdown 渲染、代码高亮等实用功能。
- 本地部署：数据完全存储在本地，保障隐私安全。
功能概览
| 模块 | 能力 | 价值 |
|---|---|---|
| 模型管理 | 多后端支持、模型下载/切换/加载、参数实时调整 | 统一管理入口，灵活适配不同场景 |
| 交互体验 | 类 ChatGPT 界面、代码高亮、Markdown 渲染、多会话管理 | 降低使用门槛，提供流畅体验 |
| 知识管理 | 文档上传、知识库构建、语义搜索、上下文增强 | 利用私有数据提升回答准确性 |
| 高级功能 | 工具调用、Web 搜索集成、提示词工作流、多模态支持 | 扩展模型能力边界，实现任务自动化 |
| 用户管理 | 多用户系统、角色权限控制、团队协作 | 满足企业级部署需求，保障数据安全 |
| 部署隐私 | 全离线、自托管、Docker 容器化、数据本地存储 | 彻底掌控数据，保障隐私安全 |
安装 Ollama（Linux）
本次实验环境为 Rocky Linux，假设服务器 IP 地址配置为 192.168.31.254（实际使用时请替换为你的真实 IP）。
方式一：官方脚本安装
打开终端，通过官方脚本安装 Ollama：
curl -fsSL https://ollama.com/install.sh | sh
国内访问该地址可能较慢，建议先下载脚本后修改源再执行。例如：
# 下载安装脚本
curl -fsSL https://ollama.com/install.sh -o ollama_install.sh
# 给脚本添加执行权限
chmod +x ollama_install.sh
# 替换下载地址（示例：使用加速镜像）
sed -i 's|https://github.com|https://gh-proxy.ygxz.in/https://github.com|g' ollama_install.sh
# 开始安装
sh ollama_install.sh
方式二：手动安装
如果脚本方式不稳定，也可以手动下载安装包。下载地址为 https://ollama.com/download/ollama-linux-amd64.tgz。
使用迅雷等工具下载后，上传到 Linux 系统 /usr/local/src 目录下备用。完整文件路径示例：/usr/local/src/ollama-linux-amd64.tgz。
# 进入目录
cd /usr/local/src
# 创建目录
mkdir /usr/local/ollama
# 解压到创建的目录
tar -xzvf ollama-linux-amd64.tgz -C /usr/local/ollama
# 创建运行用户和用户组
sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)
# 添加环境变量
echo "PATH=$PATH:/usr/local/ollama/bin" >> /etc/profile
# 环境变量生效
source /etc/profile
配置 Linux 服务
创建 systemd 服务文件：
vim /etc/systemd/system/ollama.service
写入以下内容：
[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/local/ollama/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="OLLAMA_HOST=0.0.0.0"
# 关键配置：允许外部访问
[Install]
WantedBy=multi-user.target
启动并设置开机自启：
# 重新载入配置
sudo systemctl daemon-reload
# 启动服务
sudo systemctl start ollama
# 查看状态
sudo systemctl status ollama
# 开机启动
sudo systemctl enable ollama
下载模型
# 查看已安装的模型
ollama list
# 拉取模型，这里演示拉取 qwen3:0.6b 模型，大小约 523MB
ollama pull qwen3:0.6b
# 查看模型详情
ollama show qwen3:0.6b
# 测试
curl http://localhost:11434/api/generate -d '{ "model": "qwen3:0.6b", "prompt":"介绍一下 React，20 字以内" }'
Open WebUI 安装
Open WebUI 支持多种安装方式，推荐使用 Docker 部署（最简单高效），也可通过源码编译安装（适合需要定制开发的场景）。
执行命令（假设服务器 IP 为 192.168.31.254，本机运行）：
docker run -d -p 3000:8080 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.nju.edu.cn/open-webui/open-webui:main
-p 3000:8080：将容器内 8080 端口映射到本地 3000 端口（本地端口可修改，如-p 80:8080）。-v open-webui:/app/backend/data：使用数据卷持久化对话历史、配置等数据，避免容器删除后数据丢失。--restart always：设置容器开机自启。
如果是实验环境，记得开放防火墙 3000 端口或直接关闭防火墙。浏览器访问：http://192.168.31.254:3000。
Open WebUI 基本使用
初次登录
首次访问 Open WebUI 时，需注册管理员账号（输入用户名、密码即可）。创建完账号后，使用账号登录即可进入主界面。
配置
- 禁用官方链接：如果不进行这一步，响应可能会非常慢，因为国内网络无法直接连上，系统会多次尝试超时。操作路径：
管理员面板 / 设置 / 外部连接。 - 修改本地 Ollama 服务地址：在设置中填入你的 Ollama 服务地址（通常是
http://<你的 IP>:11434）。
开始聊天
选择之前下载好的模型，即可开始对话。支持多轮对话、Markdown 渲染及代码高亮等功能。
