跳到主要内容
极客日志极客日志面向AI+效率的开发者社区
首页博客我的书AI学习GitHub 精选镜像AI工具UI配色美学关于
搜索内容 / 工具 / 仓库 / 镜像...⌘K搜索
注册
博客列表
Shell / BashAI算法

Open-WebUI 本地部署实战:构建私有化 AI 对话界面

Open-WebUI 是一款开源的 LLM 交互框架,支持本地模型及 API 接入。本文介绍在 Linux 环境下通过 Docker 快速部署 Open-WebUI 并连接 Ollama 服务的完整流程,涵盖环境准备、服务配置、镜像拉取及基础功能使用,帮助用户实现数据隐私可控的私有化 AI 对话体验。

字节跳动发布于 2026/3/22更新于 2026/10/1996 浏览
Open-WebUI 本地部署实战:构建私有化 AI 对话界面

Open-WebUI 本地部署实战:构建私有化 AI 对话界面

在本地部署大模型时,命令行往往显得冰冷且繁琐。如果你希望拥有类似 ChatGPT 的优雅交互界面,同时确保数据完全掌握在自己手中,Open WebUI 是一个值得尝试的选择。它通过简洁的 Web 界面,让用户无需编写代码即可与本地部署的 AI 模型或各大服务商的大模型 API 进行自然对话。

什么是 Open WebUI?

Open WebUI 是一款专为大型语言模型(LLM)设计的开源可视化交互框架。其核心使命是降低 LLM 私有化部署的门槛,尤其适合需要快速搭建企业级 AI 平台或追求数据隐私的开发者。

核心价值

  • 开箱即用:无需复杂的前端开发,快速搭建 AI 交互界面。完全开源,可自由部署、修改和二次开发。
  • 多模型支持:兼容 Ollama、OpenAI API(包括百炼、DeepSeek 等)。
  • 功能丰富:支持 RAG(检索增强生成)、多模态输入、网络搜索等高级功能。提供对话历史管理、提示词模板、上下文连续对话及 Markdown 渲染。
  • 本地部署:数据完全存储在本地,保障隐私安全。

功能概览

模块能力价值
模型管理多后端支持、模型下载/切换/加载、参数实时调整统一管理入口,灵活适配不同场景
交互体验类 ChatGPT 界面、代码高亮、Markdown 渲染、多会话管理降低使用门槛,提供流畅体验
知识管理文档上传、知识库构建、语义搜索、上下文增强利用私有数据提升回答准确性
高级功能工具调用、Web 搜索集成、提示词工作流、多模态支持扩展模型能力边界,实现任务自动化
用户管理多用户系统、角色权限控制、团队协作满足企业级部署需求,保障数据安全
部署隐私全离线、自托管、Docker 容器化、数据本地存储彻底掌控数据,保障隐私安全

安装 Ollama(Linux)

本教程基于 Linux 环境演示。首先需要通过官方脚本或手动方式安装 Ollama。

自动安装

curl -fsSL https://ollama.com/install.sh | sh

国内访问官方源可能较慢,建议先下载脚本并替换镜像地址:

# 下载安装脚本
curl -fsSL https://ollama.com/install.sh -o ollama_install.sh
# 给脚本添加执行权限
chmod +x ollama_install.sh
# 替换下载地址(示例为加速源,请根据实际可用源调整)
sed -i 's|https://github.com|https://gh-proxy.ygxz.in/https://github.com|g' ollama_install.sh
# 开始安装
sh ollama_install.sh

手动安装

如果偏好手动控制,可以下载二进制包并解压:

# 进入目录
 /usr/local/src

 /usr/local/ollama

tar -xzvf ollama-linux-amd64.tgz -C /usr/local/ollama

useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
usermod -a -G ollama $()

  >> /etc/profile

 /etc/profile
cd
# 创建目录
mkdir
# 解压到创建的目录
# 创建运行用户和用户组
whoami
# 添加环境变量
echo
"PATH=$PATH:/usr/local/ollama/bin"
# 环境变量生效
source

配置服务

为了让 Ollama 作为后台服务运行并允许外部访问,需配置 systemd 服务文件:

[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/local/ollama/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="OLLAMA_HOST=0.0.0.0"

[Install]
WantedBy=multi-user.target

保存后执行以下命令启动服务:

sudo systemctl daemon-reload
sudo systemctl start ollama
sudo systemctl status ollama
sudo systemctl enable ollama

下载模型

# 查看已安装的模型
ollama list
# 拉取模型,以 Qwen3 0.6B 为例
ollama pull qwen3:0.6b
# 查看模型详情
ollama show qwen3:0.6b
# 测试接口
curl http://localhost:11434/api/generate -d '{ "model": "qwen3:0.6b", "prompt":"介绍一下 React,20 字以内" }'

Open WebUI 安装

推荐使用 Docker 部署,简单高效。假设服务器 IP 为 192.168.31.254,请确保防火墙开放 3000 端口。

docker run -d -p 3000:8080 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.nju.edu.cn/open-webui/open-webui:main
  • -p 3000:8080:将容器内 8080 端口映射到本地 3000 端口。
  • -v open-webui:/app/backend/data:使用数据卷持久化对话历史和配置。
  • --restart always:设置容器开机自启。

浏览器访问 http://<服务器 IP>:3000 即可看到登录界面。

![界面展示]

Open WebUI 基本使用

初次登录

首次访问时需注册管理员账号,输入用户名和密码即可完成初始化。

![界面展示]

配置连接

为了优化响应速度,建议禁用官方链接,避免国内网络无法直接连接导致的超时重试。

操作路径:管理员面板 > 设置 > 外部连接。

随后修改本地 Ollama 服务地址,确保 Open WebUI 能正确连接到上一步安装的 Ollama 实例。

![界面展示]

开始聊天

选择已下载的模型,即可开始对话。界面支持代码高亮、Markdown 渲染以及多会话管理。

![界面展示]

目录

  1. Open-WebUI 本地部署实战:构建私有化 AI 对话界面
  2. 什么是 Open WebUI?
  3. 核心价值
  4. 功能概览
  5. 安装 Ollama(Linux)
  6. 自动安装
  7. 下载安装脚本
  8. 给脚本添加执行权限
  9. 替换下载地址(示例为加速源,请根据实际可用源调整)
  10. 开始安装
  11. 手动安装
  12. 进入目录
  13. 创建目录
  14. 解压到创建的目录
  15. 创建运行用户和用户组
  16. 添加环境变量
  17. 环境变量生效
  18. 配置服务
  19. 下载模型
  20. 查看已安装的模型
  21. 拉取模型,以 Qwen3 0.6B 为例
  22. 查看模型详情
  23. 测试接口
  24. Open WebUI 安装
  25. Open WebUI 基本使用
  26. 初次登录
  27. 配置连接
  28. 开始聊天

更多推荐文章

查看全部
  • Kafka 简介、核心原理与典型使用场景
  • AI+无人机巡检系统主流开源项目调研
  • 若依 (RuoYi) 低代码框架深度解析与选型建议
  • 知网2026年AIGC检测算法又升级了,这次该怎么应对?
  • Cogito-v1-preview-llama-3B 高性能部署:vLLM + OpenAI 兼容 API
  • C++ 类与对象详解:封装、实例化与 this 指针
  • OpenClaw 机器人本地部署与配置实战
  • 使用 Dify 搭建合同审查法律机器人
  • OpenClaw 大龙虾机器人本地部署与配置实战
  • 前端 WebSocket 实时通信实战:告别轮询陷阱
  • 前端安全实践:密码加密与常见攻击防护
  • 飞书机器人 API v3 企业级集成方案与最佳实践
  • C++ 智能指针与 RAII 资源管理详解
  • 基于大模型构建本地知识库的技术实践
  • C++ 封装红黑树实现 MyMap 与 MySet
  • BaseCTF Week3 Web 与杂项解题思路
  • 营销团队 AIGC 内容流水线搭建实录:Meixiong Niannian 引擎实践
  • 注意力机制与 Transformer 模型实战指南
  • DeepSeek-OCR-WEBUI 实战:从部署到网页调用的全流程自动化文档处理
  • ZeroClaw:零开销、零妥协的 Rust 原生 AI 助手基础设施

相关免费在线工具

  • 加密/解密文本

    使用加密算法(如AES、TripleDES、Rabbit或RC4)加密和解密文本明文。 在线工具,加密/解密文本在线工具,online

  • RSA密钥对生成器

    生成新的随机RSA私钥和公钥pem证书。 在线工具,RSA密钥对生成器在线工具,online

  • Mermaid 预览与可视化编辑

    基于 Mermaid.js 实时预览流程图、时序图等图表,支持源码编辑与即时渲染。 在线工具,Mermaid 预览与可视化编辑在线工具,online

  • 随机西班牙地址生成器

    随机生成西班牙地址(支持马德里、加泰罗尼亚、安达卢西亚、瓦伦西亚筛选),支持数量快捷选择、显示全部与下载。 在线工具,随机西班牙地址生成器在线工具,online

  • Gemini 图片去水印

    基于开源反向 Alpha 混合算法去除 Gemini/Nano Banana 图片水印,支持批量处理与下载。 在线工具,Gemini 图片去水印在线工具,online

  • Base64 字符串编码/解码

    将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具,Base64 字符串编码/解码在线工具,online