本地部署大模型并集成 WebUI 交互界面
在本地环境中运行开源大语言模型(如 Llama3)已成为许多开发者和爱好者的需求。通过 Docker 容器化技术,我们可以快速搭建一个基于 Open WebUI 的本地对话平台,无需编写复杂代码即可实现与模型的交互。
一、环境准备
1. 硬件要求
- 内存:建议至少 8GB RAM(运行 7B 参数模型),推荐 16GB 以上以获得更好体验。
- 存储:预留 20GB 以上空间用于模型文件及数据持久化。
- 系统:支持 macOS、Windows 或 Linux。
2. 软件安装
安装 Docker Desktop
Open WebUI 依赖 Docker 容器运行。请前往官网下载对应系统的客户端:
- 下载地址:https://www.docker.com/products/docker-desktop/
- 安装完成后,确保 Docker 服务已启动且无报错。
安装 Ollama
WebUI 需要连接后端的 Ollama 服务。请先在本地安装 Ollama 并拉取所需模型(如 llama3:8b):
# Windows PowerShell / Mac Terminal
ollama pull llama3:8b
确认模型可用:
ollama run llama3:8b
二、部署 Open WebUI
1. 获取启动命令
Open WebUI 提供了官方 Docker 镜像。推荐使用以下命令进行一键部署:
docker run -d \
--add-host=host.docker.internal:host-gateway \
-v open-webui:/app/backend/data \
--name open-webui \
--restart always \
ghcr.io/open-webui/open-webui:main
2. 命令参数解析
-d:后台运行容器。--add-host=host.docker.internal:host-gateway:关键配置。允许容器访问宿主机网络,使 WebUI 能连接到本地运行的 Ollama 服务。-v open-webui:/app/backend/data:挂载卷,用于持久化用户数据、聊天记录和配置文件,防止容器删除后数据丢失。--name open-webui:指定容器名称。--restart always:设置重启策略,确保服务异常退出后自动恢复。ghcr.io/...:指定镜像仓库地址。
3. 执行部署
打开终端(Terminal/PowerShell/CMD),复制上述命令并回车。等待镜像拉取完成,可通过以下命令查看容器状态:
docker ps
若看到 open-webui 容器处于 Up 状态,则部署成功。
三、访问与管理
1. 登录 Web 界面
浏览器访问以下地址:


