Ollama + OpenWebUI 本地部署大模型与可视化聊天

构建自定义模型：

ollama create my-qwen -f Modelfile
ollama run my-qwen

部署 OpenWebUI

OpenWebUI 是一个功能丰富且用户友好的自托管 Web 界面，完全兼容 Ollama API。它支持多模型对比、知识库检索（RAG）以及插件扩展。

基础部署

确保 Ollama 服务正在运行，然后使用 Docker 启动 OpenWebUI。

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

此命令将容器映射到本地 3000 端口，并挂载数据卷以持久化聊天记录和配置。

跨服务器连接

如果 Ollama 运行在另一台服务器上，需设置环境变量指向远程地址：

docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=http://<服务器 IP>:11434 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

访问界面

部署完成后，在浏览器访问 http://localhost:3000。首次登录通常无需密码，可直接进入主界面。

配置与高级功能

模型选择与对比

在 OpenWebUI 左侧菜单中，点击"Select a model"，可以切换当前对话使用的模型。支持同时添加多个模型，开启"Compare"模式，直观对比不同模型对同一问题的回答差异。

系统提示词设置

在设置中，您可以定义全局默认的系统提示词（System Prompt），规范模型的输出风格。例如，强制模型始终使用 Markdown 格式或限制回答长度。

API 兼容性

OpenWebUI 内置了标准的 OpenAI API 兼容层。第三方应用（如 Chatbot UI, LangChain 等）可以通过配置 http://localhost:3000/api/v1 作为 Base URL 接入，实现更复杂的自动化流程。

常见问题排查

1. 端口冲突：如果 3000 端口被占用，修改 -p 参数中的宿主机端口号，如 -p 3001:8080。
2. 模型加载失败：检查磁盘空间是否充足，大模型需要数 GB 空间。确认 GPU 驱动正常（Linux 下）。
3. 无法连接 Ollama：确保 Ollama 服务未处于休眠状态，可通过 ollama serve 手动启动测试。
4. 网络问题：跨设备部署时，请确保防火墙允许相应端口的入站流量。

总结

通过 Ollama 与 OpenWebUI 的组合，用户可以低成本、高隐私地构建私有化的大模型应用。这种本地化部署方案避免了云端 API 的费用和数据泄露风险，适合个人开发者、企业内网研究及教育场景。随着社区生态的发展，更多插件和模型优化将持续提升用户体验。