7 款最佳开源 LLM WebUI 工具推荐
无论是希望将 AI 大模型集成到业务流程中，还是寻求企业客户服务自动化，亦或是创建强大的个人学习工具，私有化部署并搭建好用的 LLM WebUI 系统都是值得考虑的方案。这有助于保障数据安全、提升灵活度及可控性。
以下推荐 7 个出色的开源 LLM WebUI 系统。
01. Open WebUI（Ollama WebUI）
- GitHub: https://github.com/open-webui/open-webui
- Star: 45.7K
- 开发语言: Python, TypeScript/Svelte
Open WebUI 是一个可扩展、功能丰富且用户友好的 WebUI，旨在完全离线操作。它支持包括 Ollama 和 OpenAI 在内的各种 LLM 运行容器或者 API。
产品特点
- 直观的界面：受 ChatGPT 启发的用户友好型聊天
- 响应式设计：在桌面和移动设备上实现流畅的性能
- 轻松安装：使用 Docker/Kubernetes 轻松安装
- 主题定制：个性化与多个主题
- 高亮：增强代码的可读性
- Markdown LaTeX 支持：全面的格式选项
- 本地 RAG 集成：使用 #命令访问聊天文档
- RAG 嵌入模型支持：选择嵌入模型（Ollama/OpenAI）
- Web 浏览：使用 #命令集成网站
- 提示预设：使用 /命令快速访问
- RLHF 注释：人工反馈的速率消息
- 会话标记：对聊天进行分类，以便于参考
- 模型管理：下载、删除和更新模型
- GGUF 文件上传：从 GGUF 文件创建 Ollama 模型
- 多模型支持：切换模型以获得不同的响应
- 多模式支持：包括图像交互
- 模型文件生成器：自定义角色和代理
- 多模型对话：同时利用多个模型
- 协作聊天：使用 @command 分组模型对话
- 本地聊天共享：在用户之间共享聊天链接
- Regeneration 聊天历史：访问所有过去的互动
