使用 CMD 安装存放位置
以 llama3.8B 模型为例进行测试,输入命令等待安装即可。
默认存放路径
C:\Users\<用户名>\.ollama\models\manifests\registry.ollama.ai
注意:路径中的 <用户名> 需替换为实际系统用户名,请根据实际目录查找。

Open WebUI 下载存放位置
选择 qwen2:1.5b 模型进行测试,等待模型拉取成功。
默认存放路径
进入以下目录:
C:\Users\<用户名>\.ollama\models\manifests\registry.ollama.ai\library
同样请注意替换实际用户名。

可以看到有两个文件,一个是使用 CMD 下载的 (llama3),另一个是在部署的 Open WebUI 下载的 (qwen2)。不管是哪里下载的模型都是可以调取使用的。


扩展知识
关于 Ollama
Ollama 是一个开源工具,旨在简化本地大语言模型的运行。它支持多种模型格式,提供高效的推理服务,广泛应用于 AI 开发与测试场景。
关于 Open WebUI
Open WebUI 是 Ollama 的开源 Web 界面框架,旨在简化和加速与大语言模型的交互。通过提供完整的 UI 组件和对话功能,开发者可以快速构建基于 LLM 的应用程序。
核心特点
- 开源免费:完全开源,社区积极参与贡献。
- 模块化设计:提供可复用的组件,快速搭建应用。
- 响应式布局:适配不同设备和屏幕尺寸。
- 高性能:采用现代化前端技术栈,确保流畅体验。
- 易于扩展:支持自定义组件和插件满足特定需求。


