本地部署 Ollama 大模型与 Open WebUI 离线使用指南
在本地电脑部署开源大模型无需联网即可使用 AI，且数据完全私有。本文介绍如何使用 Ollama 工具在 Mac、Windows 及 Linux 系统上安装并运行 Llama 等模型，结合 Open WebUI 构建类 ChatGPT 的网页界面。
一、环境准备
Ollama 支持多种操作系统，包括 macOS、Linux 和 Windows。对于硬件要求，建议至少拥有 8GB 内存以运行基础模型（如 Llama2），若需运行更大参数量的模型，建议配备独立显卡或增加至 16GB 以上内存。
1. 下载 Ollama
访问 Ollama 官方 GitHub 仓库下载对应系统的安装包： https://github.com/ollama/ollama
- macOS: 下载
.dmg文件并拖拽安装。 - Windows: 下载
.exe安装程序。 - Linux: 使用终端命令
curl -fsSL https://ollama.com/install.sh | sh
2. 安装与启动
安装完成后，打开命令行或终端窗口，输入以下命令一键启动默认模型（如 Llama2）：
ollama run llama2
首次运行时会自动下载模型权重，根据网络情况可能需要几分钟。下载完成后，即可在终端进行对话。
二、运行与管理模型
1. 常用命令
- 列出已下载的模型：
ollama list - 拉取新模型：
ollama pull llama2 ollama pull gemma - 删除模型：
ollama rm llama2
2. 多模型切换
用户可以根据需求切换不同的模型进行对话，例如 Gemma 或其他开源模型。Ollama 支持丰富的模型库，涵盖代码生成、文本摘要等多种场景。
