Ubuntu 20.04 安装 Ollama 及 Open WebUI 部署大语言模型教程

Ollama 部署并运行模型

查看可用模型

• 通过命令行查看本地已下载的模型：ollama list
• 访问 Ollama 官方的模型库选择感兴趣的模型。

下载模型

下载并运行 deepseek-r1:7b 模型：

ollama run deepseek-r1:7b

运行模型

如果已经下载了模型，将启动命令行交互对话：

ollama run deepseek-r1:7b

对话控制命令

在交互模式下，可以使用一些特殊命令：

• 退出对话：/bye 或者按 Ctrl + D
• 清空对话上下文（开始新对话）：/clear

设置参数

可以调整模型生成参数以获得不同效果：

# 设置温度（控制随机性，0-1）
ollama run deepseek-r1:7b --temperature 0.7
# 限制输出 token 数量
ollama run deepseek-r1:7b --num-predict 100
# 指定随机种子（确保可重复性）
ollama run deepseek-r1:7b --seed 42

安装 Open WebUI 图形化界面

Open WebUI（原名 Ollama WebUI）提供了一个类似 ChatGPT 的现代化 Web 界面，让您可以通过浏览器与本地模型进行交互。

Open WebUI 特点

• 类 ChatGPT 体验：熟悉的聊天界面，支持多轮对话、对话历史管理
• 多模型支持：轻松切换不同的语言模型
• 可视化操作：图形化的模型管理和设置界面
• 高级功能：支持 RAG（检索增强生成）、文档上传、角色预设等
• 多用户支持：可注册多个账户，每个用户有自己的对话历史
• 完全本地化：所有数据仍然保存在本地，保障隐私安全

先决条件：安装 Docker

Open WebUI 通过 Docker 容器部署，需要先安装 Docker。参考官方文档安装 Docker。

启动 Docker 服务

# 确保 Docker 服务已启动
sudo systemctl start docker
sudo systemctl enable docker
# 检查 Docker 服务状态
sudo systemctl status docker

使用 Docker 一键部署 Open WebUI

docker run -d --network="host" -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

部署完成后，检查容器状态：

docker ps

访问并使用 Open WebUI

容器正常运行后，即可通过浏览器访问：

1. 打开浏览器，访问：http://localhost:8080
2. 首次注册：点击'Sign Up'注册新账户，输入邮箱和密码（无需真实邮箱，仅用于本地识别），确认密码并完成注册。
3. 登录系统：使用刚才注册的邮箱和密码登录，首次登录会自动检测本地的 Ollama 服务。
4. 开始使用：在左侧模型选择器中选择要使用的模型（如 llama3），在输入框中开始对话。