Ubuntu 20.04 安装 Ollama 及 Open WebUI 部署大型语言模型

2. 运行安装脚本

curl -fsSL https://ollama.com/install.sh | sh

3. 管理 Ollama 服务

# 启动 Ollama 服务
sudo systemctl start ollama
# 停止 Ollama 服务
sudo systemctl stop ollama
# 重启 Ollama 服务
sudo systemctl restart ollama
# 设置开机自启
sudo systemctl enable ollama
# 查看服务日志
sudo journalctl -u ollama -f

4. 常用 Ollama 命令

# 查看所有命令帮助
ollama --help
# 运行模型（如果不存在会自动下载）
ollama run <model-name>
# 运行模型并直接提问
ollama run <model-name> "你的问题"
# 拉取（下载）模型
ollama pull <model-name>
# 列出已下载的模型
ollama list
# 删除模型
ollama rm <model-name>
# 查看已下载模型的详细信息
ollama show llama3
# 查看模型配置
ollama show llama3 --modelfile

Ollama 部署并运行模型

现在 Ollama 已经安装完成，接下来是下载和运行各种大型语言模型。

查看可用模型

• 通过命令行查看

# 查看本地已下载的模型
ollama list

• 通过模型库查看 访问 Ollama 官方的模型库：模型库，选择自己感兴趣的模型，注意参数量大小，一般先选择参数少一些的模型进行试验。

下载模型

下载并运行 deepseek-r1:7b 模型

ollama run deepseek-r1:7b

运行模型

如果已经下载了 deepseek-r1:7b，就不会重复下载而是启动命令行交互对话

ollama run deepseek-r1:7b

对话控制命令

在交互模式下，可以使用一些特殊命令：

# 退出对话 /bye 或者按 Ctrl + D
# 清空对话上下文（开始新对话）
/clear

设置参数

可以调整模型生成参数以获得不同效果：

# 设置温度（控制随机性，0-1）
ollama run deepseek-r1:7b --temperature 0.7
# 限制输出 token 数量
ollama run deepseek-r1:7b --num-predict 100
# 指定随机种子（确保可重复性）
ollama run deepseek-r1:7b --seed 42

安装 Open WebUI 图形化界面

虽然命令行交互已经很强大，但对于日常使用来说，一个美观的图形界面能极大提升体验。Open WebUI（原名 Ollama WebUI）提供了一个类似 ChatGPT 的现代化 Web 界面，让您可以通过浏览器与本地模型进行交互。

Open WebUI 是什么？

Open WebUI 是一个功能强大的开源 Web 界面，专为 Ollama 和其他本地语言模型设计。它具有以下特点：

• 类 ChatGPT 体验：熟悉的聊天界面，支持多轮对话、对话历史管理
• 多模型支持：轻松切换不同的语言模型
• 可视化操作：图形化的模型管理和设置界面
• 高级功能：支持 RAG（检索增强生成）、文档上传、角色预设等
• 多用户支持：可注册多个账户，每个用户有自己的对话历史
• 完全本地化：所有数据仍然保存在本地，保障隐私安全

先决条件：安装 Docker

Open WebUI 通过 Docker 容器部署，因此需要先安装 Docker。参考相关教程安装 Docker。

启动 Docker 服务

# 确保 Docker 服务已启动
sudo systemctl start docker
sudo systemctl enable docker
# 检查 Docker 服务状态
sudo systemctl status docker

使用 Docker 一键部署 Open WebUI

安装好 Docker 后，只需一条命令即可部署 Open WebUI：

docker run -d --network="host" -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

部署完成后，检查容器状态：

docker ps

访问并使用 Open WebUI

容器正常运行后，即可通过浏览器访问：

1. 打开浏览器，访问：http://localhost:8080
2. 首次注册：
   • 点击'Sign Up'注册新账户
   • 输入邮箱和密码（无需真实邮箱，仅用于本地识别）
   • 确认密码并完成注册
3. 登录系统：
   • 使用刚才注册的邮箱和密码登录
   • 首次登录会自动检测本地的 Ollama 服务
4. 开始使用：
   • 在左侧模型选择器中选择要使用的模型（如 llama3）
   • 在输入框中开始对话

右侧可以查看对话历史、切换模型、调整参数等。