Ubuntu 20.04 安装 Ollama 及 Open WebUI 部署 LLM 指南
详细讲解了在 Ubuntu 20.04 环境下安装 Ollama 本地大模型服务,并通过 Docker 部署 Open WebUI 图形界面的步骤。涵盖环境检查、服务安装、模型拉取运行、参数调整及 Web 界面访问配置,帮助用户实现本地化的 AI 对话体验。

详细讲解了在 Ubuntu 20.04 环境下安装 Ollama 本地大模型服务,并通过 Docker 部署 Open WebUI 图形界面的步骤。涵盖环境检查、服务安装、模型拉取运行、参数调整及 Web 界面访问配置,帮助用户实现本地化的 AI 对话体验。

在人工智能浪潮席卷全球的今天,大型语言模型(LLM)不再是遥不可及的云端技术。借助 Ollama,每一位开发者都能轻松地将强大的模型部署在自己的本地计算机上,实现无缝、私密且可定制的 AI 体验。本文将带领您一步步在 Ubuntu 20.04 系统上完成 Ollama 的安装与模型部署,并最终搭建美观易用的图形化界面(Open WebUI)。
Ollama 是一个开源项目,专为在本地运行、管理和部署大型语言模型(如 Llama 3、Mistral、Gemma 等)而设计。 它的核心概念与优势非常清晰:
想象一下,在您的终端中,直接与一个几十亿参数的大模型进行流畅的对话和代码编写,是一种怎样的体验?以下是在 Ubuntu 终端中运行 ollama run deepseek-coder:6.7b 后的截图:

选择在本地运行 Ollama,意味着选择了一种新的 AI 交互方式,但它也并非完美无缺。
lsb_release -a

nvidia-smi

运行安装脚本:
curl -fsSL https://ollama.com/install.sh | bash
# 启动 Ollama 服务
sudo systemctl start ollama
# 停止 Ollama 服务
sudo systemctl stop ollama
# 重启 Ollama 服务
sudo systemctl restart ollama
# 设置开机自启
sudo systemctl enable ollama
# 查看服务日志
sudo journalctl -u ollama -f
# 查看所有命令帮助
ollama --help
# 运行模型(如果不存在会自动下载)
ollama run <model-name>
# 运行模型并直接提问
ollama run <model-name>"你的问题"
# 拉取(下载)模型
ollama pull <model-name>
# 列出已下载的模型
ollama list
# 删除模型
ollama rm <model-name>
# 查看已下载模型的详细信息
ollama show llama3
# 查看模型配置
ollama show llama3 --modelfile
ollama list


下载并运行 deepseek-r1:7b 模型:
ollama run deepseek-r1:7b

如果已经下载了 deepseek-r1:7b,就不会重复下载而是启动命令行交互对话:
ollama run deepseek-r1:7b

在交互模式下,可以使用一些特殊命令:
# 退出对话
/bye 或者按 Ctrl + D
# 清空对话上下文(开始新对话)
/clear
可以调整模型生成参数以获得不同效果:
# 设置温度(控制随机性,0-1)
ollama run deepseek-r1:7b --temperature 0.7
# 限制输出 token 数量
ollama run deepseek-r1:7b --num-predict 100
# 指定随机种子(确保可重复性)
ollama run deepseek-r1:7b --seed 42
Open WebUI 是一个功能强大的开源 Web 界面,专为 Ollama 和其他本地语言模型设计。它具有以下特点:
Open WebUI 通过 Docker 容器部署,因此需要先安装 Docker。请确保已安装 Docker,可参考官方文档进行安装。
# 确保 Docker 服务已启动
sudo systemctl start docker
sudo systemctl enable docker
# 检查 Docker 服务状态
sudo systemctl status docker
安装好 Docker 后,只需一条命令即可部署 Open WebUI:
docker run -d --network="host" -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
部署完成后,检查容器状态:
docker ps

容器正常运行后,即可通过浏览器访问:


微信公众号「极客日志」,在微信中扫描左侧二维码关注。展示文案:极客日志 zeeklog
使用加密算法(如AES、TripleDES、Rabbit或RC4)加密和解密文本明文。 在线工具,加密/解密文本在线工具,online
生成新的随机RSA私钥和公钥pem证书。 在线工具,RSA密钥对生成器在线工具,online
基于 Mermaid.js 实时预览流程图、时序图等图表,支持源码编辑与即时渲染。 在线工具,Mermaid 预览与可视化编辑在线工具,online
将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具,Base64 字符串编码/解码在线工具,online
将字符串、文件或图像转换为其 Base64 表示形式。 在线工具,Base64 文件转换器在线工具,online
将 Markdown(GFM)转为 HTML 片段,浏览器内 marked 解析;与 HTML 转 Markdown 互为补充。 在线工具,Markdown 转 HTML在线工具,online