Ubuntu 20.04 安装 Ollama 及 Open WebUI 部署大型语言模型教程
介绍在 Ubuntu 20.04 系统上安装 Ollama 本地大语言模型服务的方法,包括环境检查、模型拉取与运行命令。同时演示如何通过 Docker 部署 Open WebUI 图形化界面,实现类似 ChatGPT 的本地对话体验,涵盖隐私保护、离线可用等优势及硬件要求。

介绍在 Ubuntu 20.04 系统上安装 Ollama 本地大语言模型服务的方法,包括环境检查、模型拉取与运行命令。同时演示如何通过 Docker 部署 Open WebUI 图形化界面,实现类似 ChatGPT 的本地对话体验,涵盖隐私保护、离线可用等优势及硬件要求。

在人工智能浪潮席卷全球的今天,大型语言模型(LLM)不再是遥不可及的云端技术。借助 Ollama,每一位开发者都能轻松地将强大的模型部署在自己的本地计算机上,实现无缝、私密且可定制的 AI 体验。本文将带领您一步步在 Ubuntu 20.04 系统上完成 Ollama 的安装与模型部署,并最终搭建美观易用的图形化界面(Open WebUI)。
Ollama 是一个开源项目,专为在本地运行、管理和部署大型语言模型(如 Llama 3、Mistral、Gemma 等)而设计。
它的核心概念与优势非常清晰:
想象一下,在您的终端中,直接与一个几十亿参数的大模型进行流畅的对话和代码编写,是一种怎样的体验?以下是在 Ubuntu 终端中运行 ollama run deepseek-coder:6.7b 后的截图:


选择在本地运行 Ollama,意味着选择了一种新的 AI 交互方式,但它也并非完美无缺。
lsb_release -a

nvidia-smi

curl -fsSL https://ollama.com/install.sh |sh
# 启动 Ollama 服务
sudo systemctl start ollama
# 停止 Ollama 服务
sudo systemctl stop ollama
# 重启 Ollama 服务
sudo systemctl restart ollama
# 设置开机自启
sudo systemctl enable ollama
# 查看服务日志
sudo journalctl -u ollama -f
# 查看所有命令帮助
ollama --help
# 运行模型(如果不存在会自动下载)
ollama run <model-name>
# 运行模型并直接提问
ollama run <model-name> "你的问题"
# 拉取(下载)模型
ollama pull <model-name>
# 列出已下载的模型
ollama list
# 删除模型
ollama rm <model-name>
# 查看已下载模型的详细信息
ollama show llama3
# 查看模型配置
ollama show llama3 --modelfile
现在 Ollama 已经安装完成,接下来是下载和运行各种大型语言模型。
# 查看本地已下载的模型
ollama list

通过模型库查看 访问 Ollama 官方的模型库:模型库,选择自己感兴趣的模型,注意参数量大小,一般先选择参数少一些的模型进行试验。

下载并运行 deepseek-r1:7b 模型
ollama run deepseek-r1:7b

如果已经下载了 deepseek-r1:7b,就不会重复下载而是启动命令行交互对话
ollama run deepseek-r1:7b

在交互模式下,可以使用一些特殊命令:
# 退出对话 /bye 或者按 Ctrl + D
# 清空对话上下文(开始新对话)
/clear
可以调整模型生成参数以获得不同效果:
# 设置温度(控制随机性,0-1)
ollama run deepseek-r1:7b --temperature 0.7
# 限制输出 token 数量
ollama run deepseek-r1:7b --num-predict 100
# 指定随机种子(确保可重复性)
ollama run deepseek-r1:7b --seed 42
虽然命令行交互已经很强大,但对于日常使用来说,一个美观的图形界面能极大提升体验。Open WebUI(原名 Ollama WebUI)提供了一个类似 ChatGPT 的现代化 Web 界面,让您可以通过浏览器与本地模型进行交互。
Open WebUI 是一个功能强大的开源 Web 界面,专为 Ollama 和其他本地语言模型设计。它具有以下特点:
Open WebUI 通过 Docker 容器部署,因此需要先安装 Docker。
# 确保 Docker 服务已启动
sudo systemctl start docker
sudo systemctl enable docker
# 检查 Docker 服务状态
sudo systemctl status docker
安装好 Docker 后,只需一条命令即可部署 Open WebUI:
docker run -d --network="host" -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
部署完成后,检查容器状态:
docker ps

容器正常运行后,即可通过浏览器访问:
右侧可以查看对话历史、切换模型、调整参数等


微信公众号「极客日志」,在微信中扫描左侧二维码关注。展示文案:极客日志 zeeklog
使用加密算法(如AES、TripleDES、Rabbit或RC4)加密和解密文本明文。 在线工具,加密/解密文本在线工具,online
生成新的随机RSA私钥和公钥pem证书。 在线工具,RSA密钥对生成器在线工具,online
基于 Mermaid.js 实时预览流程图、时序图等图表,支持源码编辑与即时渲染。 在线工具,Mermaid 预览与可视化编辑在线工具,online
将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具,Base64 字符串编码/解码在线工具,online
将字符串、文件或图像转换为其 Base64 表示形式。 在线工具,Base64 文件转换器在线工具,online
将 Markdown(GFM)转为 HTML 片段,浏览器内 marked 解析;与 HTML 转 Markdown 互为补充。 在线工具,Markdown 转 HTML在线工具,online