Shell / BashAI算法
Ubuntu 20.04 安装 Ollama 及 Open WebUI 部署大模型教程
介绍在 Ubuntu 20.04 系统上安装 Ollama 并部署本地大型语言模型的步骤。内容包括 Ollama 环境准备、命令行模型运行与管理，以及通过 Docker 部署 Open WebUI 图形化界面的全过程。重点涵盖数据隐私保护、离线可用性及硬件要求分析，提供从基础安装到图形交互的完整指南。
介绍在 Ubuntu 20.04 系统上安装 Ollama 并部署本地大型语言模型的步骤。内容包括 Ollama 环境准备、命令行模型运行与管理，以及通过 Docker 部署 Open WebUI 图形化界面的全过程。重点涵盖数据隐私保护、离线可用性及硬件要求分析，提供从基础安装到图形交互的完整指南。
Ollama 是一个开源项目，专为在本地运行、管理和部署大型语言模型（如 Llama 3、Mistral、Gemma 等）而设计。
lsb_release -a
nvidia-smi
curl -fsSL https://ollama.com/install.sh | sh
# 启动 Ollama 服务
sudo systemctl start ollama
# 停止 Ollama 服务
sudo systemctl stop ollama
# 重启 Ollama 服务
sudo systemctl restart ollama
# 设置开机自启
sudo systemctl enable ollama
# 查看服务日志
sudo journalctl -u ollama -f
# 查看所有命令帮助
ollama --help
# 运行模型（如果不存在会自动下载）
ollama run <model-name>
# 运行模型并直接提问
ollama run <model-name> "你的问题"
# 拉取（下载）模型
ollama pull <model-name>
# 列出已下载的模型
ollama list
# 删除模型
ollama rm <model-name>
# 查看已下载模型的详细信息
ollama show llama3
# 查看模型配置
ollama show llama3 --modelfile
ollama list
以下载并运行 deepseek-r1:7b 模型为例：
ollama run deepseek-r1:7b
如果已经下载了模型，将不会重复下载而是启动命令行交互对话。
在交互模式下，可以使用一些特殊命令：
# 退出对话
/bye 或者按 Ctrl + D
# 清空对话上下文（开始新对话）
/clear
可以调整模型生成参数以获得不同效果：
# 设置温度（控制随机性，0-1）
ollama run deepseek-r1:7b --temperature 0.7
# 限制输出 token 数量
ollama run deepseek-r1:7b --num-predict 100
# 指定随机种子（确保可重复性）
ollama run deepseek-r1:7b --seed 42
Open WebUI（原名 Ollama WebUI）提供了一个类似 ChatGPT 的现代化 Web 界面，让您可以通过浏览器与本地模型进行交互。
Open WebUI 是一个功能强大的开源 Web 界面，专为 Ollama 和其他本地语言模型设计。
Open WebUI 通过 Docker 容器部署，因此需要先安装 Docker。
# 确保 Docker 服务已启动
sudo systemctl start docker
sudo systemctl enable docker
# 检查 Docker 服务状态
sudo systemctl status docker
安装好 Docker 后，只需一条命令即可部署 Open WebUI：
docker run -d --network="host" -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
部署完成后，检查容器状态：
docker ps
容器正常运行后，即可通过浏览器访问：
右侧可以查看对话历史、切换模型、调整参数等。
微信公众号「极客日志」，在微信中扫描左侧二维码关注。展示文案：极客日志 zeeklog
使用加密算法（如AES、TripleDES、Rabbit或RC4）加密和解密文本明文。 在线工具，加密/解密文本在线工具，online
生成新的随机RSA私钥和公钥pem证书。 在线工具，RSA密钥对生成器在线工具，online
基于 Mermaid.js 实时预览流程图、时序图等图表，支持源码编辑与即时渲染。 在线工具，Mermaid 预览与可视化编辑在线工具，online
将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具，Base64 字符串编码/解码在线工具，online
将字符串、文件或图像转换为其 Base64 表示形式。 在线工具，Base64 文件转换器在线工具，online
将 Markdown（GFM）转为 HTML 片段，浏览器内 marked 解析；与 HTML 转 Markdown 互为补充。 在线工具，Markdown 转 HTML在线工具，online