介绍在 Ubuntu 24.04 系统上离线安装 Ollama 并导入模型的方法。通过在有网机器下载二进制包传输至离线服务器，配置 systemd 服务实现开机自启。同时提供 Windows 与 Linux 间模型文件互导的方案，解决内网或低带宽环境下的部署问题。
随着本地大语言模型（LLM）的兴起，Ollama 成为了在本地运行和管理 LLM（如 Llama 3、Qwen3、Deepseek 等）的热门工具。然而，Ollama 官方的 Linux 安装方法仅提供在线一键安装脚本：
curl -fsSL https://ollama.com/install.sh | sh
该方式不适合在无网络环境或网络受限/速度极慢的服务器上使用，尤其是在国内访问时下载速度常常只有几 KB/s，甚至超时失败。
本文将详细介绍如何在 Ubuntu 24.04 系统上离线安装最新版 Ollama 和导入 Windows 下载的模型，并提供加速下载方案，帮助你在内网、隔离环境或低带宽场景下顺利完成部署。
curl 和外部网络。ollama-linux-amd64）从 Ollama 官方下载页面获取下载地址：
https://ollama.com/download/ollama-linux-amd64.tgz
⚠️ 注意：该链接始终指向最新版本的 Linux AMD64 架构二进制包。
由于官方链接直连速度极慢，建议使用迅雷或其他支持多线程下载的工具进行加速：
https://ollama.com/download/ollama-linux-amd64.tgz
ollama-linux-amd64.tgz。使用 U 盘、光盘、内网文件共享等方式，将 ollama-linux-amd64.tgz 文件拷贝到目标 Ubuntu 24.04 服务器的 /opt 目录下：
cd /opt
ls -l
# 输出应类似：
# -rw-r--r-- 1 root root 123456789 Jan 1 00:00 ollama-linux-amd64.tgz
将 Ollama 二进制文件解压到 /usr 目录（标准系统路径）：
sudo tar -C /usr -xzf ollama-linux-amd64.tgz
验证是否安装成功：
/usr/bin/ollama -v
# 正常输出类似：
# ollama version is 0.11.4
此时你已经可以运行 ollama 命令，但建议配置为系统服务以便后台运行和开机自启。
为安全起见，Ollama 应以专用用户身份运行，避免使用 root。
# 创建 ollama 用户和组
sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
# 将当前用户加入 ollama 组（便于后续调用）
sudo usermod -a -G ollama $(whoami)
📌 说明：
-r：创建系统用户-s /bin/false：禁止登录-U -m -d /usr/share/ollama：创建同名组并设置家目录
创建服务文件：
sudo nano /etc/systemd/system/ollama.service
粘贴以下内容：
[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"
[Install]
WantedBy=default.target
✅ 关键参数说明：
ExecStart：启动命令User/Group：以 ollama 用户运行Restart=always：崩溃后自动重启After=network-online.target：确保网络就绪后再启动
# 重载 systemd 配置
sudo systemctl daemon-reload
# 启用开机自启
sudo systemctl enable ollama
# 启动服务
sudo systemctl start ollama
# 查看服务状态
sudo systemctl status ollama
正常输出应包含：
● ollama.service - Ollama Service
Loaded: loaded (/etc/systemd/system/ollama.service; enabled; vendor preset: enabled)
Active: active (running) since ...
# 查看日志
sudo journalctl -u ollama -f
如果看到 ollama serve 启动成功日志，说明安装完成。
systemctl start ollama 失败，提示权限错误？/usr/bin/ollama 是否有执行权限sudo chmod a+x /usr/bin/ollama
cannot create directory /usr/share/ollama/.ollama？sudo chown -R ollama:ollama /usr/share/ollama
sudo chmod 755 /usr/share/ollama
ollama pull model-name 下载模型。通过离线介质把模型和 modelfile 文件传输到 ubuntu 服务器同一个目录下后，使用命令把文件重命名为 gemma3-12b.gguf：
mv sha256-e8ad13eff07a78d89926e9e8b882317d082ef5bf9768ad7b50fcdbbcd63748de gemma3-12b.gguf
查看导出的 modelfile 文件，里面有示例 gemma3:12b 模型的路径和文件名称。
如笔者在个人 windows 主机下载模型后，使用下面命令：
ollama show gemma3:12b --modelfile >> modelfile
然后使用命令 ollama create gemma3:12b -f modelfile 导入模型。
因为 windows 导出的 modelfile 文件中的路径是与 Linux 有区别，需要修改一下。
本文提供了一套完整的 Ubuntu 24.04 离线安装 Ollama 和导入模型的解决方案，核心要点如下：
✅ 绕过官方在线脚本限制，实现离线部署 ✅ 使用迅雷加速下载，解决国内网络慢问题 ✅ Windows 与 Linux 的模型，两个系统下载的模型是可以互相导入的
该方法适用于所有无法联网的 Linux 服务器环境，特别适合企业内网、科研实验室、边缘计算等场景。
11434 端口（Ollama API 端口），便于远程调用。nginx 反向代理 + HTTPS 提升安全性。Ollama + Open WebUI 搭建本地 AI 助手界面。
微信公众号「极客日志」，在微信中扫描左侧二维码关注。展示文案：极客日志 zeeklog
生成新的随机RSA私钥和公钥pem证书。 在线工具，RSA密钥对生成器在线工具，online
基于 Mermaid.js 实时预览流程图、时序图等图表，支持源码编辑与即时渲染。 在线工具，Mermaid 预览与可视化编辑在线工具，online
将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具，Base64 字符串编码/解码在线工具，online
将字符串、文件或图像转换为其 Base64 表示形式。 在线工具，Base64 文件转换器在线工具，online
将 Markdown（GFM）转为 HTML 片段，浏览器内 marked 解析；与 HTML转Markdown 互为补充。 在线工具，Markdown转HTML在线工具，online
将 HTML 片段转为 GitHub Flavored Markdown，支持标题、列表、链接、代码块与表格等；浏览器内处理，可链接预填。 在线工具，HTML转Markdown在线工具，online