Ubuntu 24.04 离线部署 Ollama 及模型导入实战指南
随着本地大语言模型(LLM)的兴起,Ollama 成为了在本地运行和管理 LLM(如 Llama 3、Qwen3、Deepseek 等)的热门工具。然而,Ollama 官方的 Linux 安装方法仅提供在线一键安装脚本:
curl -fsSL https://ollama.com/install.sh | sh
这种方式在无网络环境或网络受限/速度极慢的服务器上使用非常不便,尤其是在国内访问时下载速度常常只有几 KB/s,甚至超时失败。
本文将详细介绍如何在 Ubuntu 24.04 系统上离线安装最新版 Ollama 并导入 Windows 下载的模型,同时提供加速下载思路,帮助你在内网、隔离环境或低带宽场景下顺利完成部署。
一、问题背景
1. 官方安装方式的局限性
- 依赖
curl和外部网络。 - 下载源位于海外,国内访问速度极慢。
- 无法在离线服务器、内网环境或安全审计严格的系统中使用。
2. 目标环境
- 操作系统:Ubuntu 24.04 LTS
- 网络状态:完全离线(无互联网连接)
- 目标软件:Ollama 最新版(
ollama-linux-amd64)
二、解决方案思路
- 在有网络的机器上通过第三方工具加速下载 Ollama 二进制包。
- 将下载的压缩包通过 U 盘、光盘或内网传输到目标 Ubuntu 服务器。
- 手动解压并配置为系统服务(systemd),实现开机自启。
三、详细操作步骤
步骤 1:获取 Ollama 离线安装包
从 Ollama 官方下载页面获取直接链接:
https://ollama.com/download/ollama-linux-amd64.tgz
⚠️ 注意:该链接始终指向最新版本的 Linux AMD64 架构二进制包。
步骤 2:使用下载工具加速
由于官方链接直连速度可能较慢,建议使用支持多线程下载的工具(如迅雷)进行加速:
- 打开下载客户端。
- 新建下载任务,粘贴上述链接。
- 下载完成后,文件名为
ollama-linux-amd64.tgz。
步骤 3:将安装包传输到目标服务器
使用 U 盘、光盘或内网文件共享等方式,将 ollama-linux-amd64.tgz 文件拷贝到目标 Ubuntu 24.04 服务器的 /opt 目录下:
cd /opt
ls -l
# 输出应类似:
# -rw-r--r-- 1 root root 123456789 Jan 1 00:00 ollama-linux-amd64.tgz
步骤 4:解压并安装 Ollama
将 Ollama 二进制文件解压到 /usr 目录(标准系统路径):
sudo tar -C /usr -xzf ollama-linux-amd64.tgz
验证是否安装成功:

