一、环境准备
查看系统版本：
cat /etc/redhat-release # CentOS 7.3
配置国内镜像源：
wget -O /etc/yum.repos.d/CentOS-Base.repo http://mirrors.aliyun.com/repo/Centos-7.repo
wget -O /etc/yum.repos.d/epel.repo http://mirrors.aliyun.com/repo/epel-7.repo
yum clean all
yum makecache
升级系统至兼容版本：
yum update -y
安装基础工具：
yum install -y wget curl git vim net-tools gcc gcc-c++ make \
openssl-devel readline-devel zlib-devel bzip2-devel \
libffi-devel sqlite-devel
安装 DevToolset-7（新版 GCC）：
yum install -y centos-release-scl-rh
yum install -y devtoolset-7-gcc devtoolset-7-gcc-c++ devtoolset-7-binutils
scl enable devtoolset-7 bash
echo "source /opt/rh/devtoolset-7/enable" >> ~/.bashrc
gcc --version
二、安装 Ollama
创建用户并设置权限：
useradd -m -s /bin/bash ollama
passwd ollama
usermod -aG wheel ollama
mkdir -p /home/ollama/models
chown -R ollama:ollama /home/ollama
su - ollama
下载 Ollama 二进制文件：
cd /home/ollama
# 需先安装 zstd 解压工具
yum install -y zstd
tar --zstd -xvf ollama-linux-amd64.tar.zst
配置环境变量允许局域网访问：
export OLLAMA_HOST="0.0.0.0:11434"
启动服务脚本 start_ollama.sh：
cat > start_ollama.sh << 'EOF'
#!/bin/bash
export OLLAMA_HOST="0.0.0.0:11434"
nohup /home/ollama/bin/ollama serve > ollama.log 2>&1 &
echo "Ollama 服务已启动，进程 ID: $!"
EOF
chmod u+x start_ollama.sh
./start_ollama.sh
验证安装：
ollama --version
三、模型管理
在线拉取模型：
ollama pull qwen2.5:7b-instruct-q4_K_M
离线加载模型：
- 下载 GGUF 格式模型文件至
/home/ollama/models。 - 在目录中创建
Modelfile：
cat > Modelfile << 'EOF'
FROM ./Qwen3-8B-Q4_K_M.gguf
EOF
- 注册模型：
ollama create Qwen3-8B-Q4_K_M -f Modelfile
- 查看与运行：
ollama list
ollama run Qwen3-8B-Q4_K_M
