AMD 显卡本地 AI 大模型部署指南
Ollama-for-amd 项目专门增强了 AMD GPU 支持，让你轻松在本地部署 Llama 3、Mistral、Gemma 等主流大语言模型，充分释放 AMD 显卡的 AI 计算潜力。
问题一：我的 AMD 显卡真的能跑 AI 模型吗？
解决方案：确认硬件兼容性
首先需要了解你的 AMD 显卡是否在支持列表中。根据官方文档，以下系列显卡已通过充分测试：
Linux 系统兼容显卡
- Radeon RX 系列：7900 XTX/XT、7800 XT、6950 XT 等消费级显卡
- Radeon PRO 系列：W7900/W7800、V620 等专业工作站显卡
- Instinct 加速卡：MI300X/A、MI250X 等数据中心级计算卡
Windows 系统兼容显卡
- Radeon RX 系列：7900 XTX/XT、7600 XT、6900 XTX 等
关键准备：ROCm 驱动环境 在开始部署前，确保已安装 ROCm SDK。Linux 系统推荐 v6.1+ 版本，Windows 系统同样需要 v6.1+ 版本。这是 AMD GPU 运行 AI 模型的必备基础环境。
问题二：如何快速完成安装配置？
解决方案：四步极简安装法
第一步：获取项目源码
打开终端执行以下命令：
git clone <project_repository_url>
cd ollama-for-amd
第二步：环境依赖处理
确保已安装 Go 语言环境（1.21+ 版本），然后运行：
go mod tidy
这个命令会自动处理所有项目依赖，让你无需手动配置复杂环境。
第三步：构建可执行文件
根据你的操作系统选择对应的构建脚本：
Linux 用户执行：
./scripts/build_linux.sh
Windows 用户在 PowerShell 中运行：
.\uild_windows.ps1
构建完成后，可执行文件将出现在项目根目录。
第四步：验证安装效果
运行以下命令检查 AMD GPU 识别状态：
./ollama run --list-gpus
如果正确显示你的 AMD 显卡信息，恭喜你，安装成功！
Ollama 配置设置界面，可在此调整模型存储路径和硬件适配参数。
问题三：如何优化性能体验？
解决方案：关键配置调整技巧
多 GPU 环境设置
如果你的系统配备多块 AMD GPU，可以通过环境变量指定使用特定设备：
Linux 系统设置：
export ROCR_VISIBLE_DEVICES=0,1
Windows 系统设置：
set ROCR_VISIBLE_DEVICES=0
