一、Atlas 300I Duo 推理卡相关安装步骤
由于显存限制,48G 版本的 Atlas 300I Duo 推理卡无法运行 DeepSeek-R1-Distill-Qwen-32B 大语言模型。本方案使用 96G 版本,服务器内存需配置为 128GB。
1.1 服务器系统与内核说明
| 服务器 | 系统版本 | 内核版本 | 内存条内存 |
|---|---|---|---|
| S5000C | Kylin V10 | 4.19.90-89.11.v2401.ky10.aarch64 | 128GB |
注意:服务器安装好系统后不要执行 yum update -y 更新,否则内核版本升级可能导致驱动包安装失败。
1.2 系统环境确认
登录用户:root
执行以下命令确认是否识别到 Atlas 300I Duo 推理卡:
lspci | grep Huawei
回显信息示例:
0000:01:00.0 Processing accelerators: Huawei Technologies Co., Ltd. Device d500 (rev 23)
检查内核版本:
uname -a
检查系统版本:
cat /etc/*release
1.3 准备安装驱动固件
1.3.1 新增 HwHiAiUser 用户
groupadd HwHiAiUser
useradd -g HwHiAiUser -d /home/HwHiAiUser -m HwHiAiUser -s /bin/bash
1.3.2 安装驱动与固件
从华为昇腾官网下载 Ascend HDK 驱动与固件文件(Ascend-hdk-310p-npu-driver_24.1.0.1_linux-aarch64.run 及 Ascend-hdk-310p-npu-firmware_7.5.0.5.220.run),放入 /root/work 目录并赋予执行权限:
cd /root/work
chmod +x *
首次安装场景,先安装驱动再安装固件。
安装 Driver:
./Ascend-hdk-310p-npu-driver_24.1.0.1_linux-aarch64.run --check ./Ascend-hdk-310p-npu-driver_24.1.0.1_linux-aarch64.run --full
安装 Firmware:
./Ascend-hdk-310p-npu-firmware_7.5.0.5.220.run --check ./Ascend-hdk-310p-npu-firmware_7.5.0.5.220.run --full
安装完成后重启服务器,执行 npu-smi info 确认设备状态。


