Vitis AI 模型 FPGA 部署实战指南
在边缘 AI 推理项目中，GPU 功耗过高、端侧算力不足，云端延迟又难以满足实时性需求。转向 FPGA 是解决这一矛盾的有效路径，而 Xilinx（现 AMD）推出的 Vitis 统一平台让 FPGA 开发变得像写软件一样直观。
本文记录了一次从模型训练到板级验证的全过程实战。如果你希望将 PyTorch 模型部署到 KV260 等开发板上，实现高帧率低延迟的推理，以下流程值得参考。
为什么选择 FPGA + Vitis？
传统 FPGA 开发涉及 Verilog、时序约束，门槛较高。Vitis 平台通过 高层次综合（HLS） 允许使用 C/C++ 甚至 Python 描述算法，自动生成硬件电路。配合 Vitis AI 工具链，支持从 TensorFlow/PyTorch 导出的模型一键量化、编译并部署到 Zynq SoC 或 Alveo 加速卡上。
这意味着：
- 无需精通 Verilog 也能上手。
- 只要会训练模型，就能构建硬件加速引擎。
- 实测 ResNet-50 在 KV260 上 INT8 量化后推理速度超 1200 FPS，功耗仅 5W 左右。
环境搭建与准备
版本兼容性是第一道坎。推荐配置如下：
- 主机系统：Ubuntu 20.04
- Vitis 版本：2023.1
- Vitis AI：3.0
- 目标平台：Kria KV260 SOM
安装顺序建议：
- 先安装 Vivado/Vitis，勾选'Vitis Embedded Development'。
- 配置 Vitis AI Docker 镜像。
docker pull xilinx/vitis-ai:latest
docker run -it --gpus all --rm --name vitis-ai \
-v /path/to/your/model:/workspace \
xilinx/vitis-ai:latest
⚠️ 注意：务必确认 XRT（Xilinx Runtime）、DPU 固件和 Vitis 版本匹配，否则
.xclbin加载可能失败。
模型导出与转换
假设已有一个训练好的分类模型（如 MobileNetV2），需将其转换为中间格式 ONNX。
import torch
import torchvision
# 加载预训练模型
model = torchvision.models.mobilenet_v2(pretrained=True)
model.eval()
# 构造 dummy input
dummy_input = torch.randn(1, 3, 224, 224)
# 导出 ONNX
torch.onnx.export(
model, dummy_input, "mobilenet_v2.onnx",
input_names=["input"], output_names=["output"],
opset_version=, do_constant_folding=
)
