基于 Vitis 的 AI 模型 FPGA 部署流程
在边缘 AI 推理场景中，FPGA 凭借低功耗与高实时性优势，常作为 GPU 或云端的替代方案。Xilinx（现 AMD）推出的 Vitis 统一平台结合 Vitis AI 工具链，支持通过 C/C++ 甚至 Python 描述算法，利用高层次综合（HLS）自动生成硬件电路，并优化深度学习模型部署到 Zynq SoC 或 Alveo 加速卡。
FPGA 与 Vitis 的优势
传统 FPGA 开发涉及 Verilog、时序约束等，门槛较高。Vitis 平台允许开发者专注于算法逻辑，Vitis AI 工具链则提供从 TensorFlow/PyTorch 模型导出、量化、编译到部署的一站式支持。例如在 Kria KV260 上实测 ResNet-50，INT8 量化后推理速度可达 1200 FPS，功耗约 5W。
部署流程
整个流程分为五个阶段：环境搭建、模型导出、量化校准、编译生成、板端运行。
1. 环境搭建
确保版本兼容性是首要任务。推荐配置如下：
- 主机系统：Ubuntu 20.04
- Vitis 版本：2023.1
- Vitis AI：3.0
- 目标平台：Kria KV260 SOM
安装步骤：
- 安装 Vivado/Vitis，勾选'Vitis Embedded Development'。
- 配置 Vitis AI Docker 镜像。
docker pull xilinx/vitis-ai:latest
docker run -it --gpus all --rm --name vitis-ai \
-v /path/to/your/model:/workspace \
xilinx/vitis-ai:latest
注意：需确认 XRT（Xilinx Runtime）、DPU 固件和 Vitis 版本匹配，否则 .xclbin 加载可能失败。
2. 模型导出为 ONNX
将训练好的 PyTorch 模型转换为中间格式 ONNX。
import torch
import torchvision
model = torchvision.models.mobilenet_v2(pretrained=True)
model.eval()
dummy_input = torch.randn(1, 3, 224, 224)
torch.onnx.export(
model, dummy_input, "mobilenet_v2.onnx",
input_names=["input"], output_names=["output"],
opset_version=13, do_constant_folding=True
)
关键点：opset_version=13 兼容 Vitis AI 动态 shape 支持；确保操作均为静态图可追踪。
3. 模型量化
FPGA 资源有限，需进行 INT8 量化以平衡精度与性能。Vitis AI 提供两阶段流程：校准（Calibration）与量化（Quantization）。
vai_q_onnx quantize \
--model mobilenet_v2.onnx \
--calibration_dataset ./calib_images \
--quant_mode calibrate \
--deploy_model_dir quantized/