背景与选型
在边缘 AI 推理项目中，常面临 GPU 功耗过高、端侧算力不足，或云端延迟无法满足实时性的问题。FPGA 凭借高并行度和可编程性成为理想选择，而 Xilinx（现 AMD）推出的 Vitis 统一平台大幅降低了开发门槛。
Vitis 支持使用 C/C++ 甚至 Python 描述算法，通过高层次综合（HLS）自动生成硬件电路。配合 Vitis AI 工具链，可实现从 TensorFlow/PyTorch 模型到 Zynq SoC 或 Alveo 加速卡的一键量化、编译与部署。在 Kria KV260 上实测 ResNet-50，INT8 量化后推理速度超过 1200 FPS，功耗仅 5W 左右，非常适合摄像头等边缘设备。
环境准备
版本兼容性是首要问题。推荐配置如下：
- 主机系统：Ubuntu 20.04
- Vitis 版本：2023.1
- Vitis AI：3.0
- 目标平台：Kria KV260 SOM
安装顺序建议：
- 安装 Vivado/Vitis，勾选'Vitis Embedded Development'。
- 配置 Vitis AI Docker 镜像。
docker pull xilinx/vitis-ai:latest
docker run -it --gpus all --rm --name vitis-ai \
-v /path/to/your/model:/workspace \
xilinx/vitis-ai:latest
注意：务必确认 XRT（Xilinx Runtime）、DPU 固件和 Vitis 版本匹配，否则
.xclbin加载可能失败。
模型导出与转换
假设已训练好分类模型（如 MobileNetV2），需将其转换为中间格式 ONNX。
import torch
import torchvision
# 加载预训练模型
model = torchvision.models.mobilenet_v2(pretrained=True)
model.eval()
# 构造 dummy input
dummy_input = torch.randn(1, 3, 224, 224)
# 导出 ONNX
torch.onnx.export(
model, dummy_input, "mobilenet_v2.onnx",
input_names=["input"], output_names=["output"],
opset_version=13, do_constant_folding=True
)
关键点：
opset_version=13兼容 Vitis AI 对动态 shape 的支持。- 确保所有操作均为静态图可追踪，避免 Python 控制流。
模型量化
FPGA 资源有限，FP32 模型无法直接运行，必须进行 INT8 量化。这直接影响最终精度。
Vitis AI 提供两阶段流程：校准（Calibration）与量化（Quantization）。
vai_q_onnx quantize \
--model mobilenet_v2.onnx \
--calibration_dataset ./calib_images \
--quant_mode calibrate \
--deploy_model_dir quantized/
