STM32 上运行 AI 模型的四种方案及案例解析
AI 模型能否跑在 STM32 上？答案是肯定的。目前主要有四种主流技术路径，适用于不同算力需求和应用场景。
一、四种核心方案
1. STM32Cube.AI（X-CUBE-AI）
这是 ST 官方提供的工具链。原理是将 PC 端训练好的神经网络自动转换为可在 MCU 上运行的 C 库，开发者只需在自己的工程中添加并调用编译后的库文件即可。
2. TensorFlow Lite Micro + CMSIS-NN
TensorFlow Lite for Microcontrollers (TFLM) 是谷歌开源的针对微控制器的推理引擎。它适用于仅有数千字节内存的设备，支持在裸机上运行，无需操作系统、标准 C/C++ 库或动态内存分配。
在 Cortex-M3 上运行时，核心运行时仅需 16KB，加上语音关键字检测等操作，总空间占用约 22KB。配合 ARM 的 CMSIS-NN 库，可显著提升核函数在 Cortex-M 上的执行效率。
3. NanoEdge AI Studio
针对异常检测、分类或回归等小模型任务，NanoEdge AI Studio 能生成适配 STM32 的专用库。该工具支持所有类型的传感器，生成的库无需云连接，可直接在本地学习与部署，覆盖 STM32 全系列 MCU。
Studio 可生成四种类型的库：异常检测、单分类、多分类、预测。
4. STM32N6 + NPU
新一代 STM32N6 芯片将 NPU（Neural-ART）直接集成进 MCU，峰值运算能力达百亿次级别。这标志着 STM32 从'小巧求稳'转向能够处理更重的视觉和音频任务，实现更大模型的实时推理。
二、方案对比与选型建议
| 路线 | 适用任务 | 优点 | 注意点 |
|---|---|---|---|
| STM32Cube.AI | 小到中等 CNN/MLP、KWS、人形检测、回归/分类 | 图形化/命令行一体，自动转换优化 C 代码；支持 ONNX 量化与在线验证 | 模型算子需被支持；建议 Int8 量化；结合板端性能页面预估 |
| TFLite Micro + CMSIS-NN | 经典 TinyML 示例（Hello World、KWS、手势、人形检测） | 开源可控；CMSIS-NN 映射核函数至 Cortex-M，常见获 4–5×提速/能效改善 | 需自行选/裁剪算子与内存；工程化工作量稍大 |
| NanoEdge AI Studio | 异常检测、简单分类/回归（工业声音、振动等） |
