STM32 上运行 AI 大模型的四种方案及案例

三、直接上干货：可复制的案例分享

方案 1 案例：STM32 AI Model Zoo（图像分类等多任务）

STM32 AI 模型库（Model Zoo）是一个针对 STM32 微控制器优化的可以直接用于设计参考的机器学习模型集合。

（1）它包含大量面向应用的模型，这些模型通常可以直接用于再训练（retraining）。
（2）提供在标准数据集上已经预训练好的模型。
（3）附带脚本，用以简化在用户自己数据集上对任一模型进行再训练、量化（quantization）、评估或基准测试（benchmarking）的过程。
（4）提供将用户 AI 模型自动生成对应应用端代码（部署代码）的示例。

下面是针对 AI 模型库的案例集：

方案 2 案例：TensorFlow Lite Micro（配 CMSIS-NN）

STM32 TFLM Demos（KWS/手势/人形等）

上面的案例中包含了最基础的'Hello World'，以及语音命令识别（Micro Speech）、手写数字分类（MNIST）等工程模板，可以从零起步逐层提升我们学习在单片机中使用 AI 的能力。

方案 3 案例：NanoEdge AI Studio

NanoEdge 数据采集 + 在线训练 + 上板推理（电流/振动/声音）

这个案例可以实现在 STM32 平台上实现数据记录（datalogging）功能，并集成 NanoEdge AI 库用于异常检测 / 模型学习 / 推理。包括示例 C 代码、NanoEdge AI 所需库、硬件连接说明、多个开发板与传感器的组合支持。

方案 4 案例：STM32（集成 NPU，如 STM32N6）

这个案例是应用在 STM32N6 系列开发板的入门级图像分类示例工程。它展示了如何利用 STEdgeAI 工具将量化后的 AI 模型部署到 STM32N6 平台上，并通过 Neural-ART NPU 加速器实现高效推理。

包含了完整的图像采集、预处理、分类显示流程，可在 STM32N6570-DK 等硬件上运行。

通过该示例，开发者可快速上手 STM32N6 的 AI 部署流程，体验端到端的图像分类应用，从模型生成到实时推理一站式实现。

总结

以上四种方案覆盖了从轻量级 TinyML 到重型视觉任务的各类需求。开发者应根据项目对算力、功耗、开发周期及模型复杂度的具体要求，选择合适的 AI 部署路径。