昇腾 CANN 语言体系与选型指南
昇腾 CANN 软件栈由多层 API 和 Kernel 构成，包含 Python、C++、AscendCL、TBE、MindSpore、PyTorch Frontend 等多种接口。为了简化理解，可将其分为三层：
- 高层：框架调用 — 类似 PyTorch、MindSpore 训练推理
- 中层：算子 API 调用 — AscendCL、ACL Python、算子编写接口
- 底层：Kernel 语言 — TBE、C++ Kernel、融合算子 DSL
它们分工明确，并非重复。
模型推理：Python（ACL Python）
适用场景：
- 部署 YOLO
- 部署大模型
- ONNX 转 OM
- 简单前后处理
推荐理由： Python ACL 是官方主推的部署 API，上手快，无需接触复杂内存、流或 Device buffer，也不用写 Kernel。
总结：不做算子开发，用 Python ACL 即可。
深度部署与工程化：C++ AscendCL
适用场景：
- 性能要求高
- 大规模离线服务
- 推理服务并发、异步、流水线
- 自定义 DVPP / AIPP / Memory Pool 管理
推荐理由： 真实部署场景中，Python 存在性能瓶颈，多线程不友好且高并发时不稳定。C++ AscendCL 是最接近硬件的调用方式，稳定且强大。
总结：做真正的工程化推理，C++ ACL 必须掌握。
算子开发者：TBE 或 C++ Kernel
CANN 的算子开发分两类：
- TBE（Tensor Boost Engine）：偏向静态图 + 大量已有模板，适合 Conv2D、Softmax、MatMul、BatchNorm 等已有算子的二次开发。
- C++ AICore Kernel：偏底层，写 AI Core 的 kernel pipeline，适合复杂融合算子手写 pipeline、性能极限优化及 AICore scheduler 调优。
总结：TBE = 快速开发；C++ Kernel = 极致性能。
