Ascend C 算子开发指南：从语法基础到算子实操

Ascend C 的 API 体系分为基础 API 和高层 API，分别支撑底层功能灵活组合与上层算法快速落地的开发需求。

基础 API：底层能力的灵活拼接

1. 计算类 API：分为标量（Scalar 单元）、向量（Vector 单元）、矩阵（Cube 单元）三类，适配不同粒度的计算场景。
2. 数据搬运 API：以 DataCopy 为核心，实现 Global Memory 与 Local Memory 间的数据迁移。
3. 内存管理 API：通过 AllocTensor/FreeTensor 管理内存生命周期。
4. 任务同步 API：通过 EnQue/DeQue 实现任务间通信。

高层 API：上层算法的高效封装

高层 API 封装了 Matmul、Softmax 等常用算法逻辑，借助'对象化封装 + 流程化调用'模式，将复杂算法逻辑转化为简洁的 API 调用，既减少了重复开发工作，又大幅提升了开发效率。

实战：Kernel 直调工程

核函数定义

用 global__ __aicore 限定符定义设备侧入口，调用算子类的初始化与处理函数。

算子类实现

通过 CopyIn（数据从 Global 搬入 Local）、Compute（向量加法）、CopyOut（结果搬出至 Global）三个流水任务实现逻辑，结合 Queue 做任务同步、Pipe 做内存管理。

Init 实现

KernelAdd 类的 Init 方法主要做两件事：

1. 通过 block_idx 给当前 AI Core 划分全局内存数据，把 xGM、yGM、zGM 绑定到当前核心的处理区域，实现多核并行。
2. 用 pipe 初始化输入输出队列的双缓冲内存，按 TILE_LENGTH 分配内存块，队列深度设为 BUFFER_NUM，支撑流水线并行。

Process 实现

KernelAdd 类的 Process() 方法通过循环调度 CopyIn、Compute、CopyOut 三个阶段，结合双缓冲实现流水线并行。

流程中，CopyIn 将全局内存数据搬入本地并通过队列同步，Compute 执行向量加法并将结果入队，CopyOut 将结果搬回全局内存，借助双缓冲和流水线机制让数据搬运与计算并行，提升昇腾 AI Core 的 Vector 单元利用率。

主机侧逻辑

ddCustom 算子的主机侧 main.cpp

• CPU 模式逻辑：用于算法逻辑快速验证，不依赖昇腾硬件，直接在 CPU 上执行计算。
• NPU 模式主机侧逻辑：用于在昇腾 NPU 硬件上执行算子，充分利用硬件加速能力。

数据生成脚本 gen_data.py

基于 NumPy 编写，用于生成 AddCustom 算子的输入数据和真值数据，为算子的功能验证提供标准化的输入与预期结果参考。

实现逻辑：

# 生成两个形状为 (8, 2048) 的 float16 随机输入数据 input_x 和 input_y（数值范围 1-100）
input_x = np.random.randint(1, 100, size=(8, 2048), dtype=np.float16)
input_y = np.random.randint(1, 100, size=(8, 2048), dtype=np.float16)
# 计算加法算子的真值数据 golden（即 input_x + input_y）
golden = input_x + input_y
# 将输入数据和真值数据以二进制格式分别保存到指定路径
np.save('input_x.bin', input_x)
np.save('input_y.bin', input_y)
np.save('golden.bin', golden)

用途：为 AddCustom 算子的开发、调试和测试提供一致的输入源与真值基准，确保算子计算结果的准确性。

简单工程执行

Ascend C 算子的简易工程执行方式：将编译和执行命令封装到 run.sh 脚本中，可通过不同参数实现 CPU 和 NPU 模式下的算子运行调试。

• CPU 模式：执行 bash run.sh -v Ascend910x -r cpu，通过 md5 校验 output_z.bin 与 golden.bin 一致性验证执行成功；架构依赖 Host APP、CPU 调用库、算子 kernel 程序和 AscendC 类库。
• NPU 模式：执行 bash run.sh -v Ascend910x -r npu，通过 md5 校验验证编译、执行成功；架构依赖 Host APP、AscendCL API 库及设备侧算子 kernel 程序、AscendC 类库，实现主机 - 设备交互与功能验证。