Crius__的博客

原创 【2024CANN训练营】Ascend C算子开发课程笔记

如果把模型比喻成为一幢建筑，那么算子就是它的砖块。成功搭起建筑不能够从烧砖开始，模型的开发也应当使用已有的算子来进行搭建。具体来举例，基础的算子有Add，复杂的有针对特定场景应用的融合算子。关注算子，就还应当关注张量（Tensor）。算子的输入和输出即为张量，张量是一个多维的数组，是标量、向量、矩阵的高维扩展。从编程角度来讲，张量这一结构除了数据本身外，还包含了对数据属性的描述。数据类型（Type）：例如FP16、FP32、int4、int8等形状（Shape）：张量的维度数以及各个维度的大小。