昇腾CANN自定义算子分类与关系

最新推荐文章于 2025-09-10 19:41:14 发布
原创 最新推荐文章于 2025-09-10 19:41:14 发布 · 397 阅读 · 1 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#人工智能

本文深入探讨了CANN5.0框架下的自定义算子实现，包括AICPU算子和TBE算子。TBE算子进一步细分为DSL和TIK两种类型，详细阐述了它们在人工智能计算中的应用和区别。

CANN的自定义算子分为AICPU算子与TBE算子。
其中TBE算子又可以分为DSL与TIK两种。
CANN自定义算子分类
注：当前版本为CANN 5.0

基于CANN框架的自定义算子开发与部署：详细流程、环境配置及代码注释
qq_38334677的博客
10-01 638
算子（Operator）是深度学习模型中的基本计算单元。在模型训练和推理的过程中，算子负责执行各种数学运算，如卷积、矩阵乘法、激活函数等。虽然CANN框架内置了大量常见的算子，但在某些特定场景下，开发人员可能需要定制专用算子，以满足特定的应用需求。这就是自定义算子开发的意义所在。算子插件：负责将算子集成到AI推理框架中，允许模型在推理时调用该算子。算子原型定义：用于定义算子的输入、输出及其属性。算子信息库：记录算子的基本信息，便于系统管理和调用。
昇腾AI处理器全新自定义算子开发指南：从环境配置到算子部署的全流程详解
qq_38334677的博客
09-26 823
全新开发场景指的是CANN（华为昇腾AI计算架构）算子库中没有现成的算子，开发者需要从零开始编写自定义算子，并将其适配到深度学习框架（如TensorFlow、PyTorch等）中。这个过程不仅涉及到算子逻辑的编写，还需要完成环境配置、算子原型定义、适配插件开发等多个步骤。如果算子只需要在CANN平台上调用，且不需要融入到第三方框架中，则无需进行适配插件的开发。全新算子开发包括一系列步骤，从环境配置到算子编译部署，再到网络测试，每一步都至关重要。
【2024昇腾&鲲鹏创新大赛集训营】异构计算框架CANN 及 Ascend C 自定义算子实现（昇腾篇学习笔记 -- 小白向）
weixin_42834975的博客
07-02 1666
学习华为昇腾CANN异构计算架构Ascend C算子开发课程的笔记（适用零基础小白参考），主要介绍：一些基础概念（CANN、NPU、算子、Ascend C）；昇腾AI硬件简介；昇腾AI的并行计算方法；Ascend C算子开发的编程范式；算子开发流程和源码分析等。
华为昇腾CANN开发实战：算子自定义与模型压缩技术指南
最新发布
AladdinEdu，你的AI学习实践工作坊。让想法落地，让研究加速。助力高校AI人才成长，点亮创新未来。
09-10 1055
随着人工智能技术的飞速发展，越来越多的企业和开发者投身于AI模型的研发与部署。华为昇腾（Ascend）AI处理器以其强大的算力和完整的软件栈，成为了AI加速领域的重要力量。其中，CANN（Compute Architecture for Neural Networks）作为昇腾AI处理器的软件基石，为神经网络计算提供了强大的底层支持。本文将深入探讨CANN开发中的两大核心实战技能：**AscendCL算子自定义开发**与**模型压缩技术（量化）及工具链**，并分享**ATC模型转换过程中的常见“陷阱”及其规
【2023CANN训练营第二季】——Ascend C自定义算子工程介绍及实验
qq_45257495的博客
11-28 2304
自定义算子工程是一个包含用户编写的host侧和kerne|侧算子实现文件的，用于编译和安装自定义算子run包的工程框架。CANN软件包中提供了工程创建工具msopgen，开发者可以输入算子原型定义文件生成Ascend C算子开发工程。需要编写AddCustom算子的原型定义json文件以及运行以下代码其中对这些命令进行解释：${INSTALL_DIR}为CANN软件安装后文件存储路径，根据实际环境进行替换。-i：指定算子原型定义文件add_custom.json所在路径，请根据实际情况修改。
[昇腾CANN自定义算子]TIK算子矢量计算接口vec_add
UnseenMe的博客
10-19 563
利用AI Core的Vector Unit，进行矢量加计算。 vec_add(mask, dst, src0, src1, repeat_times, dst_rep_stride, src0_rep_stride, src1_rep_stride) mask 通常用这个参数的连续模式，就是设置前N个数据参与计算。 每次迭代可以计算256字节的数据。 比如，当计算float16类型数据时，每个数据2字节，所以mask设置成128时，就可以在一个迭代中计算256字节的数据。 dst, src0, s
CANN算子：利用迭代器高效实现Tensor数据切割分块处理
华为云官方博客
07-04 1071
本文以Diagonal算子为例，介绍并详细讲解如何利用迭代器对n维Tensor进行基于位置坐标的大批量数据读取工作。
昇腾Ascend C算子开发大作业（实现自定义算子）
小怡包子的博客
12-17 1415
Ascendc自定义算子实现过程
【CANN训练营】基于昇腾CANN平台的AI CPU算子开发
qq_40679625的博客
07-16 1028
介绍如何开发CANN AICPU自定义算子，以一个AICPU算子为示例进行讲解，分析+实现+测试验证一个端到端的完整开发流程。
【昇腾AI-CANN训练营】Ascend C算子开发-学习记录帖
m0_46596861的博客
07-23 1765
此为华为昇腾AI训练营（南京站）授课内容，经个人整理发布为了更好的理解课程内容，建议读者有一定的计算机组成原理、编译原理学习基础提示：以下是本篇文章正文内容，笔者自行整理，欢迎批评指正！以上为训练营第一天的内容和任务，to be continued……
小支同学的技术博客：探索华为昇腾CANN训练营与AI技术创新——Ascend C算子开发能力认证考试（中级）
ZhiYilang的博客
10-10 2358
近期，小北参与了华为昇腾CANN训练营2024第二季的学习，这次训练营聚焦于Ascend C算子开发能力认证（中级），为我提供了一个深入学习昇腾AI基础软硬件平台的机会。通过系统的课程学习和实践操作，我不仅掌握了算子开发的基本技能，还了解了昇腾原生开发的全流程，这对于小北在大数据和AI领域的进一步研究具有重要意义。
【CANN文档速递04期】揭秘昇腾CANN算子开发
m0_71340392的博客
09-21 885
本期我们主要带您了解CANN自定义算子的类型，编译、运行逻辑架构，以及算子的开发流程等，让您对CANN算子有宏观的了解。
【2024CANN训练营第二季】算子及Ascend C概述
JeffDing
10-17 1086
Ascend C算子是CANN针对算子开发场景推出的编程语言，通过多层接口抽象、自动并行计算、孪生调试等关键技术，极大提高算子开发效率，助力AI开发者低成本完成算子开发和模型调优部署。使用Ascend C编程语言开发的算子称之为Ascend C算子。C/C++原始编程，最大化匹配用户的开发习惯编程模型屏蔽硬件差异，编程范式提高开发效率多层级API封装，从简单到灵活，兼顾易用与高效孪生调试，CPU侧模拟NPU侧的行为，可优化在CPU侧调试。
【CANN训练营】Ascend算子开发入门笔记
JeffDing
10-12 1000
Ascend C是CANN针对算子开发场景推出的编程语言,原生支持C和C++标准规范，最大化匹配用户开发习惯；通过多层接口抽象、自动并行计算、孪生调试等关键技术，极大提高算子开发效率，助力AI开发者低成本完成算子开发和模型调优部署。使用Ascend C开发自定义算子的优势C/C++原语编程，最大化匹配用户的开发习惯编程模型屏蔽硬件差异，编程范式提高开发效率多层级API封装，从简单到灵活，兼顾易用与高效孪生调试，CPU侧模拟NPU侧的行为，可优化在CPU侧调试。
【2024第一期CANN训练营】Ascend C算子开发基础篇
weixin_46227276的博客
03-18 2978
*核函数（Kernel Function）是Ascend C算子设备侧实现的入口。**在核函数中，需要为在一个核上执行的代码规定要进行的数据访问和计算操作，当核函数被调用时，多个核都执行相同的核函数代码，具有相同的参数，并行执行。Ascend C允许用户使用核函数这种C/C++函数的语法扩展来管理设备端的运行代码，用户在核函数中进行算子类对象的创建和其成员函数的调用，由此实现该算子的所有功能。核函数是主机端和设备端连接的桥梁。// 核函数实现// 初始化函数，获取处理的输入输出地址，完成内存初始化。
CANN-AICPU算子开发
Gavin的博客
11-05 2369
1.算子 算子是一个函数空间到函数空间上的映射O：X->X；广义的讲，对任何函数进行某一项操作都可以认为是一个算子。在Caffe中，算子对应层中的计算逻辑，例如：卷积层中的卷积算法，是一个算子；全连接层中的权值求和过程，是一个算子。 算子举例：在网络模型中被用作激活函数的算子：tanh、ReLU、Sigmoid等 1.1张量（Tensor） Tensor是算子中的数据，包括输入数据与输出数据，TensorDesc是对输入输出数据与输出数据的描述，TensorDesc数据结构包含如下属性： 属性
【CANN训练营】算子开发概述
qq_43280580的博客
01-04 2882
【CANN训练营】算子开发概述
昇腾CANN两种TBE算子的比较
UnseenMe的博客
10-19 560
TBE自定义算子有两种： DSL（Domain-Specific Language） TIK（Tensor Iterator Kernel） 其中DSL方式只需要定义算子的计算表达，不用考虑如何调度； 而TIK方式就需要同时定义计算与调度两方面。 所以DSL上手快，但性能可能不理想，适合初学者以及快速验证等场景； TIK开发则需要了解SOC结构与特性，可以开发出更高性能的算子，适合对性能有一定要求的场景。 ...
基于昇腾CANN的卷积算子实现与优化详解
本文标题“昇腾CANN卷积算子实现[可运行源码]”明确指出其核心内容为在昇腾平台上实现卷积神经网络中的关键操作——二维卷积（Conv2D）算子，并提供了可实际运行的源代码示例。结合描述与标签信息可知，该资源不仅...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值