CANN的自定义算子分为AICPU算子与TBE算子。
其中TBE算子又可以分为DSL与TIK两种。

注:当前版本为CANN 5.0
相关推荐
CANN在昇腾NPU上的落地实践与图像分类加速应用
通过本次落地实践可以看出,CANN 不仅解决了异构硬件适配和性能调优的行业痛点,还显著提升了端云一体的 AI 开发效率。开发者无需过多关注底层硬件细节,即可专注于模型创新和业务逻辑的优化,实现“高性能算力即开即用”的目标。
【CANN 科普系列 01】3 分钟搞懂:CANN 算子到底是什么?怎么用?
在 CANN 学习中,“算子” 是出现频率最高的词,但很多新手会被 “异构算子”“TBE 算子”“框架算子” 绕晕。简单说:在昇腾芯片上跑模型,用 CANN 算子比框架原生算子快得多—— 因为 CANN 算子是为昇腾 “量身定做” 的,能最大化发挥芯片性能。核心结论:CANN 算子是适配昇腾芯片的 “专用计算工具”,封装了芯片底层的计算逻辑,让开发者不用关注硬件细节,就能调用芯片的计算能力。CANN Add算子计算结果: [7. 9. 11.]。# 4. 核心:调用CANN Add算子(1行代码搞定)
【超详细】磁力计数据读取--以IST8310为例
第一章讲了IST8310的特性,I2C通信,最高支持400kHz通信速率,14位或者16位自适应数据输出等特性第二章讲了内部结构第三章讲了电气特性第四章讲了如何联系他们然后数据手册就没了。。。在大疆的开发手册中找到了寄存器的手册,如下:点开I2C配置选项, 下图是配好的:观察IST8310的数据手册,发现其支持最大400kHz的I2C通信速率,也就是快速I2C模式,所以第一行I2C Speed Mode我们选Fast Mode同时不要忘记了在C板中I2C3的两个IO口分别是PA8和PC9(一般来说都是这两个
【CANN训练营】Ascend算子开发入门笔记
Ascend C是CANN针对算子开发场景推出的编程语言,原生支持C和C++标准规范,最大化匹配用户开发习惯;通过多层接口抽象、自动并行计算、孪生调试等关键技术,极大提高算子开发效率,助力AI开发者低成本完成算子开发和模型调优部署。使用Ascend C开发自定义算子的优势C/C++原语编程,最大化匹配用户的开发习惯编程模型屏蔽硬件差异,编程范式提高开发效率多层级API封装,从简单到灵活,兼顾易用与高效孪生调试,CPU侧模拟NPU侧的行为,可优化在CPU侧调试。
2019年数学建模美赛经验总结
北京时间2019年1月29号上午9时,数模美赛结束。美赛结束已经10多天了,我在这次竞赛中负责建模和编程,趁现在记忆还比较清晰,写下这篇博客记录第一次参加数学建模美赛的经历。 补更:2019年4月20日公布成绩,笔者最终获得了美赛一等奖 目录 1、基本情况 2、选题 3、分工合作 4、论文写作 5、建模 6、编程 7、入门资源 ...
研一脑电小白日记 之 EEGLAB预处理实战指南
本文为脑电研究新手提供了一份详尽的EEGLAB预处理实战指南。从MATLAB与EEGLAB环境搭建、使用NeuracleEEGFileReader插件导入BDF格式数据开始,逐步讲解了电极定位、滤波、降采样、ICA去伪迹等核心步骤,旨在帮助初学者高效完成脑电数据预处理,为后续分析奠定坚实基础。
理论+实践,揭秘昇腾CANN算子开发
本文介绍了CANN自定义算子开发的几种开发方式和算子的编译运行流程。然后以开发一个DSL Add算子为例,讲解算子开发的基本流程。
【学习系列】SAP RAP 4:通过注解来完成一些常规需求
本文介绍了RAP应用中常用注解的实现方式,包括搜索帮助、文本描述绑定、联动搜索、字段控制等功能。通过@Consumption、@UI等注解可以实现搜索帮助定义、多字段联动、必输校验、默认排序和默认值设置。管理字段可通过@Semantics注解自动记录创建/修改信息,长文本使用@UI.multiLineText实现多行显示。这些注解可优化界面交互和数据管理,为后续行为定义功能开发奠定基础。文章结构清晰,针对不同需求提供了具体的实现方案和代码示例。
带你掌握如何使用CANN 算子ST测试工具msopst
shape的取值范围为[32,16];测试用例定义文件,顾名思义,就是用来生成测试用例的,其内容包含了测试用例所需的基本信息,例如:测试用例名称,所要测试的算子类型,算子的输入输出描述信息(形状、数据类型、数据排布格式等)、算子属性相关信息(包含属性名称、类型、属性值)、数据生成算法等。若开发者需要生成大量测试用例,可利用fuzz测试参数生成脚本辅助生成,并在测试用例定义文件( *.json )中配置fuzz脚本路径、所需生成的测试用例数目,同时输入输出描述中相关参数的取值配置为“fuzz”。
Python 爬虫实战:爬取微博热搜与用户评论数据
本文系统讲解微博热搜榜单与用户评论数据的爬取技术方案。针对微博热搜榜采用Requests+BeautifulSoup解析静态HTML结构,实现高效爬取;对于动态加载的评论数据,使用Selenium模拟浏览器行为规避反爬机制。详细阐述技术选型、反爬策略、数据清洗及存储方法,提供完整代码实现和输出示例。同时强调合规要求,提示开发者需在遵守平台规则的前提下进行数据采集。该方案为舆情分析和热点研究提供了可落地的技术实现路径。
PON架构(全光网络)
目前组网架构世界上有一种最快的速度又是光,以前传统以太网络规划满足不了现在的需求。有线网 无线网 全光网络方案场景 全光网络分类 以太全光网络 PON(Pas-sive-Optical Network 无源光网络) 再典型的中大型高校网络中 推荐万兆入室 千兆到桌面的带宽设计 一般三层 (终端-接入层-汇聚层-核心层-出口(安全设备)-互联网) 单校区核心设备 一般采用两台高性能的核心交换机 双机的方式采用的是 M-LAG 多校区之间核心交换机采用1
【2024CANN训练营第二季】算子及Ascend C概述
Ascend C算子是CANN针对算子开发场景推出的编程语言,通过多层接口抽象、自动并行计算、孪生调试等关键技术,极大提高算子开发效率,助力AI开发者低成本完成算子开发和模型调优部署。使用Ascend C编程语言开发的算子称之为Ascend C算子。C/C++原始编程,最大化匹配用户的开发习惯编程模型屏蔽硬件差异,编程范式提高开发效率多层级API封装,从简单到灵活,兼顾易用与高效孪生调试,CPU侧模拟NPU侧的行为,可优化在CPU侧调试。
【国密】基于SM2的协同签名与协同解密方案
两方协同签名指客户端与服务端协同完成签名、验签操作,具体实现方案参考了信工所专利[3]。在业务应用中,两方或多方的协同签名一般采用门限签名方案可以用来构造。门限密码算法在多方协作的相关场景中应用十分广泛,可以实现数据联合授权、认证、密钥安全恢复、密钥安全交换等需求,在诸多分布式多方计算协议中均可见其身影。在上述两方协同签名方案中,最巧妙的地方在于签名值s分量的构造,通过一些列数学变换,得以恢复。以下从两方协同签名方案介绍入手,介绍门限密码在协同签名中的应用。解决上述问题的关键在于门限密码算法的巧妙构造。
10 分钟玩转昇腾 CANN 自定义算子:Abs 算子基于 Notebook 调试全流程
10 分钟玩转昇腾 CANN 自定义算子:Abs 算子基于 Notebook 调试全流程
如何对TBSS的结果进行统计学的分析,已完成置换检验,如何在最终的TBSS输出结果提取除具体值及如何做进一步相关性分析??
🏆本文收录于 《全栈 Bug 调优(实战版)》 专栏。专栏聚焦真实项目中的各类疑难 Bug,从成因剖析 → 排查路径 → 解决方案 → 预防优化全链路拆解,形成一套可复用、可沉淀的实战知识体系。无论你是初入职场的开发者,还是负责复杂项目的资深工程师,都可以在这里构建一套属于自己的「问题诊断与性能调优」方法论,助你稳步进阶、放大技术价值。
老版QQ原生表情gif动态
这是老版的QQ表情,不过全是动态的的,Windows照片查看器是不会动的,可以右击用浏览器打开查看,再说一遍是老版的,只是分享给宁愿用老版也要动态的人。
深度测评解析 CANN:从 ACL 到自定义算子,解锁昇腾计算的全部潜能
深度测评解析 CANN:从 ACL 到自定义算子,解锁昇腾计算的全部潜能
温度PID控制PLC程序
温度PID稳定控制程序,适用于欧姆龙PLC,对其他PLC也具有很大参考价值
华为开发者空间赋能昇腾 AI CANN 算子开发
实验介绍1.1、实验平台介绍本实验详细描述了如何在华为开发者空间 AI NoteBook 上搭建昇腾 Ascend C 算子开发环境,并开发一个AddCustom 自定义算子。1.1.1、华为开发者空间简介。
jdk-8u144-linux-x64.tar.gz.
该资源为搭建Linux系统Java环境用,资源的后缀为tar.gz格式的压缩包
ET2012新版免狗免安装绿色软件
ET2012新版免狗免安祖昂绿色软件。,新界面,新视觉,
基于华为昇腾CANN的自定义算子开发
在大模型推理中,Attention机制通常由多个基础算子组成(MatMul、Softmax、Dropout等),导致频繁的内存读写。我们将开发一个融合Attention算子,减少内存访问,提升性能。本文从算子开发维度探索了华为昇腾CANN的创新实践。通过Ascend C实现融合Attention算子,将多个基础算子合并为单一计算单元,有效减少内存访问开销,最终实现了2.6倍的性能提升。作为昇腾AI软件栈的核心,CANN正在构建一个从芯片到框架的完整生态体系。
昇腾CANN算子开发揭秘
本文介绍了CANN自定义算子开发的几种开发方式和算子的编译运行流程。然后以开发一个DSL Add算子为例,讲解算子开发的基本流程。
2025年昇腾CANN训练营第二季全攻略:从零基础到算子开发专家
昇腾CANN训练营简介 昇腾CANN训练营是华为推出的人工智能开发者培训计划,专注于昇腾AI处理器和CANN(Compute Architecture for Neural Networks)异构计算架构的技术培训。本训练营面向AI开发者、算法工程师和高校学生,提供从基础理论到实战开发的全方位培训。报名链接:点击这里报名昇腾训练营本文将全面解析2025年昇腾CANN训练营第二季的学习内容、课程体系、实践项目以及进阶路径。作为华为昇腾AI生态的重要组成部分,CANN训练营为开发者提供了系统化的算子开发能力培养
昇腾CANN算子共建仓CANN-Ops正式上线Gitee,首批算子已合入
西北工业大学的徐韬教授及其课题组,将昇腾CANN等专项课程融入教学体系,高校开发者得以直面昇腾处理器优化的实际需求,系统掌握从算法设计到硬件适配的全链条技能,同时高校作为创新人才的摇篮,可推动学术成果转化为产业应用,将研究成果反哺生态,助力中国在深度学习基础领域实现从"跟跑"到"领跑"的跨越。在人工智能技术呈指数级发展的今天,AI创新已走向更底层的算法创新,以DeepSeek为例,通过MoE模型架构和底层算法创新,不仅获取极佳的模型性能,又更大程度释放硬件性能,降低硬件使用成本。
PyTorch模型轻松迁移昇腾平台:BERT优化与RoPE自定义算子实战
本文介绍了PyTorch模型在昇腾NPU平台的适配优化方法。通过BERT模型迁移和RoPE位置编码算子开发两个实战案例,展示了从基础迁移、精度验证到性能优化的完整流程。测试结果表明:自定义算子性能优异(RoPE算子耗时仅0.78ms),而复杂模型迁移需精细调优(BERT模型出现精度偏差)。文章总结出昇腾平台适配建议:优先优化计算密集型操作,采用渐进式迁移策略,利用平台提供的优化接口和精度保障体系,最终实现显著的端到端加速效果。
华为昇腾CANN开发实战:算子自定义与模型压缩技术指南
随着人工智能技术的飞速发展,越来越多的企业和开发者投身于AI模型的研发与部署。华为昇腾(Ascend)AI处理器以其强大的算力和完整的软件栈,成为了AI加速领域的重要力量。其中,CANN(Compute Architecture for Neural Networks)作为昇腾AI处理器的软件基石,为神经网络计算提供了强大的底层支持。本文将深入探讨CANN开发中的两大核心实战技能:**AscendCL算子自定义开发**与**模型压缩技术(量化)及工具链**,并分享**ATC模型转换过程中的常见“陷阱”及其规
昇腾CANN算子生成与融合深度解析:从原理到实战
昇腾CANN作为AI框架与昇腾NPU的关键桥梁,通过算子生成与融合技术显著提升模型性能。其核心在于:1)定制化算子生成,基于AscendC语言适配NPU硬件特性;2)算子融合技术,将多个算子合并执行以减少内存访问和调度开销。实战案例展示了AddMul融合算子的开发流程,性能测试显示融合后推理耗时降低58.3%,内存访问减少66.7%。该技术已成功应用于计算机视觉、大模型等场景,未来将向全场景自动优化方向发展。
昇腾实战|算子模板库Catlass与CANN生态适配
Catlass模板库为昇腾NPU提供了高效的开发接口,显著降低了底层硬件编程的复杂度。通过预置优化策略和灵活的配置选项,开发者能够快速实现高性能算子,充分发挥NPU的并行计算能力。测试表明,在典型矩阵乘法任务中,Catlass在保证计算精度的同时,大幅提升了运算效率,为AI模型训练和推理提供了可靠加速。随着异构计算的普及,掌握此类高性能开发工具对开发者至关重要。Catlass的易用性和可扩展性使其适用于多种计算场景,未来通过进一步优化和生态整合,有望在更多领域发挥价值。
1万+



被折叠的 条评论
为什么被折叠?



