【2023 · CANN训练营第一季】TIK C++算子开发流程

最新推荐文章于 2025-12-06 19:00:36 发布
原创 最新推荐文章于 2025-12-06 19:00:36 发布 · 228 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#c++ #人工智能

文章介绍了TIKC++算子的开发流程，包括快速和标准两种模式。快速模式适用于单算子调用和快速验证，而标准模式涉及更多代码文件，适用于单算子网络或整网部署。开发流程包括算子分析、核函数定义和算子类的实现。

TIK C+算子开发流程

  1. 快速TIK C++算子开发流程：
  • 完成算子核函数的开发
  • 基于内核调用符方式进行算子运行验证
  1. 标准TIK C++算子开发流程：
  • 完成算子核函数的开发
  • 完成单算子网络应用程序的开发
  • 基于ACL单算子调用方式进行算子运行验证
  1. 两种开发模式对比
快速开发模式标准开发模式
代码文件少多
开发时间短长
使用场景单算子调用，快速验证算法逻辑单算子网络/整网部署使用
推荐开发顺序先后
  1. 算子开发流程

a. 算子分析：分析算子的数学表达式、输入、输出以及计算逻辑的实现，明确需要调用的TIK C++接口。

b. 核函数定义：定义TIK C++算子入口函数。根据矢量编程范式实现

c. 算子类：完成核函数的内部实现。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-8TRa1IRb-1685276419208)(../../../../AppData/Roaming/Typora/typora-user-images/image-20230528200312161.png)] .(img-8TRa1IRb-1685276419208)]

A-Little-Boy
关注
【2023·CANN训练营第一季】TIK C++算子开发
weixin_44578571的博客
05-15 312
本文旨在浅析在TIK C++算子开发过程中的一些步骤
【2023 · CANN训练营第一季】TIK C++算子开发入门第三章---TIK C++算子开发及验证（笔记分享）
m0_46445477的博客
05-28 749
1. cann_op_contrib/community/ops中新建用例目录并添加代码实现文件实现文件包含: host(op_host) tiling源文件、主机侧算子源文件和kernel侧(op_kermel)算子核函数实现源文件，分别对应op_host目录下的add_tik2_tiling.h、add_tik2.cpp，和op_kernel下的add_tik2.cpp注:目录名为{KERNEL_NAME}，命名满足{KERNEL_NANE]_tiling. h和{KERNEL_NAME}.cpp。
【2023 · CANN训练营第一季】TIK C++算子开发入门课后小测答案个人解析分享
m0_46445477的博客
05-31 681
A. floatB. doubleC. int解析：在 Tik C++ 算子开发中，核函数指针（Kernel Function Pointer）是一种用于定义算子计算逻辑的方式。Tik 算子核函数指针的入参变量类型可以是 gm uint8_t*，也就是指向 Global 内存中 uint8_t 类型数据的指针。这是因为 Tik 算子计算逻辑是在昇腾处理器上执行的，而昇腾处理器的内存模型是基于 Global 内存和 Local 内存的，因此需要使用 gm 关键字来标识 Global 内存中的数据。
【2023 · CANN训练营第一季】TIK C++算子开发入门第一章知识总结（下篇）
m0_46445477的博客
05-26 441
该参数主要是用来存放核上Local Memory（内部存储）的数据。// 获取 LocalTensor 中的某个值，返回 T 类型的立即数。// 设置 LocalTensor 中的某个值。offset单位为element// 获取距原LocalTensor起始地址偏移量为offset的新LocalTensor，注意offset不能超过原有LocalTensor的size大小。offset单位为element// 获取当前LocalTensor size大小。
【2023 · CANN训练营第一季】TIK C++算子开发入门-笔记总结
tt131470的博客
05-13 617
在核函数中，需要为在一个核上执行的代码规定要进行的数据访问和计算操作，当核函数被调用时，多个核将并行执行同一个计算任务。是TIK2算子的入口。TIK2允许用户使用核函数这种C/C++函数的语法扩展来管理设备端的运行代码，用户在核函数中进行算子类的声明和其成员函数的调用，由此实现该算子的所有功能。TIK2编程范式把算子核内的处理程序，分成多个流水任务，任务之间通过队列（Queue）进行通信和同步，并通过统一的内存管理模块（Pipe）管理任务间通信内存。相同的算子代码可以在cpu域调试精度，npu域调试性能。
【2023 · CANN训练营第一季】TIK C++算子开发入门 第一章——TIK C++算子开发入门
qq_45257495的博客
05-31 627
TIK C++是一种使用C/C++作为前端语言的算子开发工具，通过四层接口抽象、并行编程范式、孪生调试等技术，极大提高算子开发效率，助力AI开发者低成本完成算子开发和模型调优部署使用TIK C++开发自定义算子的优势：(1)C/C++原语编程(2)编程模型屏蔽硬件差异，编程范式提高开发效率(3)多层级API封装，从简单到灵活，兼顾易用与高效(4)孪生调试，CPU侧模拟NPU侧的行为，可先在CPU侧调试常用数据定义：GlobalTensor。
【2023 · CANN训练营第一季】TIK C++算子编程范式
ALittleBoy的博客
05-28 267
不同的流水任务之间存在数据依赖，需要进行数据传递。Queue队列内存初始化完成后，需要使用内存时，通过调用AllocTensor来为LocalTensor分配内存给Tensor，当创建的LocalTensor完成相关计算无需再使用时，再调用FreeTensor来回收LocalTensor的内存。TIK C++编程范式把算子内部的处理程序，分成多个流水任务（Stage），以张量（Tensor）为数据载体，以队列（Queue）进行任务之间的通信与同步，以内存管理模块（Pipe）管理任务间的通信内存。
【2023 · CANN训练营第一季】昇腾AI高阶课（TIK C++算子开发入门-第二章）学习笔记
SparK233的博客
05-23 322
• 标准TIK C++算子开发流程：完成核函数开发，完成单算子网络程序开发基于ACL单算子调用方式进行算子运行验证。• tiling结构体设计tiling结构体 - 实现tiling解析函数 - 核函数调用tiling结构体。• 算子分析：输入输出，实现逻辑核函数定义：定义入口函数内部实现：根据矢量编程范式实现算子类。• 快速TIK C++算子开发流程：完成核函数开发，基于内核调用符进行算子验证。• 使用宏函数GET_TILINT_DATA暴露给核函数进行调用。
【2023 · CANN训练营第一季】TIK2算子开发入门
qq_61533476的博客
04-26 803
TIK2是一种使用C/C++作为前端语言的编程框架，开发者可以使用TIK2提供的API编写自定义算子，并通过CCEC编译器将自定义算子编译成为可运行在昇腾AI处理器上的应用程序。TIK2继承了TIK数据操作灵活的优点，除此之外，更多优势如下：1、C/C++原语编程2、编程模型屏蔽硬件差异，编程范式提高开发效率3、多层级API封装，从简单到灵活，兼顾易用与高效4、调试方法简单。
2023 · CANN训练营第一季TIK C++算子开发
05-23
CANN训练营第一季TIK C++算子开发 本资源摘要信息主要介绍了CANN训练营第一季TIK C++算子开发的相关知识点，涵盖了核函数编写、函数类型限定符、核函数调用、算子执行模型、CPU模型、NPU模式、内置宏、矢量计算指令...
CANN训练营：2023 TIK C++算子开发实战
"CANN训练营第一季TIK C++算子开发主要涵盖了C++语言在AI计算领域的应用，特别是针对核函数的编写、调用以及算子执行模型的讲解，适用于CPU和NPU两种模式下的功能与性能调试。课程通过示例介绍了如何利用内置宏进行...
【2023 · CANN训练营第一季】TIK C++算子开发入门第二章---TIK C++算子编程范式
m0_46445477的博客
05-26 373
TIK C++编程范式把算子内部的处理程序，分成多个流水任务（Stage），以张量（Tensor）为数据载体，以队列（Queue）进行任务之间的通信与同步，以内存管理模块（Pipe）管理任务间的通信内存。
C++中的bind
2301_79383371的博客
12-06 256
本文介绍了C++中的std::bind函数适配器，它能预先固定函数的部分参数并生成新函数对象。文章详细讲解了占位符(_1,_2等)的使用方法，并通过减法函数示例演示了参数固定、顺序重排等场景。
[C++]string类的使用和模拟实现
我的博客
12-01 891
本文系统介绍了C++中string类的使用与实现方法。首先分析了string类的函数风格，包括参数传递方式、const与非const迭代器区别及隐式类型转换特性。然后详细讲解了string类的核心实现，包括构造函数、析构函数、拷贝构造等基础功能，以及迭代器、容量操作等内联函数实现。重点剖析了字符串的增删查改操作，如扩容机制、插入删除算法等实现细节，并指出了常见错误点（如'\0'处理、size_t循环问题）。通过具体代码示例展示了operator>>、insert等关键函数的实现逻辑，帮助读者掌握
深度学习uip中的“psock.c和psock.h”
最新发布
weixin_42550185的博客
12-06 380
本文对uIP协议栈中的psock.c和psock.h文件进行了深度解析和重构，主要改进包括： 重构了protothread协程实现，通过#define宏控制是否替换原有PT协程机制，便于调试和原理分析。新增了状态机变量STATE_NONE等6种状态定义，优化了协程状态管理。 详细注释了关键数据结构： psock_buf结构体管理输入缓冲区 psock结构体包含双PT协程状态、数据指针和缓冲区信息 新增httpd_state结构体管理HTTP连接状态 重点分析了核心功能函数： 缓冲区操作函数(buf_setu
c++——探讨a÷b（long long)
12-02 293
见正文
Leetcode 每日一题C 语言版 -- 45 jump game ii
silencewly的专栏
12-06 121
遍例当前位置~这个最远位置，得到一个更新后的最远位置p2。遍历到p1 时, 一定可以跳到p2, 将位置更新到p2。记录最远能跳到的位置，然后跳到这个位置p1。
Mavlink自定义消息生成与c++使用
千人斩的博客
12-03 299
本文介绍了如何使用MAVLink协议实现自定义消息的生成、编码和传输。首先通过git克隆MAVLink代码库并安装Python依赖，然后创建自定义XML消息定义文件（包含SEARCH_RESULT和TRACK_TARGET两种消息类型）。使用mavgenerate.py工具生成C++头文件后，将其集成到项目中。示例代码演示了消息的编码（结构体转MAVLink消息）、序列化（消息转缓冲区）、传输以及接收端的解码过程，包括使用mavlink_frame_char进行消息帧解析和mavlink_msg_searc
华为OD机试双机位C卷 - 数组连续和 (C++ & Python & JAVA & JS & GO)
qq_45776114的博客
12-03 567
华为OD机试双机位C卷 数组连续和，提供Java、C++、Python、Go、JavaScript源码实现，并提供完整思路讲解。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值