【2023 · CANN训练营第一季】TIK C++算子开发入门第二章---TIK C++算子编程范式

一、编程范式的概念

        TIK C++编程范式把算子内部的处理程序，分成多个流水任务（Stage），以张量（Tensor）为数据载体，以队列（Queue）进行任务之间的通信与同步，以内存管理模块（Pipe）管理任务间的通信内存。

二、TIK C++中的流水任务

        流水任务(Stage)指的是单核处理程序中主程序调度的并行任务。 在核函数内部，可以通过流水任务实现数据的并行处理来提升性能。

        举例来说，单核处理程序的功能可以被拆分成3个流水任务：Stage1、Stage2、Stage3，每个任务专注于完成单一功能；需要处理的数据被切分成n片，使用Progress1~n表示，每个任务需要依次完成n个数据切片的处理。Stage间的箭头表达数据间的依赖关系，比如Stage1处理完Progress1之后，Stage2才能对Progress1进行处理。

         如果Progress的n=3，待处理的数据被切分成3片，对于同一片数据，Stage1、Stage2、Stage3之间的处理具有依赖关系，需要串行处理；不同的数据切片，同一时间点，可以有多个流水任务Stage在并行处理，由此达到任务并行、提升性能的目的。