CUDA编程快速入门

1.架构理解

1）.包括grid，block，(warp),thread这几个层次，

 

 

 

 

 这就是我们所说的SM；

即：grid对应整个GPU，block数量代表SM数量，每个block的thread数量对应ALU数量

 

 

 

 

 

 

 2.编写规范

 

  

 

 

 

 1）核函数前缀__global__，而且必须是void类型。

 2）<<<N,M>>>,N个block，每个block有M个线程。

3）GPU的核函数的执行与CPU的函数执行是异步的，即在核函数入口处调用后，不等运行结束，继续运行下一条命令。

4）block内部的线程可以通过share memory通信，效率近似于寄存器register，但是block之间则没有通信机制，即不同block之间的thread不能通信。

5）线程索引和快索引计算：

 

 

 

 6）数据交互