本文详细介绍了CUDA中GPU的内部结构，如SM（StreamingMultiprocessor）的工作原理，强调了SM内的并行处理能力和Block的调度策略。每个SM可以同时处理多个Block的线程，建议将Block数量设为SM的整数倍以提高设备利用率，从而实现CUDA程序的性能优化。
1，一个GPU会有多个SM（Streaming MultiProcessor）,SM之间是并行的；
2，一个SM可以同时处理多个Block的多个wrap，也就是说，同一时刻，一个SM内，不止只有一个wrap在执行；
参考：Programming Guide :: CUDA Toolkit Documentation
3，SM处理完一个Block后，才会处理下一个Block，也就是说例如SM可以同时处理3个Block，那么这3个Block的其中一个处理完后，才会处理第四个Block。
4，一个wrap的线程会分配到32个（假设一个wrap的线程数量是32）CUDA core，也叫stream processor（sp）里执行。
编程建议：将Block个数尽量设置为SM的整数倍，可以提高设备利用率。
参考：
扫一扫
924
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
