不甘平凡的小鸟的专栏

不少博客在介绍流任务并行时，都会说“为了高效利用多个流，将操作放入流的队列时应采用宽度优先方式而非深度优先”。其实不然。当H2D和D2H是同一个引擎执行时，确实流宽度优先能获得更高的效率。但是，当H2D和D2H是不同引擎执行时，流深度优先反而是效率更高的。假设H2D和D2H的执行时间都是Tc，kenel执行的时间是2*Tc，当H2D和D2H是不同引擎执行时，深度优先的总执行时间是7Tc，宽度优先的执行时间是8Tc。...

一般来说，cuda的kernel是顺序执行的，不管是在哪个流上执行kernel，kernel执行引擎会顺序执行kernel。不过对于支持并发kernel的gpu来说，kernel是可以并发执行的。参见CUDA的sample ：6_Advanced\concurrentKernels...

1，一个GPU会有多个SM（Streaming MultiProcessor）,SM之间是并行的；2，一个SM可以同时处理多个Block的多个wrap，也就是说，同一时刻，一个SM内，不止只有一个wrap在执行；3，SM处理完一个Block后，才会处理下一个Block，也就是说例如SM可以同时处理3个Block，那么这3个Block的其中一个处理完后，才会处理第四个Block。4，一个wrap的线程会分配到32个（假设一个wrap的线程数量是32）CUDA core，也叫stream proce

新建CUDA工程，新建thrustTest.cpp,键入如下代码：#include <thrust/device_ptr.h>#include <thrust/device_vector.h>#include <thrust/copy.h>#include <thrust/fill.h>#include <thrust/replace.h>#include <thrust/functional.h>#include.