cuda编程 warp

CUDA编程中，warp是调度和运行的基本单元，每个warp包含32个threads。软件逻辑上，
程序的所用的threads是可以同时并行的。但是从硬件的角度上来说，实际上并不是所有
的thread都能够同一时刻执行。
例如：一个block上有128个thread，那么可以分为warp0~warp3，SM同时只执行一个
warp，其他的warp以就绪。这点类似于CPU的线程调度。

一个warp中的thread必然在同一个block中。一个blocks中包含很多个threads，然而
CUDA会将它们组合成多个warp。