7、CUDA与OpenCL编程基础入门

CUDA与OpenCL编程基础入门

1. CUDA编程基础

1.1 CUDA线程构建

GPU拥有比CPU更简单但数量更多的处理器核心。通过并行运行多个处理器核心，GPU的整体计算速度更优。在CUDA编程模型中，主机代码在CPU上顺序执行，而GPU代码在GPU上并行执行。需要为在GPU上执行的设备代码指定并行执行的线程数量。

CUDA线程模型分为两级层次结构。最高层是“网格（grid）”，网格由多个“线程块（block）”组成，线程块又包含多个CUDA线程。网格和线程块可以使用一维（x）、二维（x, y）或三维（x, y, z）索引进行配置。

例如，在“hello world”程序中，网格是大小为2的一维数组，线程块是大小为3的一维数组，因此总共会并行启动6个CUDA线程。在代码中，通过 <<<grid, block>>> 来指定网格和线程块的维度，这是CUDA的扩展语法。

1.2 内核函数

内核函数是在GPU上执行的设备代码。以 hello() 内核函数为例，它使用 printf(...) 函数通过GPU将消息输出到屏幕。由于该内核函数由6个并行的CUDA线程执行，因此“hello world”消息会输出6次。

每个CUDA线程都有自己唯一的线程ID，通过 threadIdx 变量来表示，其类型为 dim3 ，可以通过 threadIdx.x 、 threadIdx.