7.3 CONSTANT MEMORY AND CACHING

掩模数组M在卷积中的使用方式有三个有趣的属性。首先，M阵列的大小通常很小。大多数卷积掩模在每个维度上都少于10个元素。即使在3D卷积的情况下，掩码通常也只包含少于1000个元素。其次，在内核执行过程中，M的内容不会改变。第三，所有线程都需要访问掩码元素。更好的是，所有线程都以相同的顺序访问M元素，从M[0]开始，并通过图7.6.中for循环的迭代一次移动一个元素。这两个属性使掩码数组成为恒定内存和缓存的绝佳候选（图7.7）。

正如我们在第5章（性能考虑因素）中讨论的那样，CUDA编程模型允许程序员在常量内存中声明一个变量。与全局内存变量一样，常量内存变量对所有线程块也是可见的。主要区别在于，在内核执行期间，线程不能更改常量内存变量。此外，恒定内存的大小相当小，目前为64KB。

为了使用常量内存，主机代码需要以与全局内存变量不同的方式分配和复制常量内存变量。要在常量内存中声明M数组，主机代码将其声明为全局变量，如下所示：

#define MAX_MASK_WIDTH 10
__constant__ float M[MAX_MASK_WIDTH];

这是一个全局变量声明，应该在源文件中的任何函数之外。关键字__constant__（每边两个下划线）告诉编译器，数组M应放入设备常量内存中。

假设主机代码已经在带有Mask_Width元素的主机内存中的掩码M_h数组中分配并初始化了