CUDA：未对齐结构与对齐结构访问速度的比较

CUDA：未对齐结构与对齐结构访问速度的比较

在使用CUDA进行GPU编程时，提高内存访问速度是一个非常重要的任务。一种能够显著影响内存访问速度的因素就是数据结构的对齐方式。本文将会探讨对齐和未对齐结构之间的巨大访问速度差距，并且给出相应的实例和代码。

对齐和未对齐的定义

对齐指的是在存储器中分配空间时，数据结构中各个成员变量的起始地址相对于该变量类型的起始地址的偏移量满足一定规则的情况。而未对齐则是不遵循那些规则的情况。
在C/C++中，默认情况下变量是按照其自身大小进行对齐的。例如char类型只占用1字节的大小，那么存储器中的char类型变量的地址就是按照1字节对齐的。而short类型通常是2字节对齐，int和float类型则是4字节对齐，double类型通常是8字节对齐。

为何要进行对齐？

Although按字节对齐会使得数据结构在存储器上占用更多的空间,但是这种额外的空间换来的是CPU对内存访问所需时间的大幅度降低。

对齐和未对齐结构的访问速度比较

我们将会在一个具有512个元素的数组中进行测试，每个元素都是由两个整数类型成员变量组成。

struct AlignedIntArray
{
    int a;
    int b;
};

struct UnalignedIntArray
{
    int a;
    char padding[3];
    int b;
};

其中UnalignedIntArray是一个未对齐的数据结构，用一些char类型的padding来插入空白，保证对于a和b之间的间隔小于4字节。