MakeYouClimax的博客

降低256倍，但是后面数组长度还是不知道的对1万的元素在此降低一定倍数初始加速比为9.58左右这里没有volatie在一个wrap内进行合并加速比变为12必须使用volitate修饰符加速比要更快或者去掉volatile，通过函数调用来实现，加速比变成13.25。

第二个kernel调用会在第一个执行完之后才会，相当于隐含的同步点调用两个kernel。

全局内存数据主要存放的地方共享内存块内数据同步的地方返回一个标记符 是否成功比普通Malloc快一倍。

比如，我们可以定义一个2D线程块，其中每个线程块由多个2D线程组成，每个线程处理一个小块或者一个小行/列。对于单个块的情况，可以使用共享内存来提高访问速度，以便线程块中的所有线程都可以快速、有效地访问它。同时，在使用共享内存时，需要确保线程块中的线程都能够正常读写，以避免竞争条件的发生。在使用 CUDA 进行矩阵乘法等大规模矩阵计算时，通常需要将输入矩阵按照块的形式划分为多个子矩阵，然后分配到不同的线程块中去计算，以充分利用GPU并行计算的优势。申请内存时是线性的内存，需要知道是按行还是按列排列。

10倍以上速度。

与传统的PCIe连接方式相比，NVLink使用更高的带宽、更低的延迟和更好的可扩展性，使得在使用 CPU 和 GPU 等异构计算资源时，可以更高效地共享数据和协同计算。然而，由于指令的执行顺序和其所需资源之间的依赖关系可能非常复杂，因此需要一个专门的逻辑单元来协调指令的执行，并将其调度到可用的 EU 上进行处理。是一个用于计算当前线程块在二维网格中的唯一 ID 的公式，它将线程块在二维网格中的坐标映射到一个唯一的线性位置上，这个公式使用了基本的行优先映射方式。在并发编程中，原子操作是非常重要和常见的概念。