CUDA C编程（八）CUDA内存管理

  CUDA编程的内存管理与C语言的类似，需要程序员显式管理主机和设备之间的数据移动。随着CUDA版本的升级，NVIDIA正系统地实现主机和设备内存空间的统一，但对于大多数应用程序来说，仍需要手动移动数据。对于CUDA内存管理来说，工作重点在于如何使用CUDA函数来显式地管理内存和数据移动，主要是两个方面：分配和释放设备内存；在主机和设备之间传输数据。为了达到最优性能，CUDA提供了在主机端准备设备内存地函数，并且显式地向设备传输数据和从设备中获取数据。
内 存 分 配 和 释 放
  CUDA编程模型假设了一个包含一个主机和一个设备地异构系统，每一个异构系统都有自己独立地内存空间。核函数在设备内存空间中运行，CUDA运行时提供函数以分配和释放设备内存。可以使用cudaError_t cudaMalloc(void **devPtr, size_t count)函数分配全局内存，这个函数在设备上分配了count字节的全局内存，并用devptr指针返回该内存的地址。所分配的内存支持任何变量类型，包含整型、浮点类型变量、布尔类型等。如果cudaMalloc函数执行失败则返回cudaErrorMemoryAllocation。在已分配的全局内存中的值不会被清除。你需要用从主机上传输的数据来填充所分配的全局内存，或用下列函数将其初始化：cudaError_t cudaMemcpy(void *devPtr, int value, size_t count),这个函数用存储在变脸value中的值来填充设备内存地址devPtr处开始的count个字节。一旦一个应用程序不再使用已分配的全局内存，那么可以使用以下代码释放该内存空间：cudaError_t cudaFree(void *devPtr);这个函数释放了devPtr指向的全局内存，该内存必须在此前使用了一个设备分配函数（cudaMalloc）来进行