1. CUDA Runtime
CUDA Runtime 通过 cudart 库实现,该库可以静态链接(使用 cudart.lib 或 libcudart.a)或动态链接(使用 cudart.dll 或 libcudart.so)到应用程序。依赖动态链接 cudart.dll 或 libcudart.so 的应用程序通常需要将它们包含在安装包中。只有链接到同一个 CUDA Runtime 实例的组件之间传递 CUDA Runtime 符号地址才是安全的。
所有 CUDA Runtime 的 API 入口点均以 cuda
作为前缀。
如 Heterogeneous Programming 部分所述,CUDA 编程模型假设系统由 Host(主机) 和 Device(设备) 组成,各自拥有独立的内存空间。Device Memory 部分概述了用于管理设备内存的 Runtime 函数。
Shared Memory 部分演示了如何利用 Thread Hierarchy 中介绍的共享内存(Shared Memory)来优化性能。
Page-Locked Host Memory 部分介绍了 Page-Locked(页锁定)主机内存,它支持 Host-Device 数据传输 与 Kernel 执行 的重叠(Overlap)。
Asynchronous Co