36、图像合成算法与memCUDA：优化GPU编程体验

图像合成算法与memCUDA：优化GPU编程体验

1. 图像合成算法

在图像合成领域，为了降低排序后并行渲染的成本，提出了三种基于树的流水线算法。对这些方法的理论性能进行了分析，并实际测量了其性能，还与直接发送（Direct Send）和二进制交换（Binary Swap）方法进行了比较。

实验表明，使用传输节点来减少通信消息并避免链路争用，PBS和HPP方法比其他方法表现更优。而且，这些方法具有高度可扩展性，因为当渲染节点数量增加时，每个节点的通信伙伴数量保持不变。

2. CUDA编程挑战

NVIDIA的CUDA编程环境是使多核GPU编程更加灵活的一个里程碑，但程序员在使用CUDA时仍面临诸多挑战。其中一个挑战是如何处理GPU设备内存，以及显式地进行主机内存和GPU设备内存之间的数据传输。

在CPU - GPU异构计算架构中，主机CPU和设备GPU的地址空间是相互分离的。开发者必须使用CUDA API显式地管理设备内存，以实现CPU访问GPU数据，包括在CPU和GPU之间传输数据。这使得管理主机内存和设备内存各组件之间的数据传输变得非常困难，手动优化设备内存的使用也颇具挑战。

CUDA目前仅支持数据并行，不支持任务并行，GPU总是被一个内核独占使用，甚至同一进程中的独立内核也不能并发运行。内核在GPU上运行时，CPU和GPU之间缺乏高效的通信机制。整个内核调用过程必须严格经过以下三个阶段：
- 从主机内存向设备内存（全局、常量和纹理内存）传输输入数据。
- 调用内核处理数据。
- 从设备内存向主机内存传输结果数据。

此外，通常还有在CPU上运行的预处理或后处理阶段。