10、解决GPU资源管理难题：Zorua框架的创新之道

解决GPU资源管理难题：Zorua框架的创新之道

1. GPU资源管理的挑战

1.1 性能悬崖问题

在GPU计算中，性能悬崖是一个常见且棘手的问题。当每个线程的寄存器数量从32变化到48时，就会出现性能悬崖。不同的寄存器/线程曲线，其性能悬崖出现的点也不同，这使得程序员优化资源规格以避免这些悬崖变得异常困难。

以Barnes - Hut（BH）应用为例，当为不同的寄存器大小（24到48个寄存器/线程）编译BH时，性能会随着每个块的线程数量而变化。从图中可以观察到：
- 与MST类似，性能会出现显著变化，表现为性能悬崖。
- 性能悬崖出现的点会根据编译时分配给每个线程的寄存器数量而发生很大变化。

性能悬崖在GPU程序中普遍存在，这是由于现有GPU硬件资源管理器的根本限制造成的。资源管理是静态、粗粒度的，并且与应用资源规格紧密耦合。要避免性能悬崖，需要确定更优化的资源规格，但这是一项具有挑战性的任务，因为悬崖的出现取决于多个因素，包括应用特性、输入数据和底层硬件资源。

1.2 可移植性问题

调优GPU应用以在给定的GPU上实现良好性能本身就是一项艰巨的任务。更糟糕的是，即使程序员为特定的GPU架构完成了调优，由于不同代GPU的可用物理资源发生变化，为了保持良好的性能，也必须为每一代新的GPU重新进行调优。

通过在三种真实的GPU代（Fermi（GTX 480）、Kepler（GTX 760）和Maxwell（GTX 745））上对各种工作负载进行资源规格的三个参数扫描，展示了可移植性问题。以MST和DCT两个代表性应用为例，不同代GPU的优化性能点会发生变化：
| 应