CUDA专题3：为什么GPU能改变计算？深度剖析架构、CUDA®与可扩展编程

1. 简介

1.1. 使用 GPU 的优势

图形处理器（GPU）在相近的成本和功耗范围内，能够提供比中央处理器（CPU）更高的指令吞吐量和内存带宽。许多应用程序利用这些优势，在 GPU 上的运行速度远超 CPU（参见《GPU 应用》）。其他计算设备（如 FPGA）虽然能效也很高，但其编程灵活性远不及 GPU。

GPU 与 CPU 的能力差异源于它们的设计目标不同。CPU 旨在以最快速度执行单个线程（即一系列操作），并可并行执行数十个线程；而 GPU 则专为并行执行数千个线程优化（通过牺牲单线程性能来换取更高的整体吞吐量）。

GPU 专注于高度并行计算，其设计将更多晶体管用于数据处理而非数据缓存和流程控制。图 1 的示意图对比了 CPU 与 GPU 的芯片资源分配典型差异。

将更多晶体管用于数据处理（例如浮点运算）对高度并行计算极为有利：GPU可通过计算任务掩盖内存访问延迟，而无需依赖大型数据缓存和复杂的流控制来规避长延迟——这两种方案都会显著增加晶体管开销。

通常，应