12、并行计算架构与编程模型深度解析

并行计算架构与编程模型深度解析

1. 并行计算机架构

在并行计算机架构领域，BG/Q系统是一个值得深入研究的案例。它由计算节点和I/O节点构成，I/O节点负责与文件系统建立连接，而计算节点则承担实际的计算任务。计算节点通过5D环形网络相互连接，每个计算节点拥有10条双向链路，每条链路可同时以2GB/s的速度进行数据的发送和接收。网络的控制逻辑集成在处理器芯片（消息单元）中，为10条环形链路中的每一条都配备了带有FIFO发送和接收缓冲区的发送和接收单元。消息单元作为网络和BG/Q内存系统之间的接口，与片上交叉开关网络相连。对于部分计算节点（称为桥接节点），还会激活一条额外的I/O链路连接，以实现与I/O节点的通信，这条额外链路同样具有2GB的双向带宽。

与之前的BG/L和BG/P系统相比，BG/Q系统采用的5D环形网络体现了显著的技术进步。BG/L和BG/P系统使用的是3D环形网络，而向5D环形网络的转变带来了更大的二分带宽，同时减少了非直接连接节点之间传输数据所需的跳数，从而降低了传输延迟。此外，BG/L和BG/P系统除了3D环形网络外，还包含屏障和广播网络，而在BG/Q系统中，这些功能已集成到5D环形网络中。

BG/Q系统的构建是分阶段进行的：
- 单个BG/Q处理器和72个SDRAM DDR3内存芯片集成到一个计算卡中，为每个计算卡提供16GB的主内存。
- 大约32个计算卡组合成一个节点板，节点板内部组织为2 × 2 × 2 × 2 × 2的环形结构。
- 16个这样的节点板插入到一个中板中，形成4 × 4 × 4 × 4 × 2的环形结构。
- 一个BG/Q机架包含一个或两个中板，使用两个中板时会形成4 × 4 × 4 × 8 ×