23、并行计算模型与循环调度方法解析

并行计算模型与循环调度方法解析

1. 并行计算模型概述

在并行计算领域，为了更好地模拟真实并行机器的行为，提出了多种计算模型。其中，BSP模型和LogP模型是比较重要的两种。

1.1 BSP模型

BSP（Bulk Synchronously Parallel）模型是一种用于连接硬件架构和软件开发的桥梁模型。它旨在提供一个硬件架构师和软件开发人员都能达成共识的标准，从而使软件开发与特定架构的细节解耦，便于将软件移植到新的并行机器上。

1.1.1 BSP模型的组成

BSP模型是对具有物理分布式内存组织的并行机器的抽象。它由以下几个部分组成：
- 处理器 ：每个处理器可以执行处理或内存功能。
- 路由器 ：用于在处理器对之间发送点对点消息。
- 同步单元 ：支持所有或部分处理器的同步。

1.1.2 计算过程

BSP模型的计算由一系列超级步组成，每个超级步包含三个阶段：
1. 局部计算 ：每个处理器同时进行本地计算。
2. 全局通信 ：处理器之间进行数据交换。
3. 屏障同步 ：结束通信操作，使发送的数据对接收处理器可见。

1.1.3 参数特征

BSP模型的计算可以用四个参数来表征：
- p ：超级步内用于执行计算的（虚拟）