23、并行程序性能指标详解

并行程序性能指标详解

在并行计算领域，准确评估程序的性能至关重要。下面将详细介绍一些用于评估并行程序性能的关键指标。

1. 并行运行时间和成本

• 并行运行时间 ：并行程序的运行时间是衡量其并行化质量的重要标准。它指的是从程序开始到所有参与处理器完成执行的时间。这里的结束点是最后一个处理器完成该程序执行的时刻。通常，并行运行时间 $T_p(n)$ 表示为参与处理器数量 $p$ 和问题规模 $n$ 的函数，其中问题规模由输入数据的大小决定，例如矩阵的大小或待求解方程组的方程数量。

并行运行时间包含以下几个部分：
- 每个参与处理器执行本地计算的时间，即处理器使用本地内存中的数据进行计算的时间。
- 处理器之间交换数据的时间，例如在分布式地址空间中执行显式通信操作的时间。
- 在共享地址空间中，访问共享数据结构时参与处理器同步的时间。
- 由于处理器负载分配不均而产生的等待时间，以及处理器为确保互斥访问共享数据结构而等待的时间。

这些数据交换、同步和等待时间可视为并行计算的开销，因为它们并不直接对要执行的计算做出贡献。

• 成本 ：并行程序的成本是所有参与执行该程序的处理器运行时间的总和。具体来说，输入规模为 $n$ 的并行程序在 $p$ 个处理器或处理器核心上执行的成本 $C_p(n)$ 定义为 $C_p(n) = p \cdot T_p(n)$。

成本 $C_p(n)$ 衡量了所有参与程序执行的处理器所执行的总工作量，因此并行程序的成本也称为工作量或处理器 -