23、并行程序性能指标解读

并行程序性能指标解读

在并行计算领域，准确评估程序性能至关重要。下面将详细介绍几个常用的并行程序性能指标，包括并行运行时间、成本、加速比、效率，以及强弱可扩展性等概念。

1. 并行运行时间和成本

• 并行运行时间 ：它是衡量并行程序并行化质量的重要标准，指的是从程序开始到所有参与处理器完成执行的时间。这里的结束时间以最后一个处理器完成该程序的执行时刻为准。通常，并行运行时间 $T_p(n)$ 表示为参与处理器数量 $p$ 和问题规模 $n$ 的函数，问题规模由输入数据的大小决定，例如矩阵的大小或待求解方程组的方程数量。
  • 组成部分 ：根据执行平台的架构，并行运行时间包含以下几个部分：
    • 每个参与处理器执行本地计算的时间，即处理器使用本地内存中的数据进行计算的时间。
    • 处理器之间交换数据的时间，例如在分布式地址空间中执行显式通信操作的时间。
    • 在共享地址空间中，参与处理器访问共享数据结构时的同步时间。
    • 由于处理器负载分配不均而产生的等待时间，或者处理器在访问共享数据结构之前为确保互斥而等待的时间。
      这些数据交换、同步以及等待时间可视为并行计算的开销，因为它们并不直接对要执行的计算做出贡献。

下面是并行运行时间组成的 mermaid 流程图：

graph LR
    A[并行