50、MPI进程亲和性与并行计算优化

MPI进程亲和性与并行计算优化

1. MPI进程亲和性概述

在并行计算中，控制进程的放置和亲和性至关重要。通过前面的示例，我们可以了解如何控制进程的放置和亲和性，并且有一些工具可以用来检查是否获得了预期的放置和进程绑定。

亲和性的概念源于操作系统对资源的管理方式。在操作系统层面，可以设置每个进程允许运行的位置。在Linux系统中，可以通过 taskset 或 numactl 命令来实现。随着CPU复杂度的增加，这些命令以及其他操作系统上的类似实用工具应运而生，以便向操作系统调度器提供更多信息。调度器可能将这些指令视为提示或要求。使用这些命令，可以将服务器进程固定到特定的处理器上，使其更接近特定的硬件组件或获得更快的响应。对于单进程情况，仅关注亲和性就足够了。

但在并行编程中，还需要考虑更多因素。例如，假设有16个处理器，运行一个4个秩（rank）的MPI作业，我们需要决定将这些秩放置在哪里，是跨插槽分布、放在所有插槽上、紧密打包还是分散放置，以及是否将某些秩放在一起。为了回答这些问题，需要考虑以下几个方面：
- 映射（Mapping） ：即进程的放置。
- 秩的顺序（Order of ranks） ：哪些秩彼此靠近。
- 绑定（Binding） ：将进程与一个或多个位置关联起来。

2. 进程映射到处理器或其他位置

在考虑并行应用程序时，需要将一组进程映射到一组处理器上。在OpenMPI中，更通用的进程映射形式是 -mapb