63、大规模并行程序调试与视频标注技术解析

大规模并行程序调试与视频标注技术解析

大规模并行程序调试

在调试大规模并行程序时，面临着诸多挑战。一方面，缺乏有效的分析技术来提取有用信息，更重要的是，几乎没有合适的技术能以有意义的方式可视化这类大型程序。另一方面，不确定性在并行程序调试中带来了更大的障碍，其影响比顺序程序更为显著。这是因为除了顺序程序中已知的不确定性来源外，并行程序还有一些特定的不确定性程序结构，如消息传递程序中的通配符接收函数调用或共享内存程序中对共享数据的无序访问。这些不确定性在调试过程中引发的问题非常严重，通常表现为探测效应、完整性问题和不可重现性效应。其中，不可重现性效应对调试的影响最大，它阻碍了循环调试的进行。

为了实现确定性的重新执行，人们开发了多种方法，其中最早的是LeBlanc和Mellor - Crummey提出的即时重放机制。所有这些重放方法原则上都分为两个阶段：记录阶段和重放阶段。在记录阶段，程序执行期间发生的信息被记录并保存到稳定内存中，这些信息即程序的跟踪信息。在重放阶段，程序在重放系统的控制下重新执行，利用记录的信息确保在不确定性事件上做出与原始程序运行相同的决策，从而允许程序进行任意次数的等效重新执行。

目前存在多种用于顺序和并行程序的调试工具，它们支持部分或全部上述技术。常见的顺序调试器有gdb和dbx，功能成熟且相似。而并行调试器的情况更为多样：
|调试器类型|特点|适用场景|
| ---- | ---- | ---- |
|扩展顺序调试器|使用多个顺序调试器实例，如gdb，但扩展性不佳，未解决不确定性问题|小型确定性程序|
|记录 - 重放调试器|能处理不确定性，可提供循环调试，部分提供分布式检查点和断点|但在进程轴上扩展性不佳，不适用