28、熵在引导定理证明器中的作用

熵在引导定理证明器中的作用

在定理证明领域，如何有效引导证明器找到正确的证明路径是一个关键问题。本文将探讨熵在引导定理证明器中的作用，通过一系列实验展示熵对自动定理证明（ATP）性能的影响。

1. 数据集和通用设置

为了评估系统，我们使用了以下数据集：
- Mizar40 数据集 ：包含来自 Mizar 数学库的 32524 个问题，这些问题已由多个最先进的 ATP 使用多种策略和高时间限制证明。基于这些证明，对公理进行了 ATP 最小化处理，仅保留在任何 ATP 证明中需要的公理。
- M2k 数据集 ：由 2003 个 Mizar40 问题组成，这些问题来自相关的 Mizar 文章。
- MPTP2078 基准的浓密（小）问题 ：这是一个基于文章选择的 Mizar 问题集，不考虑特定 ATP 系统的可解性。

除非另有说明，我们使用与之前研究相同的超参数，但有以下重要例外：
- 将每个问题的推理限制从 200000 减少到 20000。
- 将大步频率从 2000 减少到 200。

因此，整体搜索预算减少了 10 倍。我们使用非常大的 CPU 时间限制（300 秒），以确保证明搜索在耗尽推理限制后终止。

2. 实验 1：熵正则化的影响

在这个实验中，我们研究了对策略预测器的熵进行正则化的效果。我们生成了几种不同的图神经网络（GNN）策略预测器变体，它们在训练中使用的熵系数 α 不同。