39、变量消除与条件推理算法详解

变量消除与条件推理算法详解

1. 变量消除中的图结构与复杂度

在变量消除过程中，最大团与诱导图有着直接对应关系。以某例子来说，诱导图 $IG,≺$ 中的最大团如下：
| 最大团 | 变量集合 |
| ---- | ---- |
| $C_1$ | ${C, D}$ |
| $C_2$ | ${D, I, G}$ |
| $C_3$ | ${I, G, S}$ |
| $C_4$ | ${G, J, L, S}$ |
| $C_5$ | ${G, H, J}$ |

这里的最大团都满足相关性质，例如 $C_3$ 对应步骤 (5) 中生成的因子 $\psi$。而且，诱导图以及其中最大团的大小强烈依赖于消除顺序。不同的消除顺序会导致不同大小的最大团，进而影响计算成本。比如在学生网络的另一种消除顺序下，诱导图的最大团包含六个变量，而原顺序下最大团仅包含四个变量，计算成本显著增加。

为了衡量诱导图的复杂度，我们引入了几个重要概念：
- 诱导图宽度 ：诱导图中最大团的节点数减 1。
- 诱导宽度 $w_{K,≺}$ ：对于图 $K$，使用消除顺序 $≺$ 应用变量消除得到的诱导图 $I_{K,≺}$ 的宽度。
- 树宽 ：图 $K$ 的最小诱导宽度 $w^* K = \min ≺ w(I_{K,≺})$。

图 $K$ 的最小诱导宽度为我们应用变量消除到基于 $K$ 分解的概率模型时的最佳性能提供了一个界限。

2. 寻找消