69、变量消除与团树中的最大积算法在MAP推断中的应用

变量消除与团树中的最大积算法在MAP推断中的应用

在概率图模型的推断任务中，最大后验概率（MAP）推断是一个重要的问题。本文将详细介绍变量消除算法在（边际）MAP问题中的应用，以及如何将这些思想扩展到团树中，通过最大积算法进行高效的推断。

1. 变量消除法求解MAP

在求解最可能的完整赋值时，我们可以通过一系列的最大化操作来确定每个变量的最优值。例如，对于变量 (L)，我们可以通过以下步骤确定其在最可能赋值中的值：
[
\begin{align }
d^ &= \arg\max_d \psi_3(g^ , d)\
i^ &= \arg\max_i \psi_2(g^ , i, d^ )\
s^ &= \arg\max_s \psi_1(i^ , s)
\end{align*}
]
通过验证可以发现，最可能的赋值为 (d_1, i_0, g_3, s_0, l_0)，其概率约为 (0.184)。

计算实际赋值的额外步骤并不会显著增加基本最大积任务的时间复杂度，因为它只是对最大积过程中计算的同一组因子进行第二次遍历。在适当选择数据结构的情况下，该成本与网络中变量的数量 (n) 呈线性关系。不过，空间成本会稍高一些，因为MAP过程需要存储最大积计算中的中间结果。

算法13.1可以找到概率最高的一个赋值，这个赋值为我们提供了对情况的最可能解释。但在很多情况下，我们希望考虑多个可能的解释，因此，找到 (K) 个最可能的赋值是一个常见的任务。这个计算也可以使用变量消除的输出进行，但算