21、链和树模型的推理方法详解

链和树模型的推理方法详解

在概率图模型的研究中，链和树结构的模型具有重要地位。本文将详细介绍链和树模型中的几种推理方法，包括最大后验概率（MAP）推理和边际后验推理，以及相关的算法实现。

1. 链模型的MAP推理

在链模型中，我们可以利用动态规划高效地进行MAP推理。为了计算累积总和$S_{n,k}$，我们使用递归公式：
$S_{n,k} = U_n(w_n = k) + \min_{l} [S_{n - 1, l} + P_n(w_n = k, w_{n - 1} = l)]$
同时，我们在每一步缓存达到这个最小值的路径。当到达最右侧时，我们找到使总成本最小的最终变量$w_n$的值：
$\hat{w} N = \arg\min {k} [S_{N, k}]$
然后根据到达这个值所遵循的路径设置其余的标签${\hat{w} n} {n = 1}^{N - 1}$。

这种方法利用了观测值和状态之间联合概率的因式分解结构，大大节省了计算成本。该过程的复杂度为$O(NK^2)$，而通过暴力搜索每个可能的解的复杂度为$O(K^N)$。

2. 树模型的MAP推理

对于树结构的模型，我们同样可以利用因式分解来高效地计算MAP解。以一个具有6个状态变量的树模型为例，其先验概率的因式分解形式为：
$Pr(w_1\cdots6) = Pr(w_1)Pr(w_3)Pr(w_2|w_1)Pr(w_4|w_3)Pr(w_5|w_2,w_4)Pr(w_6|w_5)$

我们的目标是找到使以下表达式最大的$\hat{w} 1\cdots6$：