22、链与树模型：原理、应用与挑战

链与树模型：原理、应用与挑战

在计算机视觉和机器学习领域，链与树模型是一类非常重要的模型，它们具有独特的结构和性质，能够有效地处理具有空间或时间连接关系的问题。本文将深入探讨链与树模型的相关知识，包括边际后验推断、学习方法、处理循环图的策略以及实际应用。

1. 树模型的边际后验推断

1.1 反向传递

当信念传播的正向传递结束后，我们开始进行反向传递。由于我们已经确切知道观测变量 (x_n) 的值，因此无需向这些变量传递消息。我们主要关注未观测变量之间的水平连接（即沿着模型的主干）。

从节点 (w_N) 到函数 (g_{N,N - 1}) 的消息为：
[m_{w_N\rightarrow g_{N,N - 1}} = Pr(x_N = x^*_N|w_N)]

从函数 (g_{N,N - 1}) 到节点 (w_{N - 1}) 的消息为：
[m_{g_{N,N - 1}\rightarrow w_{N - 1}} = \sum_{w_N} Pr(w_N|w_{N - 1})Pr(x_N = x^*_N|w_N)]

一般情况下，我们有：
[m_{g_{n,n - 1}\rightarrow w_{n - 1}} = \sum_{w_n} Pr(w_n|w_{n - 1})Pr(x_n|w_n)m_{g_{n + 1,n}\rightarrow w_n} = b_{n - 1}[w_{n - 1}]]
这正是前向 - 后向算法中的反向递归。

1.2 证据整理

最后，为了计算边际概率，我们使用以下关系：
[Pr(w_n|x_{1…N}