50、基于传播的近似推理方法解析

基于传播的近似推理方法解析

在许多实际的网络推理问题中，精确推理往往计算复杂度极高，甚至在大规模网络中难以实现。基于传播的近似推理方法为解决这类问题提供了一种有效的途径。本文将详细介绍基于传播的近似推理方法，包括其在网格网络中的应用、簇图信念传播的性质、收敛性分析以及簇图的构建方法。

网格网络的广义簇图

对于一个$n×n$的网格网络，其精确推理所需的分离集大小与网格中的割集相当，导致精确计算的复杂度随$n$呈指数增长。然而，我们可以为网格网络创建广义簇图，使其直接对应网络中的因子。在这个簇图中，每个簇表示两个相邻网格变量的信念，且每个簇有少量相邻边连接到共享这两个变量之一的其他簇。例如，对于一个$3×3$的小网格，如图11.5所示，展示了其广义簇图的一个示例。在这个广义簇图中，一轮传播的复杂度与网格大小呈线性关系（与$n$呈二次关系）。

簇图信念传播的性质

重新参数化

簇图信念传播具有重新参数化的性质。设$U$是一组因子$\Phi$上的广义簇图，在CGraph - BU - Calibrate的任何迭代中，考虑信念集${\beta_i}$和分隔集${\mu_{i,j}}$，有$\tilde{P} \Phi(X) = \frac{\prod {i\in V_U} \beta_i[C_i]}{\prod_{(i–j)\in E_U} \mu_{i,j}[S_{i,j}]}$，其中$\tilde{P} \Phi(X) = \prod {\varphi\in\Phi} \varphi$是由$\Phi$定义的未归一化分布。这一性质表明，簇图信念传播保留了原始分布的所有信息，不会因沿循环传播而“稀释”