62、概率图模型中的近似推理与线性代数基础

概率图模型中的近似推理与线性代数基础

1. 图像重建与近似推理

1.1 图像重建示例

在图像重建问题中，如图 28.15 所示，(a) 是使用 244 个强度标签定义每个像素的含噪灰度图像，(b) 是恢复后的图像。这里采用了 α - 扩展方法，并结合合适的相互作用参数 w 和偏置 c 以确保得到合理的结果。对于非二值图像，最优的最大后验（MAP）分配无法高效精确计算，因此使用了 α - 扩展技术结合高效的最小割方法来近似 MAP 分配。

1.2 近似推理方法总结

近似推理是一个活跃的研究领域，以下是一些常见的近似推理方法：
- 确定性方法 ：提供了采样技术的替代方案。
- 连续分布的扰动方法 ：如拉普拉斯方法，为连续分布提供简单近似。
- 变分边界方法 ：如最小 KL 散度，可对感兴趣的量（如分布的归一化常数和边际似然）提供边界。
- 一致性方法 ：如循环信念传播，在分布结构接近树时效果极佳，在信息论和纠错领域取得了很大成功。
- 循环信念传播的优化动机 ：可通过优化贝特自由能目标函数来推动，但该方法不能对感兴趣的量提供边界。
- 二元吸引马尔可夫网络 ：可在多项式时间内精确找到 MAP 状态，该方法可作为更复杂多状态问题的子程序，将 MAP 搜索问题分解为一系列二元 MAP 问题。

1.3 相关代码

以下是一些用于近似推理的