6、线性规划与信念传播变体

线性规划与信念传播变体

1. 引言

马尔可夫随机场（MRF）中的能量最小化问题在众多领域都有出现，像统计物理学、纠错码以及蛋白质折叠等。线性规划（LP）松弛是计算机科学中用于近似组合优化问题的标准方法，也被用于能量最小化问题一段时间了。它相较于其他能量最小化方案的优势在于有最优性保证：若LP松弛是“紧的”（即线性规划的解为整数），那么它能保证给出能量的全局最优解。

不过，LP松弛在解决视觉领域的MRF问题方面应用极少，这可归因于LP求解器的计算复杂度——视觉问题的LP松弛中的约束和方程数量实在太多。在视觉问题的MRF最小化中，常用算法要么基于消息传递（特别是信念传播（BP）及其树重加权版本（TRW）），要么基于图割（或其变体）。

自2005年起，消息传递算法、图割算法和LP松弛之间出现了有趣的联系。下面将简要介绍这种联系，重点关注消息传递算法。具体而言，BP及其变体可用于解决视觉问题产生的LP松弛，有时比使用现成的LP软件包更高效。此外，BP及其变体还能提供额外信息，即便LP松弛不紧，也能证明找到全局最小值。

2. 能量最小化及其线性规划松弛

为简单起见，这里只讨论具有成对团的MRF，但所有陈述都可推广到高阶团。考虑如下形式的MRF：
[P (x) = \frac{1}{Z} \prod_{i} \exp(-\phi_i(x_i)) \prod_{ } \exp(-\psi_{ij}(x_i, x_j))]
其中，(< i, j >)表示成对团的集合。我们希望找到使(P(x))最大的最可能配置(x^ )，等价于最小化能量：
[x^ = \arg \min \sum_{i}