16、无向图模型：参数化与应用

无向图模型：参数化与应用

1. 无向图模型的优势与独立性

无向图模型在表示变量之间的交互方面具有很大的灵活性。例如，如果要改变变量 A 和 B 之间的交互性质，只需修改对应因子中的条目，而无需处理归一化约束以及与其他因子的交互。不过，这种灵活性也有其弊端，这些改变的影响并不总是直观易懂的。

与贝叶斯网络类似，分布的因子分解与其独立性属性之间存在紧密联系。关键结论为：当且仅当我们可以将分布 P 写成 $P(X) = φ_1(X, Z)φ_2(Y, Z)$ 的形式时，$P |= (X ⊥ Y | Z)$。

以分布 $P(A, B, C, D) = \frac{1}{Z} φ_1(A, B)φ_2(B, C) φ_3(C, D)φ_4(A, D)$ 为例，我们可以推断出 $P |= (B ⊥ D | A, C)$ 和 $P |= (A ⊥ C | B, D)$。这两个独立性正是在之前的例子中使用贝叶斯网络未能实现的。而且，这些属性与图中的“影响路径”直觉相符，即给定 A 和 C 时 B 和 D 是分离的，给定 B 和 D 时 A 和 C 是分离的。实际上，分布 P 的独立性属性直接对应于 P 进行因子分解的图中的分离属性。

2. 参数化

为了表示一个分布，我们需要将图结构与一组参数相关联，就像使用条件概率分布（CPD）对有向图结构进行参数化一样。然而，马尔可夫网络的参数化不如贝叶斯网络直观，因为因子既不对应于概率，也不对应于条件概率。因此，这些参数难以直观理解，也难以从人们那里获取，并且从数据中估计这些参数也更加困难。

2.1 因子

在对马尔可夫网络进行参数化时，由于其表示是无向的，不能采用有向的参