结构化条件概率分布(CPD)的推理
在概率图模型的推理过程中,我们常常会利用网络结构,特别是条件独立性和影响的局部性。然而,除了网络层面的结构,条件概率分布(CPD)内部也存在更细粒度的结构,精心设计的推理算法同样可以利用这些局部CPD结构,从而提高推理效率。本文将重点介绍两种经过深入研究的局部CPD结构:因果影响独立性和上下文特定独立性,并阐述如何在变量消除算法中利用这些结构。
因果影响独立性
因果影响独立性是指在某些CPD中,各个原因对结果的影响是相互独立的,例如噪声或(noisy - or)模型。下面我们将详细介绍如何利用这种结构来优化推理过程。
噪声或分解
考虑一个简单的网络,包含一个二元变量 $Y$ 及其四个二元父变量 $X_1$、$X_2$、$X_3$、$X_4$,且 $Y$ 的CPD是噪声或模型。若要计算 $Y$ 的概率,在使用最优排序的情况下,所需的操作如下:
|操作|乘法次数|加法次数|
| ---- | ---- | ---- |
|$P(X_1) \cdot P(X_2)$|4|0|
|$P(X_1, X_2) \cdot P(X_3)$|8|0|
|$P(X_1, X_2, X_3) \cdot P(X_4)$|16|0|
|$P(X_1, X_2, X_3, X_4) \cdot P(Y \mid X_1, X_2, X_3, X_4)$|32|0|
|总和|60|30|
总共需要60次乘法和30次加法,以将大小为32的因子 $P(X_1, X_2, X_3, X_4, Y)$ 缩减为大小为2的因子 $P(Y)$。
不过,
超级会员免费看
订阅专栏 解锁全文
700

被折叠的 条评论
为什么被折叠?



