26、概率模型中的条件贝叶斯网络与结构化CPD

概率模型中的条件贝叶斯网络与结构化CPD

1. 条件贝叶斯网络概述

在概率模型中，除了之前提到的各种条件概率分布（CPD）的紧凑表示方法外，条件贝叶斯网络也是一种非常有用的紧凑表示条件概率分布的方式。以字母变量（Letter）的噪声或（noisy - or）CPD分解为例，我们使用贝叶斯网络来表示字母变量的内部模型，该网络包含变量的显式父变量以及原始网络中不存在的辅助变量，整个网络代表了字母变量的CPD。

条件贝叶斯网络（Conditional Bayesian Network）的定义如下：给定X时关于Y的条件贝叶斯网络B被定义为一个有向无环图G，其节点为X ∪ Y ∪ Z，其中X、Y、Z是不相交的集合。X中的变量称为输入，Y中的变量称为输出，Z中的变量称为封装变量。X中的变量在G中没有父节点，Z ∪ Y中的变量与一个条件概率分布相关联。该网络使用链式规则定义条件分布：
[P_B(Y, Z | X)=\prod_{X\in Y\cup Z}P(X | Pa_G(X))]
而(P_B(Y | X))被定义为(P_B(Y, Z | X))的边缘分布：
[P_B(Y | X)=\sum_{Z}P_B(Y, Z | X)]
条件随机场是该定义的无向类比。

2. 封装CPD及其优势

如果随机变量Y有k个父变量(X_1, \cdots, X_k)，当CPD (P(Y | X_1, \cdots, X_k))使用关于Y给定(X_1, \cdots, X_k)的条件贝叶斯网络来表示时，它就是一个封装CPD（Encapsulated CPD）。

从某种程度上说，将变量Y的单个CPD表示为条件贝叶斯网络(B_Y)并没