15、贝叶斯网络与无向图模型：概念、应用与分析

贝叶斯网络与无向图模型：概念、应用与分析

1. 贝叶斯网络相关概念

1.1 高斯贝叶斯网络拓展与依赖网络

高斯贝叶斯网络存在自然推广，且与 d - 分离或 I - 等价概念相关。不过，当方程组为非线性时，这种关联会被打破。依赖网络（Heckerman 等人，2000）编码了一组局部依赖模型，代表每个变量在其他所有变量条件下的条件分布，可通过其对马尔可夫毯的依赖来紧凑表示。依赖网络只是间接表示概率分布，且仅在特定条件下保证一致性，但它提供了一种易于人类解释的局部依赖模型。

1.2 贝叶斯网络练习

以下是一系列关于贝叶斯网络的练习，涵盖了从简单的分布示例到复杂的网络操作和证明等多个方面：
1. 分布示例 ：找出一个分布 $P(X_1, X_2, X_3)$，使得对于每个 $i \neq j$，有 $(X_i \perp X_j) \in I(P)$，但 $(X_1, X_2 \perp X_3) \notin I(P)$。
2. 朴素贝叶斯证明 ：
- 证明朴素贝叶斯分解公式（3.7）可由朴素贝叶斯独立性假设公式（3.6）推导得出。
- 证明公式（3.8）可由公式（3.7）推导得出。
- 若所有变量 $C, X_1, \ldots, X_n$ 为二值变量，证明 $\log \frac{P(C = c_1|x_1, \ldots, x_n)}{P(C = c_2|x_1, \ldots, x_n)}$ 是发现变量值的线性函数，即可以写成 $\sum_{i = 1}^{n} \alpha_i X_i + \alpha_0$ 的形式（其中