97、图形模型：贝叶斯网络与马尔可夫随机场

图形模型：贝叶斯网络与马尔可夫随机场

1. 图形模型概述

在复杂模型的推理和学习过程中，常常需要进行复杂的计算。而图形模型提供了一种强大的工具，它能将这些复杂计算以图形操作的形式表达出来，其中底层的数学表达式被隐式地携带。

图形由节点（也称为顶点）和连接这些节点的链接（也称为边或弧）组成。在概率图形模型中，每个节点代表一个随机变量（或一组随机变量），链接则表示这些随机变量之间的概率关系。通过图形，我们可以捕捉到所有随机变量的联合分布如何分解为仅依赖于部分变量的因子的乘积。

主要的图形模型分为两类：
- 贝叶斯网络 ：也称为有向图形模型，图中的链接具有特定的方向性，用箭头表示。有向图适用于表达随机变量之间的因果关系。
- 马尔可夫随机场 ：也称为无向图形模型，图中的链接没有箭头，不具有方向性意义。无向图更适合表达随机变量之间的软约束。

为了解决推理问题，通常会将有向图和无向图转换为一种不同的表示形式，称为因子图。

下面是一个简单的图形模型分类表格：
| 图形模型类型 | 链接方向性 | 适用场景 |
| ---- | ---- | ---- |
| 贝叶斯网络 | 有向 | 表达因果关系 |
| 马尔可夫随机场 | 无向 | 表达软约束 |

2. 贝叶斯网络

2.1 用有向图描述概率分布

为了说明如何使用有向图来描述概率分布，我们先考虑三个变量 (a)、(b) 和 (c) 的任意联合分布 (p(a, b, c))。此时，我们不需要明确这些变量