48、概率推理：贝叶斯网络的原理与应用

概率推理：贝叶斯网络的原理与应用

1. 不确定领域中的知识表示

在处理不确定领域的问题时，全联合概率分布虽然能回答关于该领域的任何问题，但随着变量数量的增加，其规模会变得难以处理。而且，逐个为可能的世界指定概率既不自然又繁琐。

独立性和条件独立性关系可以显著减少定义全联合概率分布所需指定的概率数量。贝叶斯网络作为一种数据结构，能够表示变量之间的依赖关系，本质上可以表示任何全联合概率分布，并且在很多情况下能非常简洁地完成表示。

贝叶斯网络是一种有向图，其中每个节点都标注有定量的概率信息，具体规范如下：
1. 每个节点对应一个随机变量，该变量可以是离散的或连续的。
2. 有向链接或箭头连接成对的节点。如果从节点 X 到节点 Y 有一个箭头，则称 X 是 Y 的父节点。该图没有有向环，因此是有向无环图（DAG）。
3. 每个节点 Xi 都有相关的概率信息 θ(Xi |Parents(Xi))，它使用有限数量的参数来量化父节点对该节点的影响。

例如，在一个简单的世界中，包含变量 Toothache、Cavity、Catch 和 Weather。Weather 与其他变量相互独立，而 Toothache 和 Catch 在给定 Cavity 的条件下是条件独立的。这些关系可以用图 1 所示的贝叶斯网络结构来表示。

graph LR
    classDef process fill:#E5F6FF,stroke:#73A6FF,stroke-width:2px;
    Weather(Weather):::process
    Cavity(Cavity