47、不确定性量化：概率理论的应用与发展

不确定性量化：概率理论的应用与发展

1. 条件独立性与概率分布分解

在处理概率问题时，独立性是一个关键概念。绝对独立性断言能将全联合分布分解成更小的部分，而条件独立性断言同样具备这样的能力。以牙科例子中的牙痛（Toothache）、感染（Catch）和蛀牙（Cavity）为例，通过条件独立性，我们可以对全联合分布进行如下分解：
- 分解过程 ：
- (P(Toothache,Catch,Cavity) = P(Toothache,Catch|Cavity)P(Cavity))（根据乘积规则）
- (= P(Toothache|Cavity)P(Catch|Cavity)P(Cavity))（利用条件独立性）

原本包含7个独立数的大表格被分解成了三个小表格，总共只包含5个独立数。对于更多症状的情况，这种分解带来的优势会更加明显。一般来说，对于给定蛀牙条件下条件独立的(n)个症状，其表示规模的增长速度为(O(n))，而非(O(2^n))。这意味着条件独立性断言能够让概率系统实现扩展，并且在实际中比绝对独立性断言更为常见。从概念上讲，蛀牙将牙痛和感染分隔开来，因为它是两者的直接原因。通过条件独立性将大型概率域分解为弱连接子集，是人工智能领域近年来的重要发展之一。

2. 朴素贝叶斯模型

2.1 模型定义

牙科例子展示了一种常见模式：单个原因直接影响多个结果，且在给定原因的情况下，这些结果条件独立。全联合分布可以表示为：
(P(Cause,Effect_1,\cdots,Effect_n) = P(Cause)\prod_{i}P(Effect_i |Cause))