3、概率推理：从基础到应用

概率推理：从基础到应用

1. 引言

在机器学习问题的解决中，概率推理是一项重要的基础工具。它能帮助我们根据已知数据对未知量进行推断，为决策提供依据。

2. 贝叶斯规则

贝叶斯定理在概率论中的地位，如同毕达哥拉斯定理在几何学中的地位一样重要。贝叶斯推理是一种利用概率理论表示“确定性程度”，并依据贝叶斯规则根据数据更新确定性程度的推理方法。

贝叶斯规则的公式为：
[p(H = h|Y = y) = \frac{p(H = h)p(Y = y|H = h)}{p(Y = y)}]
这个公式源于概率的乘积规则：
[p(h|y)p(y) = p(h)p(y|h) = p(h, y)]

在这个公式中，(p(H)) 是先验分布，代表在看到数据之前我们对未知量 (H) 可能取值的了解；(p(Y|H = h)) 是观察分布，当针对实际观察值 (y) 进行评估时，得到的 (p(Y = y|H = h)) 称为似然函数。将先验分布与似然函数相乘，得到未归一化的联合分布 (p(H = h, Y = y))，再除以边际似然 (p(Y = y)) 进行归一化，就得到了后验分布 (p(H = h|Y = y))，它代表了我们对 (H) 可能取值的新信念状态。可以用一句话总结贝叶斯规则：后验 ∝ 先验 × 似然。

下面通过几个具体例子来看看贝叶斯推理的应用。

3. 贝叶斯推理的应用实例

3.1 COVID - 19 检测

假设你怀疑自己感染了由 SARS - CoV - 2 病毒引起的 COVID - 19，决定进行诊断测试，并根据测试结果判断是否感染