24、贝叶斯定理：从基础到实践的全面解析

贝叶斯定理：从基础到实践的全面解析

1. 贝叶斯定理简介

贝叶斯定理看似简单，实则蕴含着强大的功能。它由托马斯·贝叶斯（Thomas Bayes）在18世纪中叶发现，但当时被他自己丢弃。后来，皮埃尔 - 西蒙·拉普拉斯（Pierre - Simon Laplace）对其进行改进，形成了现代形式，不过他也一度弃用。直到21世纪，人们才开始公开承认使用贝叶斯定理解决各种实际问题。

1.1 贝叶斯定理的历史

贝叶斯定理源于托马斯·贝叶斯的一个思想实验。他想根据过去事件发生的次数来确定未来事件发生的概率。实验中，助手先在桌上随机放置一个球，不告知贝叶斯位置，然后多次放置第二个球，并告知第二个球的位置以及第一个球相对于第二个球的位置，贝叶斯通过这些信息猜测第一个球的位置。

贝叶斯在世时并未发表该定理，他的朋友理查德·普莱斯（Richard Price）在他去世后将其笔记整理发表，但起初无人关注。该定理引入了条件概率的概念，彻底改变了概率理论。不过，当时的批评者认为它存在一些问题：
- 猜测在严谨的数学中不应存在。
- 若贝叶斯不知道如何猜测，会给所有可能结果赋予相等的发生概率。
- 利用先前的计算结果进行新的猜测存在难以克服的问题。

到了18世纪后期，天文学研究的需求促使人们寻找处理观测数据的方法。拉普拉斯为解决天文学数据问题，使用贝叶斯定理证明了每年出生的男孩比女孩多。此后，其他统计学家也开始秘密使用该定理进行各种计算。

1.2 基础定理的理解

概率是对事件发生可能性的数值表示，范围从0到1（0%到100%），可通过统计特定事件发生的次数与总事件数的比例来计算。