先验概率和后验概率
- 先验概率和后验概率的定义
- 如何获取先验概率和后验概率(计算)
- 参考资料
1. 初步定义
先验概率:根据以往经验和分析得到的概率。先验概率分为客观先验概率(利用过去的历史资料计算得到的先验概率)和主观先验概率(当历史资料无从获取或资料不完全时,凭人们的主观经验来判断而得到的先验概率)。
后验概率:在得到结果的信息后重新修正的概率。是指基于新的信息,修正原来的先验概率后所获得的更接近实际情况的概率估计。
举例:
假设桌子上有一块肉和一瓶醋,你如果吃了一块肉,然后你觉得是酸的,那你觉得肉里加了醋的概率有多大?你说:80%的可能性加了醋。那么,你已经进行了一次后验概率的猜测。
形式化:
设:P(A)=加了醋, P(B)=吃了之后是酸的, P(C)=肉变质,则可将上述公式转化为如下形式:
其中,P(A)为先验概率,P(A|B)为后验概率。
2. 计算
先验概率是在缺乏某个事实的情况下描述一个变量,通常是经验丰富的专家的纯主观估计。(例如,经验丰富的老人根据自己的经验,估计当地下雨的概率。或者某人根据当地若干年的气候规律,获取该地下雨的概率。)先验概率的计算通常比较简单,不需要使用贝叶斯公式。
后验概率考虑了一个事实之后的条件概率。通常是通过贝叶斯公式,用先验概率和似然函数计算出来。
一句话总结:先验概率P,乘以似然函数L,正比于后验概率。
我们来看看贝叶斯公式:
其中,P(A)为先验概率,P(B|A)为似然函数,P(B)是一个归一化项。整个公式就是表达了“后验概率正比于先验概率乘以似然函数”。
3. 参考文献
[1] https://blog.youkuaiyun.com/sjyttkl/article/details/51879859
[2] https://www.cnblogs.com/yemanxiaozu/p/7680761.html
[3] https://blog.youkuaiyun.com/jasonwayne/article/details/51824832