贝叶斯公式推导

贝叶斯是18世纪概率论的早期研究者，此人跟张若虚差不多，传世的东西很少，就那么一两个拿得上台面的，但就是靠这一两个东西，其名字流传至今。

贝叶斯公式是贝叶斯分类、贝叶斯网络的基础。理解它的推导过程，对理解这些数据挖掘算法有很大的助益。

我们以韩家炜书中的例子来完成推导过程。假设P(H)表示买电脑事件概率，P(X)表示随意指定一人为中年人概率，根据历史统计结果，买电脑的人当中，有20%的人是中年人，记为P(X|H)=0.2 ，这种概率值叫后验概率值，因为这里X的概率需要考虑H的情况。又知道社会上有30%是中年人，记为P(X)=0.3，还知道任意一人买电脑的概率是5%，这两个值是先验概率值，我们可以通过经验或者社会调查之类的方法获得。现在要求给定某中年人，他买电脑的概率是多少？写成数学表达式就是P(H|X)的值是多少？

在贝叶斯之前，还没有人能处理这类问题，贝叶斯本人解决了这种问题后，也没意识到其中包含了深刻的思想，这种思想延续至今，成为概率论里面最重要的公式之一，也是现在机器学习领域里面最核心的算法之一。

根据概率公式定义，中年人买电脑的概率=中年人中买了电脑的人数/所有中年人人数 ，中年人买了电脑的人数，可以表示成总人数*买电脑的概率*其中中年人占的人数比，所有中年人人数可以表示成总人数*中年人概率，设所有人数是U，写成数学表达式就是

                                                                   1)   P(H|X)=U*P(H)*P(X|H)  /  U*P(X)=P(X|H)*P(H)/P(X) 

由于P(X|H)  P(H)  P(X)已知，P(H|X)也就可以求了

  上面那个就是著名的贝叶斯公式，尽管推导公式很简单，但是其中蕴含了深刻的思想，这个公式使我们可以根据一些已知的概率值，求出无法直接获得的概率值，从而揭示事物运转背后的规律。由贝叶斯定理发展而来的贝叶斯网络，是可以媲美神经网络的数据挖掘算法。

贝叶斯定理在现实应用中也不胜枚举，比如谷歌的搜索结果。后一篇博文我将介绍怎样利用贝叶斯定理识别垃圾邮件。