朴素贝叶斯Naive Bayes-机器学习ML

HelloZEX

墨衍会员 · AI 创作全网分发码龄11年

关注

原创最新推荐文章于 2026-04-21 03:40:02 发布 1.7k 阅读 AI 写同款· GEO 优化 ›

朴素贝叶斯（Naive Bayes）详解贝叶斯决策论、朴素贝叶斯原理与算法实现、具体应用。阅读详情

参考：

1.《统计学习方法》李航

2.先验概率与后验概率的区别：http://blog.youkuaiyun.com/ouyang_linux007/article/details/7566339

3.朴素贝叶斯方法（Naive Bayes）原理和实现：http://blog.youkuaiyun.com/tanhongguang1/article/details/45016421#拉普拉斯平滑

4.分类算法之朴素贝叶斯分类：https://www.cnblogs.com/leoo2sk/archive/2010/09/17/naive-bayesian-classifier.html

5.https://www.cnblogs.com/lianyingteng/p/7799445.html

朴素贝叶斯（Naive Bayesian）是基于贝叶斯定理和特征条件独立假设的一种分类算法。朴素贝叶斯想必是很多人在刚学习机器学习时想去第一个学习的算法，因为它朴素呀、简单呀（我记得当时的想法就是这样）。它真的那么简单么？今天我们就来讨论一下这个“简单”的机器学习算法。

贝叶斯定理

　　我们都知道贝叶斯定理是基于条件概率得来的，那么什么是条件概率呢？条件概率就是在我们知道一个事件发生的情况下，别一个事件发生的概率（突然下雨了，你会去估计你女神有没有带伞，这就是一个条件概率）。它的数学表示如下：

有了条件概率贝叶斯先生就开始寻思了，如何我知道了在B的条件下A的发生概率，能不能反推出呢？这时候贝叶斯定理就诞生了：

条件独立

　　朴素贝叶斯还有一个特征条件独立的要求，那么什么是条件独立呢？我们知道如果两个事件独立指的是一个事件的发生不会影响到别一个事件发生的概率，数学上的表示就是：

条件独立就是基于事件独立提出的，我的理解为条件事件独立，不知准不准确？它要求的不是事件绝对独立了（A、B可以不独立），但是呢，两个事件都加一个限制条件的话，我们就要求它们独立了（一定是独立的），其数学表示为：

朴素贝叶斯

　　这“朴素”两字代表什么呢？真的代表“简单”的意思么？如果你真这么想，一阵冷笑，呵..呵..呵..（前段面过某直播平台，就问了这个问题，我就说是简单的意思，结果就是一声冷笑...）。其实之所以叫“朴素”贝叶斯是因为它假设分类项的各个属性都是相互独立的！明白了这事我们再来看看朴素贝叶斯算法的执行过程吧。

　　朴素贝叶斯的思想也是非常简单：对于给出的待分类项，求解在此项出现的条件下各个类别出现的概率，那个概率值大就认为该分类项属于哪一类，其定理定义如下：

　　（1）设为待分类项，而每个为输入x的一个特征属性。