相比于一般贝叶斯而言,朴素贝叶斯设定一个naive assumption:Assume that each feature xi is conditionally independent of every feature xj for i is unequal to j, given the category C.
简单一点来说,比如现在要通过颜色、形状、半径来推断一个水果是苹果还是香蕉(当然这里界限比较明显,并不是一个好例子),对于苹果这个类别来说,它的颜色、形状、半径三者是独立的(可以想象,一个大的红苹果和一个小的红苹果出现的可能性是几乎一样的)。但对于所有水果来说,这三个变量并不是独立的。比如,如果一个水果颜色=红色,那么它的形状更可能等于圆形(苹果),而如果颜色=黄色,形状更可能是船型(香蕉)。这就是朴素贝叶斯的前提假设,即:在C的每个类别下,X的各个维度是相互独立的,这种独立需要以类别C作为条件,是一种条件独立。
【案例】
现有各类人群是否会买电脑的例子,数据有14条见下图:
用朴素贝叶斯公式,那些年轻人、收入为中等水平、学生、信用等级为fair的人群会选择买电脑的概率为:
P1=P(buy|youth,medium,student,fair)
=P(buy)*P(youth|buy)*P(medium|buy)*P(student|buy)*P(fair|buy)
各个概率可以由R语言直接算出,使用语句:
library(klaR)
res <- NaiveBayes(buys_computer~., computer)
res
得到各个条件概率如下:
grouping no yes 0.3571429 0.6428571 grouping middle-aged senior youth