统计学习笔记：朴素贝叶斯（Naive Bayes）原理及C++源码实现

朴素贝叶斯（用于分类）

一、概念

朴素贝叶斯法是在假设输入向量x的特征条件独立（即在输入模式所属类别确定时，输入向量x的每个元素取值互不影响）下，通过样本集合学习输入x与输出y的联合概率分布。再用所得到的联合概率分布通过贝叶斯公式计算条件概率（后验概率）。将输入模式分类到后验概率最大的一个类别中。

二、方法

2.1 贝叶斯公式

假设需对n个类别进行分类，按照贝叶斯公式：

式中c_k表示输出y的类别，k=1,2,…K，依照上式计算条件概率，因为输入向量x是一个n维的向量：

 

 

由于朴素贝叶斯是假设输入向量x的各个特征取值条件独立，因此：