朴素贝叶斯法

朴素贝叶斯发是基于贝叶斯定理与特征假设的分类方法。
对给定训练数据集，首先基于特征条件独立假设学习输入/输出的联合概率分布；然后基于此模型，对给定的输入x，利用贝叶斯定理求出后验概率最大的输出y
联合概率分布：先验概率分布P（Y=Ck）和条件概率分布P(X=x|Y=Ck)=(∏_(j=1)^n▒〖P(X^((j))=x^((j)) |Y=C_k)〗,生成模型
通过学习到的模型，用后验概率分布P（Y=Ck|X=x），将后验概率最大的类作为x的输出
生成方法由训练数据学习联合概率分布P（X,Y），然后再求出后验概率分布P（Y|X），其中P（X,Y）=P（Y）P（X|Y）

概率估计方法有极大似然估计和贝叶斯估计

极大似然估计可能会出现所需要估计的概率值为0的情况，这将影响到后验概率的计算结果，使得分类产生偏差。贝叶斯估计在极大似然估计的基础上，在各个取值的频数上赋予一个正数，避免概率值为0的情况。