朴素贝叶斯
是基于贝叶斯定理与特征条件独立假设的分类方法
对于给定训练数据集,首先基于特征条件独立假设学习输入/输出的联合分布概率;然后基于此模型,对给定的输入x,利用贝叶斯理论求出后验概率的最大的输出y。
具体:给定属性值的某类值的概率称为条件概率,通过将条件概率乘以给定类值的每个属性(先验概率),我们得到属于该类的数据实例的概率。
为了进行预测,我们可以计算属于每个类的实例的概率,并选择具有最高概率的类值。
GaussianNB 高斯朴素贝叶斯
特征的可能性被假设为高斯
概率密度函数: P ( x i ∣ y k ) = 1 2 π σ y k 2 e x p ( − ( x i − μ y k ) 2 2 σ y k 2 ) P(x_i | y_k)=\frac{1}{\sqrt{2\pi\sigma^2_{yk}}}exp(-\frac{(x_i-\mu_{yk})^2}{2\sigma^2_{yk}}) P(xi∣y