朴素贝叶斯方法（二分类）[机器学习实战]

最新推荐文章于 2025-06-07 15:24:28 发布

转载

最新推荐文章于 2025-06-07 15:24:28 发布 · 1.2k 阅读

2 ·

CC 4.0 BY-SA版权

原文链接：http://www.cnblogs.com/zsyacm666666/p/8579322.html

文章标签：

#人工智能 #python

本文介绍了如何使用朴素贝叶斯方法进行二分类，通过贝叶斯概率公式，大数定律和数据统计来计算类别概率。文章讨论了如何处理概率小和值为0的情况，提出了使用对数优化避免乘积为0的问题。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

数据链接

垃圾短信分类

解析

设一个点(x,y)，对(x,y)进行分类(1,2)，我们可以设每个点分别属于两个类别的概率：

如果p1(x,y) > p2(x,y),那么类别为1
如果p1(x,y) < p2(x,y),那么类别为2

由贝叶斯概率我们有
\[p(c|x,y) = \frac {p(x,y|c)p(c)}{p(x,y)}\dots（1）\]
对于二分类可见
\[p1 \rightarrow p(1|x,y)\]
\[p2 \rightarrow p(2|x,y)\]

观察公式一右边.
根据大数定理，当数据集具有一定规模时，我们可以以频率逼近概率。
右边的概率可以由统计而得

因此朴素贝叶斯法则主要在于对数据的统计，步骤如下：

分词，生成词向量空间（英文文本无需如此，中文文本可以使用jieba分词工具）

对于每个向量，计算其向量空间坐标(每个特征词出现次数，即词袋)

1)计算出p(c)，即每个类别出现概率
2)对于p(x,y)，可以统计出所有的单变量，再使用乘法原理即可
3)对于p(x,y|c)可以统计类别c下的所有(x,y)的出现次数

计算对于给定词向量的p1,p2，答案为其中值较大者<