[DA45] 使用朴素贝叶斯进行文档分类

一. 相关介绍

(一) 朴素贝叶斯

    朴素贝叶斯分类最适合的场景是文本分类、情感分析和垃圾邮件识别，python 中的 sklearn 机器学习包提供了3种朴素贝叶斯分类算法:

    1. 高斯朴素贝叶斯（GaussianNB）

        适用场景：特征变量是连续变量，符合正态分布。

    2. 多项式朴素贝叶斯（MultinomialNB）

        适用场景：特征变量是离散变量，符合多项分布。

    3. 伯努利朴素贝叶斯（BernoulliNB）

        适用场景：特征变量是布尔变量，符合0/1分布。

(二) TF-IDF

    TF-IDF 是一个统计方法，用来评估某个词语对于一个文件集或文档库中的其中一份文件的重要程度。它由Term Frequency 和 Inverse Document Frequency 的组成，两者缩写为 TF 和 IDF，分别代表了词频和逆向文档频率。

    词频计算了一个单词在文档中出现的次数，它认为一个单词的重要性和它在文档中出现的次数呈正比。

    逆向文档频率是指一个单词在文档中的区分度。它认为一个单词出现在的文档数越少，就越能通过这个单词把该文档和其他文档区分开。IDF 越大就代表该单词的区分度越大。

    计算