机器学习——朴素贝叶斯

理论部分：https://www.cnblogs.com/pinard/p/6069267.html
朴素贝叶斯：多用于文档分类
预测属于某一类的概率，找出最大的
特点：
依赖训练集
不需要调参
多用于文本分类

优点：
发源于古典数学理论，有稳定的分类效率
对缺失数据不敏感
分类准确率高，速度快
缺点：
特征条件独立性假设
训练集当中进行统计词工作、会对结果造成干扰
步骤：
1、加载数据、分割
2、生成文章特征词
3、朴素贝叶斯进行预估
算法实现：

from sklearn.naive_bayes import MultinomialNB
from sklearn.datasets import fetch_20newsgroups
from sklearn.model_selection import train_test_split
from sklearn.feature_extraction.text import TfidfVectorizer
news=fetch_20newsgroups(subset='all')              #导入数据
#数据分割
x_train,x_test,y_train,y_test=train_test_split(news.data,news.target,test_size=0.25)
#特征抽取
tf=TfidfVectorizer()
x_train=tf.fit_transform(x_train)
print(tf.get_feature_names())
x_test=tf.transform(x_test)
#进行朴素贝叶斯算法预测
bayes=MultinomialNB(alpha=1.0)
bayes.fit(x_train,y_train)
y_predict=bayes.predict(x_test)
print("预测类别为:",y_predict)
print("准确率:",bayes.score(x_test,y_test))