六、机器学习系统设计笔记之分类II情感分析

1、路线图概述

　朴素贝叶斯；阐释词性标注；

2、获取推特数据

3、朴素贝叶斯分类器介绍

朴素贝叶斯最优工作假设：所有特征相互独立。

贝叶斯定理：Ｐ（Ａ）Ｐ（Ｂ｜Ａ）＝Ｐ（Ｂ）｜＊Ｐ（Ａ｜Ｂ）

将Ａ替换成特征Ｆ１,和Ｆ２出现的概率，把Ｂ想象成我们的类别Ｃ，得到Ｐ（Ｆ１，Ｆ２）Ｐ（Ｃ｜Ｆ１，Ｆ２）＝Ｐ（Ｃ）｜＊Ｐ（Ｆ１，Ｆ２｜Ｃ）

得Ｐ（Ｃ｜Ｆ１，Ｆ２）＝Ｐ（Ｃ）｜＊Ｐ（Ｆ１，Ｆ２｜Ｃ）／Ｐ（Ｆ１，Ｆ２）

Ｐ（Ｃ｜Ｆ１，Ｆ２）就是我们常说的后验概率，Ｐ（Ｃ）就是在不知道数据时类别Ｃ的概率

因为Ｆ１和Ｆ２假设相对独立，可以得到Ｐ（Ｃ｜Ｆ１，Ｆ２）＝Ｐ（Ｃ）｜＊Ｐ（Ｆ１｜Ｃ）×Ｐ（Ｆ２｜Ｃ）／Ｐ（Ｆ１，Ｆ２）

　分类器：由上得到分类器，还需要选择概率最高的类别Ｃｂｅｓｔ，它对真是概率不感兴趣，只关注哪个类别更有可能

　Ｃｂｅｓｔ＝ａｒｇｍａｘＰ（Ｃ＝ｃ）×Ｐ（Ｆ１｜Ｃ＝ｃ）×Ｐ（Ｆ２｜Ｃ＝ｃ）

考虑未出现词语的情况：加１平滑　

考虑算术下溢：ｌｏｇ（ｘｙ）＝ｌｏｇ（ｘ）＋ｌｏｇ（ｙ）

在现实中，只关心哪个类别具有更高的后验概率

4、创建第一个分类器并调优

使用ＴｆｉｄｆＶｅｃｔｏｒｒｉｚｅ，将原始推文转换为ＴＦ－ＩＤＦ特征值，

调优：

 

Scikit-learn里面有一个专门处理参数训练类，叫做GridSearchCV，它使用一个估算器，得到最优分类器的参数

5、清洗推文

  表情的处理

6、将词语类型考虑进去