第六章——机器学习（贝叶斯学习和决策树学习）

一、贝叶斯学习

1.贝叶斯定理

贝叶斯定理用于求解以下问题：已知某条件概率，如何得到两个事件交换后的概率，也就是在已知 P ( AB ）的情况下如何求得 P ( BA )。这里先解释什么是条件概率。 P ( AB ）表示事件 B 已经发生的前提下事件 A 发生的概率，称为事件 B 发生的条件下事件 A 的条件概率。其基本求解公式为

 

2.朴素贝叶斯分类

1）概念

贝叶斯分类是一类以贝叶斯定理为基础的分类算法的总称，朴素贝叶斯分类是其中之一，这里的“朴素”指各个特征之间是相互独立、互不影响的。主要应用于：求已知一些特征函数，求其属于某一类别的概率。

P(类别|特征1，特征2，特征3...)=P(特征1，特征2，特征3...|类别)·P(类别)/P(特征1，特征2，特征3...)

假设各个特征相互独立，则：

P(类别|特征1，特征2，特征3...)=P(特征1，特征2，特征3...|类别)·P(类别)/[P(特征1)·P(特征2)·P(特征3)·...]

2）实例