机器学习day4-朴素贝叶斯分类和决策树

八朴素贝叶斯分类

1贝叶斯分类理论

选择具有最高概率的决策

2条件概率

在事件B发生的情况下，事件A发生的概率，用P(A|B)来表示。

𝑃(𝐴|𝐵)=𝑃(B|A)𝑃(𝐴)/𝑃(𝐵)

3全概率公式

𝑃(𝐵)=𝑃(𝐵|𝐴)𝑃(𝐴)+𝑃(𝐵|𝐴′)𝑃(𝐴′)

那么条件概率的另一种写法为：

$$
P(A|B)=\frac{P(B|A)P(A)}{P(B|A)P(A)+P(B|A^,)P(A^,)}
$$

具体可以参考：

一文搞懂贝叶斯定理（原理篇） - Blogs - 廖雪峰的官方网站 (liaoxuefeng.com)

条件概率，全概率公式和贝叶斯公式-优快云博客

4贝叶斯推断

 

P(A)："先验概率"（Prior probability），即在B事件发生之前，我们对A事件概率的一个判断。

P(A|B："后验概率"（Posterior probability），即在B事件发生之后，我们对A事件概率的重新评估。

P(B|A)/P(B)："可能性函数"（Likelyhood），这是一个调整因子，使得预估概率更接近真实概率。

此公式可以理解为：后验概率　＝　先验概率ｘ调整因子

即通过不断的实验结果去调整先验概率，从而得到更接近事实的后验概率。

5朴素贝叶斯推断

条件相互独立的贝叶斯推断