朴素贝叶斯，难？一文让你清楚理解贝叶斯原理

概率与贝叶斯公式

最新推荐文章于 2025-01-05 22:19:26 发布

原创最新推荐文章于 2025-01-05 22:19:26 发布 · 1.2k 阅读

4 ·

CC 4.0 BY-SA版权

机器学习同时被 2 个专栏收录

6 篇文章

订阅专栏

python

2 篇文章

订阅专栏

本文深入探讨概率论中的核心概念，包括简单概率计算、条件概率及贝叶斯公式的应用。通过具体案例，如考试前的行为与挂科的关系，阐述如何使用贝叶斯公式进行预测分析。

题外话：

充分条件和必要条件

天下雨→地湿，地湿 $\nrightarrow$ 天下雨（有可能是自己泼的水造成地湿了），天下雨是充分条件
阳光充足 $\nrightarrow$ 花长得好，阳光充足 $\leftarrow$ 花长得好阳光充足是必要条件

预备知识：

概率：P（A）代表A事件发生的概率
条件概率： $P(A|B)=\frac{P(A\cap B)}{P(B)}$ 代表在B事件发生的情况下A事件发生的概率
贝叶斯公式： $P(A|B)=\frac{P(B|A)*P(A)}{P(B)}$ （下面有推导过程）

以考试前两天是否喝酒（ $x_{1}$ ）、是否逛街（ $x_{2}$ ）、是否学习（ $x_{3}$ ）预测是否挂科（y）为例.其中 $x_{1}$ =0,代表没有喝酒， $x_{1}$ =1代表喝酒。 $x_{2}$ =0代表没有逛街， $x_{2}$ =1代表逛街。 $x_{3}$ =0代表没有学习， $x_{3}$ 代表学习了。

样本
序号	考挂(y)	喝酒( $x_{1}$ )	逛街( $x_{2}$ )	学习( $x_{3}$ )
1	1	1	1	0
2	0	0	0	1
3	0	1	0	1
4	1	1	0	0
5	1	0	1	0
6	0	0	1	1
7	0	0	1	0
8	1	0	0	1

根据上面样本做下面的计算

简单计算概率（热身运动）：

$P(y=1)=\frac{4}{8}$ ,挂科的概率

$P(y=0)=\frac{4}{8}$ ,不挂科的概率

$P(x_{1}=0)=\frac{3}{8}$ ,喝酒的概率

$P(y=1 \cap x_{1}=1)=\frac{2}{8}$ ,喝酒并且挂科的概率

$P(y=1 \cap x_{3}=1)=\frac{1}{8}$ ，学习并且挂科的概率

是不是身体热起来了~~~~~~~~~~~~~~~

条件概率：

条件概率的定义不懂得自行百度啊（我是表情符号）

$P(y=1|x_{1}=1)=\frac{P(y=1\cap x_{1}=1)}{P(x_{1}=1)}=\frac{2}{3}$

$P(y=1|x_{2}=1)=\frac{P(y=1\cap x_{2}=1)}{P(x_{2}=1)}=\frac{2}{4}$

贝叶斯公式

根据条件概率公式

$P(A|B)=\frac{P(A\cap B)}{P(B)}$ （1）

$P(B|A)=\frac{P(B\cap A)}{P(A)}$ （2）

联立（1）,（2）可得

$P(A|B)=\frac{P(B|A)*P(A)}{P(B)}$

贝叶斯公式应用

贝叶斯公式来用于分类器

假如你有一个样本， $x_{1}=0,x_{2}=0,x_{3}=1$ ,我们来预测下是否挂科。请看官往下看~~

又是预备知识: $P(x_{1},x_{2},x_{3}|y)=P(x_{1}|y)*P(x_{2}|y)*P(x_{3}|y)$

首先计算挂科的概率

$P(y=1|x_{1}=0,x_{2}=0,x_{3}=1)=\frac{P(x_{1}=0,x_{2}=0,x_{3}=1|y=1)*P(y=1)}{P(x_{1}=0,x_{2}=0,x_{3}=1)}$

$=P(x_{1}=0,x_{2}=0,x_{3}=1|y=1)=P(x_{1}=0|y=1)*P(x_{2}=0|y=1)*P(x_{3}=1|y=1)*P(y=1)=\frac{2}{4}*\frac{2}{4}*\frac{1}{4}*\frac{1}{2}=\frac{4}{128}$ （1）

然后计算不挂科的概率

$P(y=0|x_{1}=0,x_{2}=0,x_{3}=1)=\frac{P(x_{1}=0,x_{2}=0,x_{3}=1|y=0)*P(y=0)}{P(x_{1}=0,x_{2}=0,x_{3}=1)}$

$=P(x_{1}=0,x_{2}=0,x_{3}=1|y=0)=P(x_{1}=0|y=0)*P(x_{2}=0|y=0)*P(x_{3}=1|y=0)*P(y=0)=\frac{18}{128}$ （2）

（1）的概率小于（2），经过计算（1），（2）的概率我们判断不喝酒，不逛街，学习 $x_{1}=0,x_{2}=0,x_{3}=1$ 那么他不会挂科（还是不能浪~~哈）