贝叶斯公式
贝叶斯的公式为:
P
(
A
∣
B
)
=
P
(
A
B
)
P
(
B
)
P(A | B) = \frac{P(AB)}{P(B)}
P(A∣B)=P(B)P(AB)
若变为乘法那么就是
P
(
A
B
)
=
P
(
B
)
∗
P
(
A
∣
B
)
P(AB) = P(B) * P(A | B)
P(AB)=P(B)∗P(A∣B)
也就是表示AB两件事情要一起发生的话,那么需要一件事(这里假设为B)先发生(P(B)),然后另一件事(A)是在前一件事(B)发生的情况下再发生的一个事件(条件概率,概率表示为P(A | B)),然后还需要这两件事同时发生(也就是需要再相乘一次),最终就得到上面的公式啦。
这里注意和独立事件的条件概率区分一下,独立事件的条件概率为P(AB) = P(A) * P(B),其实也可以理解为一件事发生的情况下对另一件事的发生概率没有影响也就是P(A|B) = P(A)
全概率公式
另外在概率中有一个全概率公式即:
P
(
B
)
=
∑
j
=
1
k
P
(
A
j
)
P
(
B
∣
A
j
)
P(B) = {\sum^{k}_{j=1} P(A_j)P(B|A_j)}
P(B)=j=1∑kP(Aj)P(B∣Aj)
这个我们先来推导一下:
由上面的贝叶斯公式代入,则右边的式子变为:
∑
j
=
1
k
P
(
A
j
)
P
(
B
∣
A
j
)
=
∑
j
=
1
k
P
(
A
j
B
)
{\sum^{k}_{j=1} P(A_j)P(B|A_j)} = {\sum^{k}_{j=1} P(A_jB)}
j=1∑kP(Aj)P(B∣Aj)=j=1∑kP(AjB)
再变为
P
(
A
1
B
)
+
P
(
A
2
B
)
+
P
(
A
3
B
)
+
.
.
.
+
P
(
A
k
B
)
P(A_1B) + P(A_2B) + P(A_3B) + ... + P(A_kB)
P(A1B)+P(A2B)+P(A3B)+...+P(AkB)
而这里求和是从j = 1取到了最后的j = k,也就是将A的所有事件都取到了,式子全部加起来自然就是在A发生的情况下,B发生的概率啦。在解释一下,A发生在这个式子里已经是个必然事件了,因此全部的AB共同发生的概率加起来也就等于P(B)啦。
OK,得到了全概率公式后,贝叶斯公式的分母部分就可以被替换掉:
贝叶斯公式与全概率公式的合并
新公式为: P ( A i ∣ B ) = P ( A i ) P ( B ∣ A i ) ∑ j = 1 k P ( A j ) P ( B ∣ A j ) P(A_i|B) = \frac{P(A_i)P(B|A_i)}{\sum^{k}_{j=1} P(A_j)P(B|A_j)} P(Ai∣B)=∑j=1kP(Aj)P(B∣Aj)P(Ai)P(B∣Ai)
这个公式能够解决某些不能直接从问题中获得P(B)的情况,典型的事件是已知B事件发生的情况下,但是要求Ai事件发生的概率。