(一)条件概率
定义
:设A,BA,BA,B是两个事件,且P(A)>0P(A)>0P(A)>0,称
P(B∣A)=P(AB)P(A)P(B|A)=\frac{P(AB)}{P(A)}P(B∣A)=P(A)P(AB)
为在事件AAA发生的条件下事件BBB发生的条件概率。
条件概率P(.∣A)P(.|A)P(.∣A)符合概率定义中的三个条件,即
1、非负性:对于每一事件BBB,有P(B∣A)⩾0P(B|A) \geqslant 0P(B∣A)⩾0;
2、规范性:对于必然事件SSS,有P(S∣A)=1P(S|A) = 1P(S∣A)=1;
3、可列可加性:设B1,B2,...B_1,B_2,...B1,B2,...是两两互不相容的事件,则有
P(⋃i=1∞Bi∣A)=∑i=1∞P(Bi∣A).P(\bigcup_{i=1}^{\infty}B_i|A)=\sum_{i=1}^{\infty }P(B_i|A).P(i=1⋃∞Bi∣A)=i=1∑∞P(Bi∣A).
(二)乘法定理
由条件概率的定义,可得下述定理。
乘法定理:设P(A)>0P(A)>0P(A)>0,则有
P(AB)=P(B∣A)P(A).P(AB)=P(B|A)P(A).P(AB)=P(B∣A)P(A).
此式称为乘法公式。
乘法公式容易推广到多个事件的积事件的情况。例如,设A,B,CA,B,CA,B,C为事件,且P(AB)>0P(AB)>0P(AB)>0,则有
P(ABC)=P(C∣AB)P(B∣A)P(A).P(ABC)=P(C|AB)P(B|A)P(A).P(ABC)=P(C∣AB)P(B∣A)P(A).
在这里,注意到由假设P(AB)>0P(AB)>0P(AB)>0可推得P(A)⩾P(AB)>0.P(A)\geqslant P(AB)>0.P(A)⩾P(AB)>0.
一般,设A1,A2,...,AnA_1,A_2,...,A_nA1,A2,...,An为nnn个事件,n⩾2n\geqslant 2n⩾2,且P(A1A2...An−1)>0P(A_1A_2...A_{n-1})>0P(A1A2...An−1)>0,则有
P(A1A2...An)=P(An∣A1A2...An−1)P(An−1∣A1A2...An−2)...P(A2∣A1)P(A1).P(A_1A_2...A_n)=P(A_n|A_1A_2...A_{n-1})P(A_{n-1}|A_1A_2...A_{n-2})...P(A_2|A_1)P(A_1).P(A1A2...An)=P(An∣A1A2...An−1)P(An−1∣A1A2...An−2)...P(A2∣A1)P(A1).
(三)全概率公式和贝叶斯公式
样本空间的划分
定义
:设SSS为试验EEE的样本空间,B1,B2,...,BnB_1,B_2,...,B_nB1,B2,...,Bn为EEE的一组事件。若
(1)BiBj=空集,i≠j,i,j=1,2,...,nB_iB_j=空集 ,i \neq j,i,j=1,2,...,nBiBj=空集,i̸=j,i,j=1,2,...,n;
(2)B1∪B2∪...∪Bn=SB_1\cup B_2\cup ... \cup B_n=SB1∪B2∪...∪Bn=S,
则称B1,B2,...,BnB_1,B_2,...,B_nB1,B2,...,Bn为样本空间SSS的一个划分。
若B1,B2,...,BnB_1,B_2,...,B_nB1,B2,...,Bn是样本空间的一个划分,那么,对每次试验,事件B1,B2,...,BnB_1,B_2,...,B_nB1,B2,...,Bn中必有一个且仅有一个发生。
全概率公式
设试验EEE的样本空间为SSS,AAA为EEE的事件,B1,B2,...,BnB_1,B_2,...,B_nB1,B2,...,Bn为SSS的一个划分,且P(Bi)>0(i=1,2,...,n)P(B_i)>0(i=1,2,...,n)P(Bi)>0(i=1,2,...,n),则
P(A)=P(A∣B1)P(B1)+P(A∣B2)P(B2)+...+P(A∣Bn)P(Bn)P(A)=P(A|B_1)P(B_1)+P(A|B_2)P(B_2)+...+P(A|B_n)P(B_n)P(A)=P(A∣B1)P(B1)+P(A∣B2)P(B2)+...+P(A∣Bn)P(Bn)
此式称为全概率公式
贝叶斯公式
设试验EEE的样本空间SSS。AAA为EEE的事件,B1,B2,...,BnB_1,B_2,...,B_nB1,B2,...,Bn为SSS的一个划分,且P(A)>0,P(Bi)>0(i=1,2,...,n)P(A)>0,P(B_i)>0(i=1,2,...,n)P(A)>0,P(Bi)>0(i=1,2,...,n),则
P(Bi∣A)=P(A∣Bi)P(Bi)∑j=1nP(A∣Bj)P(Bj),i=1,2,...,n.P(B_i|A)=\frac{P(A|B_i)P(B_i)}{\sum_{j=1}^{n}P(A|B_j)P(B_j) },i=1,2,...,n.P(Bi∣A)=∑j=1nP(A∣Bj)P(Bj)P(A∣Bi)P(Bi),i=1,2,...,n.
此式称为贝叶斯(Bayes)公式。