概率论与数理统计--基本概念笔记

概率论与数理统计是人工智能的基础中的基础啊，赶紧学习一波。

1随机试验

1 相同条件下可重复进行
2 结果多样，实验前可能的结果是确定的
3 实验前不确定具体的结果

2样本空间

随机试验的所有可能的基本结果的集合

3 随机事件

样本空间的子集称为随机事件
空集为样本空间的子集，空集称为不可能事件
样本空间为样本空间的子集，样本空间为必然事件

事件的关系

包含：A发生，B必然发生，则A⊂B
相等：A发生，B必然发生，反之亦然，则A=B
互斥：A,B不能同时发生，则AB互斥
对立（逆）：A,B不能同时发生，且至少发生一个，则A,B对立

事件的运算

和（或）事件：A或者B发生 则A+B (A∪B)
积（与）事件：A,B同时发生。则 AB(A∩B)
差事件：A发生且B不发生，则A-B
补（逆）事件：A的对立事件，则$\overline{A}$

$$A和B互斥则AB=\varnothing$$

$$A和B对立则AB=\varnothing 且A+B=\Omega$$

$$A=(A-B)+AB$$

$$A+B=(A-B)+AB+(B-A)$$

$$\overline{A+B}=\overline{A}\ast \overline{B}$$

$$\overline{AB}=\overline{A}+\overline{B}$$

$$交换律：A\cup B=B\cup A；A\cap B=B\cap A$$

$$结合律：A\cup (B\cup C)=(A\cup B)\cup C；A\cap (B\cap C)=(A\cap B)\cap C$$

$$分配率：A\cup (B\cap C)=(A\cup B)\cap (A\cup C)；A\cap (B\cup C)=(A\cap B)\cup (A\cap C)$$

4 频率

在相同条件下进行N次试验，A发生K次，则称k/n为A发生的频率并记成$f_n(A)$
​

5 概率

设E是随机试验，S是它的样本空间。对于E的每一事件A赋予一个实数，记作P(A)，称为事件A的概率
1:$P(\varnothing )=0$
2:有限可加性:对于互斥事件$P(A1\cup A2\cup \cdot \cdot \cdot )=P(A1)+P(A2)+\cdot \cdot \cdot +P(An)$
3逆事件的概率公式:$P(A)=1-P(A)$
4:概率的加法公式:$P(A\cup B)=P(A)+P(B)-P(AB)$
5 概率的减法公式：$P(A-B)=P(A)-P(AB)$

6古典概型(等可能概型)

1：样本空间中个数有限
2：每个元素等可能发生P(A)=P(A1)=P(A2)…
3: $P(A)=K/N=A中样本总数K/样本总数N$

7条件概率

定义：设A,B是两个事件，且P(A)>0,A条件下B的概率称
$P(B\mid A)=P(AB)P(A)P(B|A)=\frac{P(AB)}{P(A)}$

条件减法公式：$P(A-B|C)=P(A|C)-P(AB|C)$
条件加法公式：$P(A\cup B|C)=P(A)+P(B|C)-P(AB|C)$
乘法定理 ：设P(A)>0,则有$P(AB)=P(B\mid A)P(A)$
$P(ABC)=P(C\mid AB)P(B\mid A)P(A)$
n事件的乘法公式：
$P(A1A2\cdot \cdot \cdot An)=P(An\mid A1A2\cdot \cdot \cdot An-1)P(An-1\mid A1A2\cdot \cdot \cdot An-2)\cdot \cdot \cdot P(A2\mid A1)P(A1)$

8完备事件组

若事件两两互斥，A1+A2+An+…=样本空间则称A1,A2,An为完备事件组

9全概率公式

设B1,B2,Bn为完备事件组，任意的A属于样本空间，则：
$P(A)=P(AB1)+P(AB2)+\cdot \cdot \cdot +P(ABn)$
则全概率公式：
$P(A)=P(A\mid B1)P(B1)+P(A\mid B2)P(B2)+\cdot \cdot \cdot +P(A\mid Bn)P(Bn)$

10 贝叶斯公式

11独立性

AB为事件，若$P(B|A)=\frac{P(AB)}{P(A)}=P(B)$
则：$P(AB)=P(A)\ast P(B)$称A,B独立

1：若$(A,B)(A,\overline{B})(\overline{A},B)(\overline{A},\overline{B})$有一对独立则全部独立

三事件独立
设A,B,C是三个事件，如果满足公式：
$P(AB)=P(A)P(B)$
$P(BC)=P(B)P(C)$
$P(AC)=P(A)P(C)$
$P(ABC)=P(A)P(B)P(C)$
则称事件A,B,C 相互独立