概率论重点

1. 古典概型

样本空间有限个基本事件，基本事件等可能发生
$$P(A)=\frac{A包含基本事件数}{S所有基本事件数}$$

2. 条件概率

A发生条件下B发生的概率
$$P(B\mid A)=\frac{P(AB)}{P(A)}$$

3. 乘法定理

$$\begin{gathered} P(AB)=P(B\mid A)P(A) \\ P(ABC)=P(C\mid AB)P(B\mid A)P(A) \end{gathered}$$

4. 全概率公式

$B_1,B_2,\cdots ,B_n$是S的一个划分
$$P(A)=P(A\mid B_1)P(B_1)+P(A\mid B_2)P(B_2)+\cdots +P(A\mid B_n)P(B_n)$$

5. 贝叶斯公式

$B_1,B_2,\cdots ,B_n$是S的一个划分
$$P(B_i\mid A)=\frac{P(A{B}_i)}{P(A)}=\frac{P(A\mid B_i)P(B_i)}{\sum _{j=1}^{n}P(A\mid B_j)P(B_j)},i=1,2,\cdots ,n$$

6. 独立性和相关性

$$\begin{gathered} P(AB)=P(A)P(B)则A,B独立 \\ Cov(A,B)>0则A,B相关 \end{gathered}$$

7. 离散型随机变量

随机变量	公式描述	期望
伯努利分布	$$\begin{gathered} 只有两个取值 \\ P(0)=1-p,P(1)=p \end{gathered}$$	$p$
二项分布	$$\begin{gathered} n次伯努利实验中事件A以概率p发生了k次 \\ P(X=k)=C_n^k{p}^k(1-p{)}^{n-k},k=0,1,\cdots ,n \end{gathered}$$	$np$
几何分布	$$\begin{gathered} 每次实验成功概率p，直到首次成功的实验次数为X \\ P(X=k)=(1-p{)}^{k-1}p,k=1,2,\cdots \end{gathered}$$	$1/p$
超几何分布	$$\begin{gathered} N个样本中m个不及格，从中抽出n个，其中k个不及格概率 \\ P(X=k)=\frac{C_m^k{C}_{N-m}^{n-k}}{C_N^n},k=0,1,\cdots ,m \end{gathered}$$	$nm/N$
泊松分布	$$\begin{gathered} X表示独立事件发生次数，取值为0,1,2,\cdots ,\lambda 为发生次数期望， \\ P(X=k)=\frac{{\lambda }^k{e}^{-\lambda }}{k!},k=0,1,2,\cdots \end{gathered}$$	$\lambda$

8. 连续随机变量

随机变量	公式描述	期望
均匀分布	$f(x)=\{\begin{array}{ll}\frac{1}{b-a},& a<x<b\\ 0,& 其他\end{array}$	$(a+b)/2$
指数分布	$f(x)=\{\begin{array}{ll}\lambda e^{-\lambda x},& x\ge 0\\ 0,& 其他\end{array}$	$1/\lambda$
正态分布	$f(x)=\frac{1}{\sqrt{2\pi }\sigma }{e}^{-\frac{(x-\mu {)}^2}{2{\sigma }^2}},-\infty <x<\infty$	$\mu$

9. 数学期望

离散：$E(X)=\sum _{x}xp(x)$
连续：$E(X)={\int }_{-\infty }^{\infty }xf(x)dx$

• 具有线性性质
• 独立随机变量X,Y有$E(XY)=E(X)E(Y)$
• 切比雪夫不等式：任意随机变量$X$具有数学期望$\mu$和方差${\sigma }^2$，则对于任意正数$ϵ$有$P(|X-\mu |\ge ϵ)\le \frac{{\sigma }^2}{{ϵ}^2}$

10. 条件期望

离散：$E(X\mid Y=y)=\sum _{x}xP(X=x\mid Y=y)$
连续：$E(X\mid Y=y)={\int }_{-\infty }^{\infty }x{f}_{X\mid Y}(x\mid y)dx$

11. 方差

$D(X)=E([X-E(X){]}^2)=E(X^2)-[E(X){]}^2$
$D(CX)=C^{2}D(X),D(X+C)=D(X)$
$D(X+Y)=D(X)+D(Y)+2Cov(X,Y)\stackrel{X,Y独立}{⟶}D(X)+D(Y)$

12. 协方差

$Cov(X,Y)=E([X-E(X)][Y-E(Y)])=E(XY)-E(X)E(Y)$
$Cov(aX,bY)=abCov(X,Y)$
$Cov(X_1+X_2,Y)=Cov(X_1,Y)+Cov(X_2,Y)$

13. 相关系数

${\rho }_{XY}=\frac{Cov(X,Y)}{\sqrt{D(X)\sqrt{D(Y)}}}$
用来表征线性关系紧密程度，$X,Y独立\stackrel{⟹}{/⟸}X,Y不相关$

14. 大数定理

1. 弱大数定理
   $X_1,X_2,\cdots$为相互独立服从同分布的随机变量序列，其数学期望为$\mu$，作前$n$个变量的算术平均$\overline{X}=\frac{1}{n}\sum _{k=1}^n{X}_k$，则$\overline{X}$依概率收敛到$\mu$，即对于任意正数$ϵ$，有
   $$\underset{n\to \infty }{\lim }P\left(\left|\frac{1}{n}\sum _{k=1}^n{X}_k-\mu \right|<ϵ\right)=1$$
2. 伯努利大数定理
   $f_A$是$n$次独立重复事件$A$发生的次数，$p$是事件$A$在每次事件中发生的概率，则对于任意正数$ϵ$，有

$$\underset{n\to \infty }{\lim }P\left(\left|\frac{f_A}{n}-p\right|<ϵ\right)=1$$

15. 中心极限定理

1. 独立同分布中心极限定理
   $X_1,X_2,\cdots ,X_n$为相互独立服从同分布的$n$个随机变量，其数学期望为$\mu$，方差为${\sigma }^2$，求这$n$个变量的和$S=\sum _{k=1}^n{X}_k$，则$S$的标准化变量近似服从正态分布，即
   $$\frac{S-n\mu }{\sqrt{n}\sigma }\stackrel{近似}{\sim }N(0,1)$$
   或者求这$n$个变量的算术平均$\overline{X}=\frac{1}{n}\sum _{k=1}^n{X}_k$，则
   $$\frac{\overline{X}-\mu }{\frac{\sigma }{\sqrt{n}}}\stackrel{近似}{\sim }N(0,1)或\overline{X}\stackrel{近似}{\sim }N(\mu ,\frac{{\sigma }^2}{n})$$
2. 独立不同分布中心极限定理（李雅普诺夫定理）
   $X_1,X_2,\cdots ,X_n$为相互独立但是服从不同分布的$n$个随机变量，其数学期望依次为${\mu }_1,{\mu }_2,\cdots ,{\mu }_n$，方差依次为${\sigma }_1^2,{\sigma }_2^2,\cdots ,{\sigma }_n^2$，求这$n$个变量的和$S=\sum _{k=1}^n{X}_k$，则$S$的标准化变量仍然近似服从正态分布，即
   $$\frac{S-\sum _{k=1}^n{\mu }_k}{\sqrt{\sum _{k=1}^n{\sigma }_k^2}}\stackrel{近似}{\sim }N(0,1)$$
3. 二项分布中心极限定理（棣莫弗-拉普拉斯定理）
   $\eta$服从$b(n,p)$的二项分布，将其分解为独立同分布的0-1分布之和，则
   $$\frac{\eta -np}{\sqrt{np(1-p)}}\stackrel{近似}{\sim }N(0,1)$$

16. 抽样分布

1. ${\chi }^2$分布
   $X_1,X_2,\cdots ,X_n$是来自总体$N(0,1)$的样本，则变量${\chi }^2=X_1^2+X_2^2+\cdots +X_n^2$服从自由度为$n$的${\chi }^2$分布。期望为$n$，方差为$2n$。
   

2. $t$分布
   独立变量$X\sim N(0,1)$，$Y\sim {\chi }^2(n)$，则变量$t=\frac{X}{\sqrt{\frac{Y}{n}}}$服从自由度为$n$的$t$分布。
   

3. $F$分布
   独立变量$U\sim {\chi }^2(n_1)$，$V\sim {\chi }^2(n_2)$，则变量$F=\frac{\frac{U}{n_1}}{\frac{V}{n_2}}$服从自由度为$(n_1,n_2)$的$F$分布。
   

4. 正态总体的样本均值、方差分布
   已知正态总体的期望$\mu$和方差${\sigma }^2$，$X_1,X_2,\cdots ,X_n$是来自总体的样本，$\overline{X}$是样本均值，则
   $$\overline{X}\sim N(\mu ,\frac{{\sigma }^2}{n})$$
   已知正态总体的方差${\sigma }^2$，$X_1,X_2,\cdots ,X_n$是来自总体的样本，$S^2$是样本方差，则
   $$\frac{(n-1)S^2}{{\sigma }^2}\sim {\chi }^2(n-1)$$
   已知正态总体的期望$\mu$但未知方差，$X_1,X_2,\cdots ,X_n$是来自总体的样本，$\overline{X}$是样本均值，$S^2$是样本方差，则
   $$\frac{\overline{X}-\mu }{\frac{S}{\sqrt{n}}}\sim t(n-1)$$
   已知两个正态总体的方差分别为${\sigma }_1^2$和${\sigma }_2^2$，$X_1,X_2,\cdots ,X_n$是来自总体1的样本，$Y_1,Y_2,\cdots ,Y_n$是来自总体2的样本，$S_1^2,S_2^2$分别是样本方差，则
   $$\frac{\frac{S_1^2}{S_2^2}}{\frac{{\sigma }_1}{{\sigma }_2}}\sim F(n_1-1,n_2-1)$$