4h学完概率论与数理统计_概率论章节目录-优快云博客

（1）两个不等书：<马尔可夫不等式>、 <切比雪夫不等式> （2）两个收敛：1.函数或数列收敛、2.依概率收敛（3）三个大数定律：1.辛钦大数、2.不努力大数、3.切比雪夫（4）三个中心极限定理：1.列为林德伯格（独立同分布的中心极限定理）、2.李雅普诺夫(Lyapunov)定理、3.棣莫弗-拉普拉斯(De Moivre-Laplace)定理

各种符号取用：

≦、≧ 、⌀ 、 Ω 、∫-∞y∫-∞x 𝑓(𝑥,𝑦) d𝑥 d𝑦、∴∵、μ ; σ , ε、∀、Φ、α

第一章概率论的基本概念

1.随机试验

随机试验——具有下述三个特点的试验：

（1）可以在相同的条件下重复地进行；

（2）每次试验的可能结果不止一个，并且能事先明确试验的所有可能结果；

（3）进行一次试验之前不能确定哪一个结果会出现。

2.样本空间、随机事件

样本空间——随机试验的所有可能结果组成的集合。

样本点——样本空间的元素。

随机事件——随机试验的样本空间的子集。

事件间的关系：

事件B包含事件A：事件A发生必导致事件发生时。

即A属于B
- 若A=B,则称事件A与事件相等。
事件A与事件B的并(和)事件：当且仅当A，B中至少有一个发生时。
事件A与事件B的交(积)事件：当且仅当A,B同时发生时。
事件且称为事件A与事件B的差事件：当且仅当A发生、B不发生时。【A-B】
事件A与B是互不相容的或互斥的：事件 A与事件B不能同时发生。
- 即AB=⌀
事件A与事件B互为逆事件.又称对立事件，事件A、B中必有一个发生，且仅有一个发生。
- 即AB=⌀ 且 A+B=Ω

关系公式：

3.概率的初等描述

古典概型

<span style="background-color:#f8f8f8"><span style="color:#333333"><span style="color:#000000">特点：【可能概型】</span>
<span style="color:#116644">1.</span><span style="color:#000000">有限个</span>  <span style="color:#116644">2.</span><span style="color:#000000">等可能</span>  <span style="color:#116644">3.</span><span style="color:#000000">非负性</span></span></span>

几何概型

如果每个事件发生的概率只与构成该事件区域的长度(面积或体积)成比例，则称这样的概率模型为几何概率模型，简称几何概型。

<span style="background-color:#f8f8f8"><span style="color:#333333">两个基本特点:
1.无限性：可能出现的所有结果的无限性，
2.等可能性：每个结果的发生具有等可能性。

“测度”指的是：长度、角度、面积、体积、时间等。</span></span>

统计概型

通过大量实验得到的样本统计

tip:频率与概率

在相同的条件下，进行了N次试验，在这n次试验中，事件A发生的次数nA称为事件A发生的频数。比值nA/N称为事件A发生的频率。

设E是随机试验,S是它的样本空间。对于E的每一事件人赋予一个实数，记为P(A)=nA/N，称为事件A在E中发生的频率。

集合函数P(・)满足下列条件：非负性，规范性，可列可加性。

4.排列组合

排列

(1)不重复排列

理解：从n个里挑选出m个拍成一排的可能结果

(2)重复排列

(3)全排列

组合

从n个不同元素中取出m个不同元素的可能组合

组合公式：

5.公理化

化成P(A)的形式，P(*)为求概率符号,A为事件

<span style="background-color:#f8f8f8"><span style="color:#333333">公理特点：
1.非负        0≦P(A)≦1
2.规范        P(Ω)=1
3.完全可加     若A1、A2……An不相容，则P(A1+A2……+An)=P(A1)+P(A2)……+P(An)</span></span>

推论：

ɸ是不可能事件一> P(ɸ)=0 但反之不成立

6.乘法公式(条件概率)

<n个事件>

理解：先发生A1，再在A1发生的前提之下发生A2,以此类推

eg1：

eg2：传染病模型

7.全概率公式(独立性)

定义：

条件：

<贝叶斯公式>

已知结构，倒推原因

<独立性>

设A，B是两个事件P(A)≧0、P(B)≧0，如果满足等式

则称事件A，B相互独立。

tips：⌀、Ω与任一事件独立

推论：

(3)

例题：

【几何概型】将绳长为1的绳子剪成3段，求三段长度均不超过a的概率(1/3<a<1)

第二章随机变量及其分布

1.随机变量

2.常见随机变量的分布

0835907560b3ecffe10ac79b47053b07

<离散型>

1.(0-1)分布

设随机变量X只可能取0与1两个值，它的分布律是

（0≦p≦1）

则称X服从以为参数的(0 — 1)分布或两点分布.

(0-1)分布的分布律也可写成

衍生:二项分布、伯努利试验

伯努利试验：结果只有两种；

n重伯努利试验，即二项分布

2.泊松分布

公式：

一般表示：电话台的呼叫次数、公共设施的服务人数……

3.超几何分布

公式：

<连续型>

1.均匀分布

分布函数：

2.指数分布

分布函数：

3.正态分布

若连续型随机变量X具有概率密度

其中μ,σ(σ>0)𝜇,𝜎(𝜎>0)为常数，则称X服从参数为的正态分布。

分布函数为：

图像：

标准正态分布

tips：标准型才能运用查表法

3.随机变量函数分布

一般函数分布：

第三章多维随机变量及其分布

二维随机变量及分布

设(X,Y)是二维随机变量，对于任意实数𝑥,𝑦，二元函数：

<==>P{X≦𝑥,Y≦𝑦}

称为二维随机变量(X,Y)的分布函数。

<分布性质>

二维离散型表示

联合分布表
P{X=xi , Y=yj} = Pij

<二维离散型分布性质>：

<边缘分布>：X、Y一列/行的概率之和

二维连续型表示

对于二维随机变量(X,Y)的分布函数，如果存在非负的函数，使对于任意有

F( x , y ) = ∫-∞y∫-∞x 𝑓 ( u , v ) du dv

则称(X,Y)是连续型的二维随机变量，函数F''( x , y )=𝑓( x , y ) 称为二维随机变量的概率密度。

<性质>

二维正态分布

定义：设二维连续型随机变量（X，Y)的联合概率密度为

其中μ1，μ2，σ1，σ2，ρ均为常数，且σ1>0, σ2>0, |ρ|<1则称（X，Y）服从参数为μ1，μ2，σ1，σ2，ρ的二维正态分布。

记作（X，Y）~N（μ1，μ2，σ1²，σ2²，ρ）

显然f(x,y)>=0

可以验证

关于二维正态分布，需掌握如下结论：

（1）二维正态分布的两个边缘分布均为一维正态分布。

即由（X，Y）N（μ1，μ2，σ1²，σ2²，ρ）可得XN（μ1，σ1²），Y~N（μ2，σ2²）。

证明：略

（2）若（X，Y）服从二维正态分布，则X与Y相互独立的充要条件为X与Y的相关系数ρ等于零（即不相关）。

独立和不相关的关系：独立一定不相关，不相关不一定独立。

但是，对于二维正态分布：独立=不相关

<边缘密度函数>

<离散型的边缘分布>：一行/列概率之和

<连续型的边缘密度函数>：

分别称为𝑓𝑥(𝑥)和𝑓𝑦(𝑦)为关于X和关于Y的边缘概率密度。

边缘密度即密度函数函数平行于x/y轴某一切面的面积

<条件分布>

<离散型的条件分布>：即用变化后得到的样本空间计算

<连续型的条件分布>：

设二维随机变量(𝑋,𝑌)的概率密度为𝑓(𝑥,𝑦) , (𝑋,𝑌)关于Y的边缘概率密度为𝑓Y(𝑦).若对于固定的y，𝑓Y(𝑦)>0 , 则称

为在Y=y的条件下X的条件概率密度,记为

<独立性>

<离散型>

独立<==>每个点=边缘密度相乘

<连续型>

𝑥 , 𝑦独立充要条件： ①𝑓(𝑦 | 𝑥)=𝑓Y(𝑦) or 𝑓(𝑥 | 𝑦)=𝑓X(𝑥) ②𝑓(𝑥 , 𝑦) = 𝑓X(𝑥) * 𝑓Y(𝑦) ③F(𝑥 , 𝑦) = FX(𝑥) * FY(𝑦)

tip：不相关&独立

第四章随机变量的数字特征

1. 数学期望

<期望的性质>

2.方差

D(X) = E[ ( X-E(X) )2 ]

QQ截图20240622183249

①表示X与E(X)的偏离程度 ②D(X)≧0

推论【计算公式】：D(X) = E(X2) - E2(X) ------ 【内方-外方】

<性质>

常见随机变量的分布

………………[2] 需要自行求解一遍E(X)、D(X)

3.协方差及相关系数

D(X+Y)=D(X)+D(Y)+2E{ [X-E(X)]*[Y-E(Y)] }

1.定义

cov =【E内联-外联】 tips：为了消除量纲的影响∴引入ρxy线性相关系数4

<span style="background-color:#f8f8f8"><span style="color:#333333">物理量按照其属性分为两类：
1.物理量的大小与度量所选用的单位有关，称为有量纲量，例如，时间、长度、质量、速度、力、能量等。
2.物理量的大小与度量所选的单位无关，称为无量纲量，例如角度、增益、两个长度之比等。</span></span>

2.性质：

QQ截图20240622191650

①交换律、④分配律

3.定理

QQ截图20240622193808

4.矩、协方差矩

矩（中心矩阵）：

k阶原点矩（k阶矩）：

k阶中心矩：

，k=1，2……

k+l阶混合原点矩：

k+l阶混合中心矩：

，k,l=1，2……

当k，l=1时 <==> cov(X , Y)

n元的期望：

QQ截图20240622195822

协方差矩阵：

QQ截图20240622200249

4.二维正态随机变量（X1 , X2）

5.n维正态随机变量的四条重要性质

对于矩含义的理解[3]👇

第五章大数定律及中心极限定理5

下面定理只需记忆，学有余力的同学可以证明：（1）两个不等书：<马尔可夫不等式>、 <切比雪夫不等式> （2）两个收敛：1.函数或数列收敛、2.依概率收敛（3）三个大数定律：1.辛钦大数、2.不努力大数、3.切比雪夫（4）三个中心极限定理：1.列为林德伯格（独立同分布的中心极限定理）、2.棣莫弗-拉普拉斯(De Moivre-Laplace)定理、3.李雅普诺夫(Lyapunov)定理

一、两个不等式：

1.马尔可夫不等式：

若Y只取非负数随机变量、E(Y)存在，那么∀ ε>0，则 P{ Y≧ ε } ≦ E(Y)/ ε

证明：…………

2.切比雪夫不等式

若有E(x)=μ ; D(x)=σ2 ,则对于任意的ε > 0，都有以下不等式成立

证明：…………

二、两个收敛

1.普通收敛：

①数列收敛：设{ Xn }为一个数列，存在a，∀b>0 （0 <—0+），总是存在正整数N，使得n>N时，| Xn-a | < b , 称{ XN }收敛于a。

②依概率收敛：存在n<N , 有| Xn-a | = b【必然发生】

2.函数收敛

满足一定条件（同上），| 𝑓(𝑥)-A | < b【必然发生】

三、大数定律：

叙述随机变量序列的前一些项的算术平均值在某种条件下收敛到这些项的算术平均值

弱大数定理(辛钦大数定理) & 伯努利大树定律

QQ截图20240622215320

注：∀ε>0、P为事件发生的概率意义：告诉我们当n趋于∞时，An频率=概率

3.切比雪夫大数定律 {Xn}相互独立 D(Xn)存在且一致有上界，E(Xn)存在，∀ε>0，如下等式成立：

四、中心极限定理：

是确定在什么条件下，大量随机变量之和的分布逼近于正态分布

Yn为二项分布

例题

解得：原式=2-2Φ(6)

第六章样本及抽样分布

1.随机样本

设X是具有分布函数F的随机变量，若

$X_1,X_2,\cdots ,X_n$

是具有同一分布函数F的、相互独立的随机变量，则称X1,X2,⋯,Xn为从分布函数F（或总体F、或总体X)得到的容量为n的简单随机样本。

（1）总体：试验全部的可能观测到的值

（2）个体每一个可能被观测到的值

1.1.有限总体：总体中的个体为有限个的时候

2.2无线总体：总体中的个体无限

（3）抽样部分个体--判断-->总体

总体X（总体的某一数值指标X）服从的分布未知，或知道服从分布的形状，但具体数据未知。

（4）如何抽取：从总体中随机抽取，并在相同条件下，再进行n次独立重复的抽取，产生了X1 X2…… Xn这些随机变量。{Xn}叫做样本,X1 X2…… Xn 叫做样本值/观测值

2.抽样分布

样本均值：

样本方差：

样本标准差：

tis:对于 1/n-1 考虑到样本的无偏性；

样本k阶（原点）矩：

样本k阶中心矩：

3.常用统计量分布

（0）经验分布函数

的列翁格定理:当n->∞，Fn(X)--P:依概率收敛于-->F(x)

基于正态分布的三大分布

（1）χ2分布【卡方分布】

设X1,X2,⋯,Xn是来自总体的样本，则称统计量

【n为自由度】服从自由度为n的χ2分布，记为

$\chi ^{2}\sim \chi ^{2}(n)$

性质：连续型，求随机变量。

概率密度：

期望和方有上图
1. X~ χ2（m）、Y~ χ2（n) 且X、Y相互独立，则有 X+Y~ χ2（m+n)
2. 上分位点：
  
  其中的α就为上阴影部分的概率

简单例题：

只有X、Y独立时x+y才有(A)、(C)

▷ 卡方 (χ²) 分布表 (statorials.org)：

GL	0.001	0.005	0.01	0.025	0.05	0.10	0.25	0.50	0.75	0.90	0.95	0.975	0.99	0.995
1	10,828	7,879	6,635	5,024	3,841	2,706	1,323	0.455	0.102	0.016	0.004	0.001	0.000	0.000
2	13,816	10,597	9,210	7,378	5,991	4,605	2,773	1,386	0.575	0.211	0.103	0.051	0.020	0.010
3	16,266	12,838	11,345	9,348	7,815	6,251	4,108	2,366	1,213	0.584	0.352	0.216	0.115	0.072
4	18,467	14,860	13,277	11,143	9,488	7,779	5,385	3,357 人	1,923	1,064	0.711	0.484	0.297	0.207
5	20,515	16,750	15,086	12,833	11,070	9,236	6,626	4,351	2,675	1,610	1,145	0.831	0.554	0.412
6	22,458	18,548	16,812	14,449	12,592	10,645	7,841	5,348	3,455	2,204 人	1,635	1,237	0.872	0.676
7	24,322	20,278	18,475	16,013	14,067	12,017	9,037	6,346	4,255	2,833	2,167	1,690	1,239	0.989
8	26,124	21,955	20,090	17,535	15,507	13,362	10,219	7,344	5,071	3,490	2,733	2,180	1,646	1,344
9	27,877	23,589	21,666	19,023	16,919	14,684	11,389	8,343	5,899	4,168	3,325	2,700	2,088	1,735
十	29,588	25,188	23,209	20,483	18,307	15,987	12,549	9,342	6,737	4,865	3,940 人	3,247	2,558	2,156
十一	31,264	26,757	24,725	21,920	19,675	17,275	13,701	10,341	7,584	5,578	4,575	3,816	3,053 人	2,603 人
12	32,909	28,300	26,217	23,337	21,026	18,549	14,845	11,340	8,438	6,304	5,226	4,404	3,571	3,074
13	34,528	29,819	27,688	24,736	22,362	19,812	15,984	12,340	9,299	7,042	5,892	5,009 人	4,107	3,565
14	36,123	31,319	29,141	26,119	23,685	21,064	17,117	13,339	10,165	7,790	6,571	5,629	4,660	4,075
十五	37,697	32,801	30,578	27,488	24,996	22,307	18,245	14,339	11,037	8,547	7,261	6,262	5,229	4,601
16	39,252	34,267	32,000	28,845	26,296	23,542	19,369	15,338	11,912	9,312	7,962	6,908	5,812	5,142
17 号	40,790	35,718	33,409	30,191	27,587	24,769	20,489	16,338	12,792	10,085	8,672	7,564	6,408	5,697
18	42,312	37,156	34,805	31,526	28,869	25,989	21,605	17,338	13,675	10,865	9,390	8,231	7,015	6,265
19	43,820	38,582	36,191	32,852	30,144	27,204	22,718	18,338	14,562	11,651	10,117	8,907	7,633	6,844
二十	45,315	39,997	37,566	34,170	31,410	28,412	23,828	19,337	15,452	12,443	10,851	9,591	8,260	7,434
21	46,797	41,401	38,932	35,479	32,671	29,615	24,935	20,337	16,344	13,240	11,591	10,283	8,897	8,034
22	48,268	42,796	40,289	36,781	33,924	30,813	26,039	21,337	17,240	14,041	12,338	10,982	9,542	8,643
23	49,728	44,181	41,638	38,076	35,172	32,007	27,141	22,337	18,137	14,848	13,091	11,689	10,196	9,260
24	51,179	45,559	42,980	39,364	36,415	33,196	28,241	23,337	19,037	15,659	13,848	12,401	10,856	9,886
25	52,620	46,928	44,314	40,646	37,652	34,382	29,339	24,337	19,939	16,473	14,611	13,120	11,524	10,520
26	54,052	48,290	45,642	41,923	38,885	35,563	30,435	25,336	20,843	17,292	15,379	13,844	12,198	11,160
27	55,476	49,645	46,963	43,195	40,113	36,741	31,528	26,336	21,749	18,114	16,151	14,573	12,879	11,808
28	56,892	50,993	48,278	44,461	41,337	37,916	32,620	27,336	22,657	18,939	16,928	15,308	13,565	12,461
29	58,301	52,336	49,588	45,722	42,557	39,087	33,711	28,336	23,567	19,768	17,708	16,047	14,256	13,121
30	59,703	53,672	50,892	46,979	43,773	40,256	34,800	29,336	24,478	20,599	18,493	16,791	14,953	13,787
35	66,619	60,275	57,342	53,203	49,802	46,059	40,223	34,336	29,054	24,797	22,465	20,569	18,509	17,192
40	73,402	66,766	63,691	59,342	55,758	51,805	45,616	39,335	33,660	29,051	26,509	24,433	22,164	20,707
四五	80,078	73,166	69,957	65,410	61,656	57,505	50,985	44,335	38,291	33,350	30,612	28,366	25,901	24,311
五十	86,660	79,450	76,154	71,420	67,505	63,167	56,334	49,335	42,942	37,689	34,764	32,357	29,707	27,991
60	99,607	91,952	88,379	83,298	79,082	74,397	66,981	59,335	52,294	46,459	43,188	40,482	37,485	35,534
70	112,317	104215	100425	95,023	90,531	85,527	77,577	69,335	61,698	55,329	51,739	48,758	45,442	43,275
80	124,839	116,321	112,329	106,629	101,879	96,578	88130	79,334	71,145	64,278	60,391	57,153	53,540	51,172
90	137208	128,299	124 116	118 136	113 145	107,565	98,650	89,334	80,625	73,291	69,126	65,647	61,754	59,196
100	149,449	140 169	135,807	129,561	124,342	118,498	109141	99,334	90133	82,358	77,929	74,222	70,065	67,328

（2）t分布

设

$X\sim N(0,1), Y\sim \chi ^{2} (n)$

，且X，Y相互独立，则称随机变量

服从自由度为n的t分布，记为

$t\sim t(n)$

t分布图：

性质：

期望、方差
上分位点::类比卡方分布
t分布具有对称性
t分布查表类似卡方：不同的是t分布具有对称性

t分布表

▷ 学生 t 分布表 - 概率与统计 (statorials.org)

（3）F分布

设

$U\sim \chi ^{2} (n_{1}),V\sim \chi ^{2} (n_{2})$

，且U，V相互独立，则称随机变量

服从自由度为

(n_1,n_2)

的F分布，记为

$F\sim F(n_1,n_2)$

F分布图

性质

期望、方差
上分位点::同上
F~ 服从自由度（n1 , n2） 1/F ~ 服从（n2 , n1 ）
tips：F1-a（n1 , n2）= 1 / Fa(n2 , n1)

F分布表

alpha = 0.1 的 F 分布表

4.四个等式

假设有总体X，有均值μ ，有方差σ2。 x1……xn

④D（S2）= 2 σ4 / (n-1)

5.四个定理

定理一：

定理二：

定理三：

定理四：

关于两个正态分布分子只差分母之和

Sw表示联合样本方差，写的太长就用一个符号代替

第七章参数估计

1.点估计

点估计是适当地选择一个统计量作为未知参数的估计（称为估计量），若已取得一样本，将样本值代入估计量，得到估计量的值，以估计量的值作为未知参数的近似值（称为估计值）。

两种求点估计的方法：矩估计法和最大似然估计法：

矩估计法的做法是，以样本矩作为总体矩的估计量，而以样本矩的连续函数作为相应的总体矩的连续函数的估计最，从而得到总体未知参数的估计。

最大似然估计法的基本想法是，若已观察到样本（X1、X2……Xn）的样本值（𝑥1、𝑥2…… 𝑥n），而取到这一样本值的概率为p（在离散型的情况），或（X1、X2……Xn）落在这一样本值（𝑥1、𝑥2…… 𝑥n）的邻域内的概率为p（在连续型的情况），而P与未知参数有关，就取的估计值使概率取到最大。

2.估计量的评选标准

无偏性、有效性、相合性

3.区间估计

点估计不能反映估计的精度，引入了区间估计。置信区间是一个随机区间,它覆盖未知参数具有预先给定的高概率（置信水平），即对于任意

$\theta \in \Theta$

，有

至信区与单侧至信线

第八章假设检验

1.假设检验

实际推断原理

小概率事件在一次试验中实际上是不会发生的，实际推断原理又称小概率原理。

假设检验

(1)假设是指关于总体的论断或命题，常用字母“H”表示，假设分为基本假设（又称原假设，零假设）和备选假设（又称备择假设，对立假设）。还可将假设分为参数假设和非参数假设，参数假设是指已知总体分布函数形式，对其中未知参数的假设，其他的假设就是非参数假设，也可将假设分为简单假设和复合假设。完全决定总体分布的假设为简单假设，否则为复合假设。

(2)假设检验：根据样本，按照一定规则判断所做假设H0𝐻0的真伪，并作出接受还是拒绝接受𝐻0的决定。