概率论小结6

样本及抽样分布

一、随机样本

定义： 设X是具有分布函数F的随机变量，若X₁, X₂, …, X_n 是具有同一分布函数F的、相互独立的随机变量，则称X₁, X₂, …, X_n 为从分布函数F（或总体F、或总体X）得到的容量为n的简单随机样本，简称样本，它们的观察值x₁, x₂, …, x_n 称为样本值，又称为X的n个独立的观察值。

试验全部可能的观察值称为总体。一个总体对应于一个随机变量X。每一个可能的观察值称为个体。总体中所包含的个体的个数称为总体的容量。

二、箱线图

分位数： 设有容量为n的样本观察值x₁, x₂, …, x_n 样本p分位数(0<p<1)记为x_p，它具有以下的性质：(1)至少有np个观察值小于或等于x_p；(2)至少有n(1-p)个观察值大于或等于x_p。
$x_p=\{\begin{array}{l}{x}_{([np]+1)},当np不是整数\\ \\ \frac{1}{2}[x_{(np)}+x_{(np+1)}],当np是整数\end{array}$

0.25分位数x_0.25称为第一四分位数，又记为Q₁；0.5分位数x_0.5称为样本中位数，又记为Q₂或M；0.75分位数x_0.75称为第三四分位数，又记为Q₃；

箱线图：
箱线图如下所示

从箱线图可以看出：
1.中心位置：中位数所在位置就是数据集的中心。
2.散布程度：全部数据都落在[Min,Max]之内，在区间[Min,Q₁]，[Q₁,M]，[M,Q₃]，[Q₃,Max]的数据个数各约占1/4. 区间较短时，表示落在该区间的点较集中，反之较为分散。
3.关于对称性：若中位数位于箱子的中间位置，则数据分布较为对称。又若Min离M的距离较Max离M的距离大，则表示数据分布向左倾斜，反之表示数据向右倾斜，且能看出分布尾部的长短。

疑似异常值： 在数据集中某一观察值不寻常地大于或小于该数据集中的其他数据，称为疑似异常值。
Q₁与Q₃之间的距离Q₃-Q₁$\stackrel{记为}{=}$IQR，称为四分位数间距。若数据小于Q₁-1.5IQR或大于Q₃+1.5IQR，就认为它是疑似异常值。

修正箱线图： 画出疑似异常值并以$\ast$表示。自箱子左侧引一水平线段直至数据集中除去疑似异常值后的最小值，又自箱子右侧引一水平线直至数据集中除去疑似异常值后的最大值。

三、抽样分布

统计量： 设X₁, X₂, …, X_n 是来自总体X的一个样本，g(X₁, X₂, …, X_n )是X₁, X₂, …, X_n 的函数，若g中不含未知参数，则称g(X₁, X₂, …, X_n )是一个统计量。
几个常用的统计量：
样本平均值：$\overline{X}=\frac{1}{n}\sum _{i=1}^n{X}_i$
样本方差：$S^2=\frac{1}{n-1}\sum _{i=1}^n(X_i-\overline{X}{)}^2=\frac{1}{n-1}\sum _{i=1}^n(X_i^2-n{\overline{X}}^2)$
样本标准差：$S=\sqrt{S^2}=\sqrt{\frac{1}{n-1}\sum _{i=1}^n(X_i-\overline{X}{)}^2}$
样本k阶（原点）距：$A_k=\frac{1}{n}\sum _{i=1}^n{X}_i^k$, k=1,2,…
样本k阶中心距：$B_k=\frac{1}{n}\sum _{i=1}^n(X_i-\overline{X}{)}^k$, k=2,3,…

经验分布函数：设X₁, X₂, …, X_n 是来自总体分布函数F(x)的一个样本，用S(x)，$-\infty <x<\infty$表示X₁, X₂, …, X_n 中不大于x的随机变量的个数。定义经验分布函数F_n(x)为
$F_n(x)=\frac{1}{n}S(x),-\infty <x<\infty .$
经验分布函数F_n(x)的观察值为
$F_n(x)=\{\begin{array}{l}0,若x<x_{(1)},\\ \\ \frac{k}{n},若x_{(k)}⩽x<x_{(k+1)},k=1,2,...,n-1,\\ \\ 1,若x⩾x_{(n)}.\end{array}$
其中样本x₁, x₂, …, x_n 从小到大排序并重新编号为$x_{(1)}⩽x_{(2)}⩽...⩽x_{(n)}$.
经验分布函数F_n(x)，对于任一实数x，当$n\to \infty$时F_n(x)以概率1一致收敛于分布函数F(x)，即P{lim⁡n→∞sup⁡−∞&lt;x&lt;∞∣Fn(x)−F(x)∣=0}=1.P\{\lim\limits_{n\to\infty} \sup\limits_{-\infty&lt;x&lt;\infty}|F_n(x)-F(x)|=0 \}=1.P{n→∞lim​−∞<x<∞sup​∣Fn​(x)−F(x)∣=0}=1.因此，对于任一实数x当n充分大时，经验分布函数的任一观察值F_n(x)与总体分布函数F(x)只有微小的差别，从而在实际上可当作F(x)来使用。

抽样分布： 统计量的分布称为抽样分布。
来自正态总体的几个常用的统计量的分布。
（一）${\chi }^2$分布
设X₁, X₂, …, X_n 是来自总体N(0,1)的样本，则称统计量
${\chi }^2=X_1^2+X_2^2+...+X_n^2$
服从自由度为n的${\chi }^2$分布，记为${\chi }^2\sim {\chi }^2(n).$ 自由度是指上式右端包含的独立变量的个数。
${\chi }^2(n)$的概率密度为
$f(y)=\{\begin{array}{l}\frac{1}{2^{n/2}\Gamma (n/2)}{y}^{n/2-1}{e}^{-y/2},y>0,\\ \\ 0,其他.\end{array}$

补充：
设X服从$\Gamma$分布，记为$X\sim \Gamma (\alpha ,\theta ).$ X的概率密度为
X的概率密度为
$f(x)=\{\begin{array}{l}\frac{1}{{\theta }^{\alpha }\Gamma (\alpha )}{x}^{\alpha -1}{e}^{-x/\theta },x>0,\\ \\ 0,其他.\end{array}$
其中$\alpha >0$(形状参数), $\theta >0.$(尺度参数) $\Gamma (x)=2{\int }_0^{+\infty }{t}^{2x-1}{e}^{-t^2}dt.$
可加性：设$X\sim \Gamma (\alpha ,\theta )$，$Y\sim \Gamma (\beta ,\theta ).$ 则$X+Y\sim \Gamma (\alpha +\beta ,\theta ).$

$X_i^2\sim {\chi }^2(1)$，即$X_i^2\sim \Gamma (\frac{1}{2},2)$，由$\Gamma$分布的可加性${\chi }^2=\sum _{i=1}^n{X}_i^2\sim \Gamma (\frac{n}{2},2).$ 其中$X_i^2$相互独立。

${\chi }^2$分布的可加性： 设${\chi }_1^2\sim {\chi }^2(n_1)$，${\chi }_2^2\sim {\chi }^2(n_2)$，并且${\chi }_1^2$，${\chi }_2^2$相互独立，则有${\chi }_1^2+{\chi }_2^2\sim {\chi }^2(n_1+n_2)$

${\chi }^2$分布的数学期望和方差： 若${\chi }^2\sim {\chi }^2(n)$，则有$E({\chi }^2)=n$，$D({\chi }^2)=2n$.

${\chi }^2$分布的上分位点： 对于给定的正数$\alpha ,0<\alpha <1$，满足条件
P{χ2&gt;χα2(n)}=∫χα2(n)∞f(y)dy=αP\{\chi^2&gt;\chi_\alpha^2(n)\}=\int_{\chi_\alpha^2(n)}^{\infty}f(y)dy=\alphaP{χ2>χα2​(n)}=∫χα2​(n)∞​f(y)dy=α
的点${\chi }_{\alpha }^2(n)$就是${\chi }^2(n)$分布的上$\alpha$分位点。
当n充分大时（n>40），近似地有${\chi }_{\alpha }^2(n)\approx \frac{1}{2}(z_{\alpha }+\sqrt{2n-1}{)}^2$，其中$z_{\alpha }$是标准正态分布的上$\alpha$分位点。

（二）t分布
设$X\sim N(0,1)$，$Y\sim {\chi }^2(n)$，且X，Y相互独立，则称随机变量
$t=\frac{X}{\sqrt{Y/n}}$
服从自由度为n的t分布，记为$t\sim t(n)$。
t分布又称学生氏分布，t(n)分布的概率密度为
$h(t)=\frac{\Gamma [(n+2)/2]}{\sqrt{\pi n}\Gamma (n/2)}(1+\frac{t^2}{n}{)}^{-(n+1)/2},-\infty <t<\infty$
h(t)的图形关于t=0对称。
当n足够大时t分布近似于N(0,1)分布。

t分布的上分位点： 对于给定的正数$\alpha ,0<\alpha <1$，满足条件
P{t&gt;tα(n)}=∫tα(n)∞h(t)dt=αP\{t&gt;t_\alpha(n)\}=\int_{t_\alpha(n)}^{\infty}h(t)dt=\alphaP{t>tα​(n)}=∫tα​(n)∞​h(t)dt=α
的点$t_{\alpha }(n)$就是$t(n)$分布的上$\alpha$分位点。
由h(t)的图形关于t=0对称知
$t_{1-\alpha }(n)=-t_{\alpha }(n)$

（三）F分布
设$U\sim {\chi }^2(n_1)$，$V\sim {\chi }^2(n_2)$，且U，V相互独立，则称随机变量
$F=\frac{U/n1}{V/n2}$
服从自由度为(n₁, n₂)的F分布，记为$F\sim F(n_1,n_2)$。
F(n₁,n₂)分布的概率密度为
$\psi (y)=\{\begin{array}{l}\frac{\Gamma [(n_1+n_2)/2](n_1/n_2{)}^{n_1/2}{y}^{n_1/2-1}}{\Gamma (n_1/2)\Gamma (n_2/2)[1+(n_{1}y/n_2){]}^{(n_1+n_2)/2}},y>0,\\ \\ 0,其他.\end{array}$

由定义可知，若$F\sim F(n_1,n_2)$，则$\frac{1}{F}\sim F(n_2,n_1)$.

F分布的上分位点： 对于给定的正数$\alpha ,0<\alpha <1$，满足条件
P{F&gt;Fα(n1,n2)}=∫Fα(n1,n2)∞ψ(y)dy=αP\{F&gt;F_\alpha(n_1,n_2)\}=\int_{F_\alpha(n_1,n_2)}^{\infty}\psi(y)dy=\alphaP{F>Fα​(n1​,n2​)}=∫Fα​(n1​,n2​)∞​ψ(y)dy=α
的点$F_{\alpha }(n_1,n_2)$就是$F(n_1,n_2)$分布的上$\alpha$分位点。

F分布的上$\alpha$分位点有如下重要性质：$F_{1-\alpha }=\frac{1}{F(n_2,n_1)}$

（四）正态总体的样本均值与样本方差的分布
设总体X（不管什么分布）的均值为$\mu$，方差为${\sigma }^2$，X₁, X₂, …, X_n 是来自X的一个样本，$\overline{X}$，$S^2$分别是样本均值和样本方差，则有$E(\overline{X})=\mu$，$D(\overline{X})={\sigma }^2/n$，$E(S^2)={\sigma }^2$.

定理一： 设X₁, X₂, …, X_n 是来自正态总体$N(\mu ,{\sigma }^2)$的样本，$\overline{X}$是样本均值，则有$\overline{X}\sim N(\mu ,{\sigma }^2/n).$

定理二： 设X₁, X₂, …, X_n 是来自正态总体$N(\mu ,{\sigma }^2)$的样本，$\overline{X}$，$S^2$分别是样本均值和样本方差，则有
1.$\frac{(n-1)S^2}{{\sigma }^2}\sim {\chi }^2(n-1)$
2.$\overline{X}$与$S^2$相互独立

定理三： 设X₁, X₂, …, X_n 是来自正态总体$N(\mu ,{\sigma }^2)$的样本，$\overline{X}$，$S^2$分别是样本均值和样本方差，则有
$\frac{\overline{X}-\mu }{S/\sqrt{n}}\sim t(n-1)$

定理四： 设X₁, X₂, …, X_n1 与Y₁, Y₂, …, Y_n1 分别是来自正态总体$N({\mu }_1,{\sigma }_1^2)$和$N({\mu }_2,{\sigma }_2^2)$的样本，且这两个样本相互独立。设$\overline{X}=\frac{1}{n_1}\sum _{i=1}^{n_1}{X}_i$，$\overline{Y}=\frac{1}{n_2}\sum _{i=1}^{n_2}{Y}_i$分别是这两个样本的样本均值；$S_1^2=\frac{1}{n_1-1}\sum _{i=1}^{n_1}(X_i-\overline{X}{)}^2$，$S_2^2=\frac{1}{n_2-1}\sum _{i=1}^{n_2}(Y_i-\overline{Y}{)}^2$分别是这两个样本的样本方差，则有
1.$\frac{S_1^2/S_2^2}{{\sigma }_1^2/{\sigma }_2^2}\sim F(n_1-1,n_2-1)$
2.当${\sigma }_1^2={\sigma }_2^2={\sigma }^2$时，
$\frac{(\overline{X}-\overline{Y})-({\mu }_1-{\mu }_2)}{S_w\sqrt{\frac{1}{n_1}+\frac{1}{n_2}}}\sim t(n_1+n_2-2),$
其中$S_w^2=\frac{(n_1-1)S_1^2+(n_2-1)S_2^2}{n_1+n_2-2},S_w=\sqrt{S_w^2}.$