概率统计——随机事件与随机变量

最新推荐文章于 2023-05-14 20:46:34 发布

哎呦哥哥、

最新推荐文章于 2023-05-14 20:46:34 发布

阅读量1.4k

点赞数 1

分类专栏：概率论文章标签：数据挖掘概率论

本文链接：https://blog.youkuaiyun.com/jm863936705/article/details/106894857

版权

概率论专栏收录该内容

4 篇文章

订阅专栏

随机事件

基本概念

名词	符号	概念
随机现象		现实生活中，一个动作或事情，在一定条件下，所得的结果不能预先完全确定，只能确定是多种可能结果中的一种的现象。
随机试验	E	使随机现象得以实现和对它观察的全过程称为随机试验。
样本空间	Ω	随机试验所有可能结果组成的集合
样本点	ω	试验的每一个可能结果
随机事件	A, B, C, ……	样本空间中满足一定条件的子集。
事件发生		在试验中，称一个事件发生是指构成该事件的一个样本点出现。
必然事件		由于样本空间Ω包含了所有的样本点，所以在每次试验中，样本空间总是发生，因此称Ω为必然事件
不可能事件		空集不包含任何样本点，且在每次试验中总不发生，所以称为不可能事件。

【注意】：

随机试验需要满足三个条件：q
（1）可以在相同条件下重复进行；
（2）结果有多种可能性，并且所有可能结果事先已经知道；
（3）做一次试验究竟哪个结果出现，事先不能确定。
随机事件在随机试验中可能出现，也可能不出现。

【举例说明】：掷色子。

样本点：出现的“1，2，3，4，5，6”中的任何一个数字都是一个样本点。
样本空间：所有样本点的集合，即Ω={1，2，3，4，5，6}.
随机事件（在一定条件下）：出现数字是偶数的结果，A={2，4，6}.
A是Ω的一个子集。
不可能事件：出现的结果大于6。用空集表示。

概率

定义

随机试验E的样本空间为Ω，对于每一个事件A，定义一个实数P(A)与之对应，若函数P(.)满足条件：

对于每一个事件A，都有0＜P(A)≤1;
P(Ω)=1;
若事件 $A_1,A_2,A_3,…$ 两两互斥，即，当i，j=1，2，…，且i≠j， $A_i∩A_j=∅$ 时，均有 $P(A_1∪A_2∪…)=P(A_1)+P(A_2)+…$

则称P(A)为事件A的概率。

主要性质

对于任一事件A，均有 $P(\bar{A})=1-P(A)$ ;
对于两个事件A和B，若 $A\subset B$ ，则有 $P (B - A) = P (B) - P (A) ， P (B) > P (A)$ ;
对于任意两个事件A和B，有 $P(A\cup B)=P(A)+P(B)-P(A\cap B)$

【举例说明】：掷色子，每个数字出现的概率是 $\frac {1} {6}$ 。令A={1，2}，B={1，2，3}， $\bar A$ ={3，4，5，6}。 $P(A)=\frac {1} {3},P(B)=\frac {1} {2}$ 。

$P(\bar A)=1-P(A)=1-\frac {1} {3}=\frac {2} {3}$
$P(B-A)=P(B)-P(A)=\frac {1} {2}-\frac {1} {3}=\frac {1} {6}$
$P(A\cup B)=P(A)+P(B)-P(A\cap B)=\frac {1} {3}+\frac {1} {2}-\frac {1} {3}=\frac {1} {2},其中A\cap B=A.$

古典概型

古典概型公式

$样本空间\Omega=n,事件A包含m个样本点，则事件A的概率定义为:$
$P(A)=\frac {m} {n}=\frac {事件A包含的基本事件数} {基本事件总数}$

浅析排列组合

排列和组合的本质区别：决策的顺序对结果有没有影响。

排列（Arrangement）

排列的定义：
- 从n个不同元素中，任取m(m≤n,m与n均为自然数,下同）个不同的元素按照一定的顺序排成一列，叫做从n个不同元素中取出m个元素的一个排列；
- 从n个不同元素中取出m(m≤n）个元素的所有排列的个数，叫做从n个不同元素中取出m个元素的排列数，用符号 $A_n^m$ 表示。
计算公式：
- $A_n^m=n(n-1)(n-2)(n-3)\cdots(n-m+1)=\frac {n!} {(n-m)!}$

组合（Combination）

组合的定义：
- 从n个不同元素中，任取m(m≤n）个元素并成一组，叫做从n个不同元素中取出m个元素的一个组合；
- 从n个不同元素中取出m(m≤n）个元素的所有组合的个数，叫做从n个不同元素中取出m个元素的组合数。用符号 $C_n^m$ 表示。
计算公式：
- $C_n^m=\frac {A_n^m} {m!}=\frac {n!} {m!(n-m)!};C_n^m=C_n^{n-m}$

例题

假设有k个不同颜色的球，每个球以同样的概率 $\frac {1} {l}$ 落到 $\ge k)$ 个格子的每个中，且每个盒子可以容纳任意多个球。分别求出以下两个事件A和B的概率。

指定的k个格子中各有一个球；
存在k个格子，其中各有一个球。

【解析】：

由于每个格子可以放任意个球，所以k个球放入一个格子里面就有k种可能，一共有 $l$ 个格子，所以样本空间就是 $l^k$ 。
A事件的意思就是在 $l$ 个格子中选出k个格子来放k个球，也就是 $A_k^k$ 。所以， $P(A)=\frac {A_k^k} {l^k}$ 。
对于B事件，首先我们要从 $l$ 个格子里面随机选出k个格子，也就是 $C_l^k$ ，其次，选出的k个格子要放k个球，也就是 $A_k^k$ ，即一共是 $C_l^k×A_k^k$ ，从而得知， $P(B)=\frac {C_l^k×A_k^k} {l^k}$ 。

条件概率

$设A和B是两个事件，且P(B)＞0，称P(A|B)=\frac {P(AB)} {P(B)}，为事件B发生的条件下，事件A发生的概率。$
由此推导出，概率的乘法公式为： $P (A B) = P (A ∣ B) P (B) = P (B ∣ A) P (A)$

全概率公式

$设B_1,B_2,\cdots是样本空间\Omega的一个划分，A为任一事件，则$
$P(A)=\sum_{i=1}^{\infty}P(B_i)P(A|B_i)，$
$称为全概率公式。$

【补充】：
如果事件组满足 $B_1,B_2,\cdots$ 两两互斥，且 $P(B_i)>0,i=1,2,\cdots,B_1\cup B_2\cup\cdots=\Omega,则称事件组B_1,B_2,\cdots是样本空间\Omega的一个划分。$

【本质】
$\color {red}{全概率就是表示达到某个目的，有多种方式（或者造成某种结果，有多种原因），问达到目的的概率是多少（造成这种结果的概率是多少）？}$

贝叶斯公式

$设B_1,B_2,\cdots是样本空间\Omega的一个划分，则对任一事件A(P(A)>0)有$
$P(B_i|A)=\frac {P(B_iA)} {P(A)}=\frac {P(A|B_i)P(B_i)} {\sum_{j=1}^{\infty}P(B_j)P(A|B_j)},i=1,2,\cdots$
称上式为贝叶斯公式，称 $P(B_i)(i=1,2,\cdots)$ 为先验概率， $P(B_i|A)(i=1,2,\cdots)$ 为后验概率。

【本质】
$\color {red}{贝叶斯公式就是当已知结果，问导致这个结果的第i原因的可能性是多少？执果索因！}$

随机变量

随机变量&&随机变量的分布函数

随机变量

设E是随机试验， $\Omega$ 是样本空间，如果对于每一个 $\omega \subset \Omega$ 。都有一个确定的实数 $X(\omega)$ 与之对应，若对于任意实数 $x\subset R$ ，有{ $\omega :X(\omega) <x$ }，则称 $\Omega$ 上的单值实函数 $X(\omega)$ 为一个随机变量。

随机变量的分布函数

$设 X 是一个随机变量，对于任意实数 x ，令$
$F(x)=\lbrace{X<x} \rbrace,x\in R$
$称 F (x) 为随机变量 X 的分布函数，也称为概率累计函数。$

离散型随机变量

$如果随机变量 X 的全部可能取值只有有限多个或可列无穷多个，则称 X 为离散型随机变量。$

$对于离散型随机变量X可能取值为x_k的概率为：$
$P\lbrace{X=x_k}\rbrace=p_k,k=1,2,\cdots$
$则称上式为离散型随机变量 X 的分布律。$

$离散性随机变量的分布函数为：$
$F(x)=P\lbrace{X<=x}\rbrace=\sum_{x_k<=x}P\lbrace{X=x_k}\rbrace=\sum_{x_k<=x}P_k$

常见的离散型分布

二项分布（Bernoulli分布）

Bernoulli（伯努利）试验
如果一个随机试验只有两种可能结果 $A和\bar A$ ，并且
$P(A)=p,P(\bar A)=1-p=q$
$其中， 0 < p < 1, 则称此实验为 B e r n o u l l i 试验。 B e r n o u l l i 试验重复进行 n 次，称为 n 重 B e r n o u l l i 试验。$
二项分布
$设A=\lbrace{n重Bernoulli试验中A出现k次}\rbrace，则$
$P(A_k)=C_n^kP^k(1-p)^{n-k},k=0,1,2,\cdots,n$
$此为二项分布，记作 B (n, k) 。$
分布函数
$若随机变量X的分布律为：P(X=k)=C_n^kP^k(1-p)^{n-k},k=0,1,2,\cdots,n,其分布函数为：$
$F(x)=\sum_{k=}^{\lfloor x \rfloor}C_n^kP^k(1-p)^{n-k},k=0,1,2,\cdots,n$
$其中\lfloor x \rfloor 表示向下取整，即不超过x的最大整数。$

随机变量的数字特征

数学期望（均值）——离散型/连续型

离散型：
$设离散型随机变量X的分布律为P(X=x_i)=p_i,i=1,2,\cdots,若级数\sum_i|x_i|p_i收敛，则称级数\sum_ix_ip_i的和为随机变量X的数学期望。记作E(X),即：$
$E(X)=\sum_ix_ip_i$
连续型：
$设连续型随机变量X的概率密度函数为f(x)，若积分\int_{-\infty}^{+\infty}{|x|f(x)}dx的值为随机变量X的数学期望。记作E(X)，即：$
$E(X)=\int_{-\infty}^{+\infty}{xf(x)}dx$

【注意】：数学期望代表了随机变量取值的平均值，是一个非常重要的数学特征。
【数学期望的特征】：

$若 c 是常数，则 E (c) = c;$
$E (a X + b Y) = a E (X) + b E (Y), 其中 a ， b 是任意常数；$
$若 X ， Y 相互独立，则 E (X Y) = E (X) E (Y);$

方差、均方差（标准差）、协方差、相关系数

方差、均方差（标准差）：
$设X为随机变量，如果E\lbrace{[X-E(X)]^2}\rbrace为X的$ 方差。 $记作 V a r (X) ，即：$
$Var(X)=E\lbrace{[X-E(X)]^2}\rbrace$
$并且称\sqrt {Var(X)}为X的$ 标准差或均方差。

【注意】：方差是用来描述随机变量取值相对于均值的离散程度的一个量，是非常重要的数字特征。
【方差的性质】：

$若 c 是常数，则 V a r (c) = 0$
$Var(aX+b)=a^2E(X),其中a,b是任意常数;$
$若 X, Y 相互独立，则 V a r (X + Y) = V a r (X) + V a r (Y);$

协方差：
协方差和相关系数 $都是描述随机变量 X 与随机变量 Y 之间的线性联系程度的数字量。$

$设X,Y为两个随机变量，称E\lbrace{[X-E(X)][Y-E(Y)]}\rbrace为X和Y的协方差，记作Cov(X,Y),即：$
$Cov(X,Y)=E\lbrace{[X-E(X)][Y-E(Y)]}\rbrace$

【协方差的性质】：

$C o v (X, Y) = C o v (Y, X);$
$C o v (a X + b, c Y + d) = a c C o v (X, Y), 其中 a, b, c, d 为任意常数;$
$Cov(X_1+X_2,Y)=Cov(X_1,Y)+Cov(X_2,Y);$
$C o v (X, Y) = E (X, Y) - E (X) E (Y);$
$当 X, Y 相互独立时， C o v (X, Y) = 0;$
$|Cov(X,Y)|=\sqrt {Var(X)}\sqrt {Var(Y)};$
$C o v (X, X) = V a r (X);$

相关系数：
$当\sqrt {Var(X)}>0，\sqrt {Var(Y)}>0时，称：$
$\rho(X,Y)=\frac {Cov(X,Y)}{\sqrt {Var(X)}\sqrt {Var(Y)}}$
$为 X, Y 的相关系数，它是无纲量的量，也就是没有单位。$
【补充】：
1. 用相关系数来衡量两个变量之间的相关程度。
2. 相关系数在**-1到1之间，小于0表示负相关**，大于0表示正相关。
3. 绝对值 $|\rho(X,Y)|$ 表示相关度的大小，越接近1，相关度越大。