19、概率理论基础与应用

概率理论基础与应用

1. 概率理论的基本概念

概率空间由两部分组成：一是包含实验所有可能结果的有限集合Ω，称为样本空间；二是为每个可能结果分配概率的方法，用函数 Pr : Ω → R 表示。该函数需满足两个性质：
- 对于所有 ω ∈ Ω，有 0 ≤ Pr(ω) ≤ 1。
- $\sum_{\omega\in\Omega} Pr(\omega) = 1$。

下面通过几个例子来加深理解：
- 抛硬币 ：抛一枚硬币，有正面（H）和反面（T）两种结果，样本空间 Ω = {H, T}。若为公平硬币，每个结果的概率相等，即 Pr(H) = Pr(T) = $\frac{1}{2}$。
- 掷两个骰子 ：样本空间 Ω 是 36 对数字的集合，即 Ω = { (n, m) : n, m ∈ Z 且 1 ≤ n, m ≤ 6 }。每个可能结果的概率相等，Pr( (n, m) ) = $\frac{1}{36}$。例如，掷出 (6, 6) 和 (3, 4) 的概率相同。
- 从 urn 中取球 ：假设 urn 中有 100 个球，其中 21 个是白色，79 个是黑色。随机取 10 个球（无放回），恰好取到 3 个白球的概率为：
$Pr(10 次尝试中恰好 3 个白球) = \frac{ {21 \choose 3}{79 \choose 7}}{ {100 \choose 10}} \approx 0.223$

我们通常更关注复合事件的概率，复合事件是样本空间的子集，可能包含多个结果。例如，