10、离散概率：从基础概念到实际应用

离散概率：从基础概念到实际应用

1. 离散概率基础

1.1 概率空间与事件

概率理论源自概率空间的概念。概率空间是一个集合Ω，它涵盖了给定问题中所有可能发生的情况，并为每个基本事件ω∈Ω分配一个概率Pr(ω)。这个概率必须是非负实数，且满足所有基本事件概率之和为1，即(\sum_{\omega\in\Omega} Pr(\omega) = 1)。例如，掷一对骰子时，基本事件集合Ω = D²，其中D是单个骰子的六种可能结果。通常我们认为骰子是“公平的”，每个结果的概率为1/6，但也存在“灌铅”骰子，其概率分布不同。

事件是Ω的子集。在骰子游戏中，“掷出对子”就是一个事件。事件A的概率由公式(Pr(\omega \in A) = \sum_{\omega\in A} Pr(\omega))定义。例如，使用公平骰子时，掷出对子的概率是1/6；而使用灌铅骰子时，这个概率可能会更高。

1.2 随机变量

随机变量是定义在概率空间基本事件ω上的函数。以掷骰子为例，我们可以定义S(ω)为骰子掷出的点数之和。随机变量可以通过其取值的概率分布来描述。例如，S可以取11个可能的值{2, 3, …, 12}，我们可以列出每个值对应的概率。

如果两个随机变量X和Y定义在同一概率空间Ω上，我们可以通过它们的“联合分布”(Pr(X = x \text{ and } Y = y))来描述它们的行为。当(Pr(X = x \text{ and } Y = y) = Pr(X = x) \cdot Pr(Y = y))对所有x和y都成立时，我们称X和Y是独立随机变量。例如，在掷骰子的例子中，第一个骰子的点数S1和第二个骰子的点数S2是独立的，但点数