马尔科夫不等式（Markov‘s Inequality）

豆芽819

于 2025-03-18 12:45:28 发布

阅读量669

点赞数 5

文章标签：概率论

版权

马尔科夫不等式（Markov's Inequality）是概率论中的一个基础不等式，用于估计非负随机变量超过某一正值的概率。它不依赖于随机变量的具体分布，仅利用期望值进行概率上界的估计，因此在理论分析和实际应用中具有广泛价值。

设 𝑋X 为非负随机变量（即 𝑋≥0），且期望 𝐸[𝑋] 存在。对于任意正数 𝑎>0，马尔科夫不等式表示为：

$P(X\ge a)\le\dfrac{E[X]}{a}$

马尔科夫不等式表明：非负随机变量取值越大的事件，其发生的概率越小。具体来说：

思路：通过期望的定义，利用积分分割区域。

证明过程：
由于 $X \geq 0$ ，其期望可写为：

$E[X] = \int_{0}^{\infty} x f(x) dx \quad$ (连续型)或 $\quad E[X] = \sum_{x \geq 0} x P(X=x) \quad$ (离散型).

将积分（或求和）分为两部分：

$E[X] = \int_{0}^{a} x f(x) dx + \int_{a}^{\infty} x f(x) dx.$

由于 𝑥≥𝑎时，可得：

$E[X] \geq \int_{a}^{\infty} x f(x) dx \geq \int_{a}^{\infty} a f(x) dx = a \cdot P(X \geq a).$

整理得：

$P(X \geq a) \leq \frac{E[X]}{a}.$

无需分布信息：仅需知道期望值即可估计尾部概率。
示例：若某设备寿命 𝑋（非负）的期望为 5 年，则其寿命超过 10 年的概率满足：
$P(X \geq 10) \leq \frac{E[X]}{10} = \frac{5}{10} = 0.5.$

切比雪夫不等式：马尔科夫不等式的推广，用于估计方差相关的概率。
对任意随机变量 𝑌（不要求非负），令 $X = (Y - E[Y])^2$ ，则：
$P(|Y - E[Y]| \geq a) \leq \frac{\text{Var}(Y)}{a^2}.$

在随机算法中，估计运行时间的超出概率。
示例：若某算法期望运行时间为 $E[T] = 2$ 秒，则其运行时间超过 6 秒的概率满足：
$P(T \geq 6) \leq \frac{2}{6} \approx 0.333.$