常见的几种概率分布

最新推荐文章于 2025-07-18 10:33:00 发布

转载最新推荐文章于 2025-07-18 10:33:00 发布 · 4.6w 阅读

文章标签：

#机器学习

转载专栏收录该内容

23 篇文章

订阅专栏

本文介绍了概率论中常见的离散概率分布（如伯努利、二项、多项分布）和连续概率分布（如均匀、指数、正态、拉普拉斯分布等），并详细解析了这些分布的特点及应用。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

文章来源：http://blog.youkuaiyun.com/pipisorry/article/details/39076957

常见离散概率分布

Bernoulli、Binomial、Poisson

统计学（三）：几种常见的概率分布

Note: 一般的二项分布是n次独立的伯努利试验的和。它的期望值和方差分别等于每次单独试验的期望值和方差的和。

伯努利、二项分布、多项分布

伯努利分布就是对单次抛硬币的建模，X~Bernoulli(p)的PDF为 f(x)=px(1−p)1−x ，随机变量X只能取{0, 1}。对于所有的pdf，都要归一化！而这里对于伯努利分布，已经天然归一化了，因此归一化参数就是1。

很多次抛硬币的建模就是二项分布了。注意二项分布有两个参数，n和p，要考虑抛的次数。

二项分布的取值X一般是出现正面的次数，其PDF为：

f(x)=P(X=x)=P(X=x|n,p)=Cxnpx(1−p)n−x

Cxn 就是二项分布pdf的归一化参数。如果是beta分布，把Cxn换成beta函数分之一即可，这样可以从整数情况推广为实数情况。所以beta分布是二项分布的实数推广！

多项分布则更进一层，抛硬币时X只能有两种取值，当X有多种取值时，就应该用多项分布建模。

这时参数p变成了一个向量 p⃗ =(p1,…,pk) 表示每一个取值被选中的概率，那么X~Multinomial(n,p)的PDF为：

f(x)=P(x1, …, xk|n,p⃗ )=(nx1, …, xk)px11…pxkk=n!∏ki=1xi!∏pxix

多项式分布Multinomial

皮皮blog

常见连续概率分布

常见的概率分布_文库下载http://www.wenkuxiazai.com/doc/e14db3d233d4b14e852468c0.html

常见的连续分布的概率密度函数和累积分布度函数：

均匀分布

指数分布

正态分布与卡方分布

统计学（三）：几种常见的概率分布

[概率论：高斯分布]

Beta分布

拉普拉斯分布 Laplace Dist

在概率论与统计学中，拉普拉斯分布是以皮埃尔-西蒙·拉普拉斯的名字命名的一种连续概率分布。由于它可以看作是两个不同位置的指数分布背靠背拼接在一起，所以它也叫作双指数分布。当数据分布的波峰比正态分布更尖锐时使用 Laplace 分布。例如，Laplace 分布用于生物、金融和经济学方面的建模。

两个相互独立同概率分布指数随机变量之间的差别是按照指数分布的随机时间布朗运动，所以它遵循拉普拉斯分布。

概率密度函数累积分布函数

概率分布、概率密度以及分位数函数

如果随机变量的概率密度函数分布为

f(x|\mu,b) = \frac{1}{2b} \exp \left( -\frac{|x-\mu|}{b} \right) \,\!

= \frac{1}{2b} \left\{\begin{matrix} \exp \left( -\frac{\mu-x}{b} \right) & \mbox{if }x < \mu \\[8pt] \exp \left( -\frac{x-\mu}{b} \right) & \mbox{if }x \geq \mu \end{matrix}\right.

那么它就是拉普拉斯分布。其中，μ 是位置参数，b > 0 是尺度参数。如果 μ = 0，那么，正半部分恰好是尺度为 1/2 的指数分布。

拉普拉斯分布的概率密度函数让我们联想到正态分布，但是，正态分布是用相对于 μ 平均值的差的平方来表示，而拉普拉斯概率密度用相对于平均值的差的绝对值来表示。因此，拉普拉斯分布的尾部比正态分布更加平坦。

根据绝对值函数，如果将一个拉普拉斯分布分成两个对称的情形，那么很容易对拉普拉斯分布进行积分。它的累积分布函数为：

$F(x)\,$	$= \int_{-\infty}^x \!\!f(u)\,\mathrm{d}u$
	$= \left\{\begin{matrix} &\frac12 \exp \left( -\frac{\mu-x}{b} \right) & \mbox{if }x < \mu \\[8pt] 1-\!\!\!\!&\frac12 \exp \left( -\frac{x-\mu}{b} \right) & \mbox{if }x \geq \mu \end{matrix}\right.$
	$=0.5\,[1 + \sgn(x-\mu)\,(1-\exp(-\|x-\mu\|/b))]$

逆累积分布函数为

F^{-1}(p) = \mu - b\,\sgn(p-0.5)\,\ln(1 - 2|p-0.5|)

拉普拉斯分布的数字特征

参数	$\mu\,$ 位置参数（实数） $b > 0\,$ 尺度参数（实数）
支撑集	$x \in (-\infty; +\infty)\,$
概率密度函数	$\frac{1}{2\,b} \exp \left(-\frac{\|x-\mu\|}b \right) \,$
期望值	$\mu\,$
中位数	$\mu\,$
众数	$\mu\,$
方差	$2\,b^2$
偏度	$0\,$
峰度	$3\,$
信息熵	$1 + \ln(2\,b)$
动差生成函数	$\frac{\exp(\mu\,t)}{1-b^2\,t^2}\,\!$ for $\|t\|<1/b\,$
特性函数	$\frac{\exp(\mu\,i\,t)}{1+b^2\,t^2}\,\!$

拉普拉斯分布的性质

如果 $Y = |X-\mu|$ 并且 $X \sim \mathrm{Laplace}$ ，则 $Y \sim \mathrm{Exponential}$ 是指数分布。
如果 $Y = X_1 - X_2$ 与 $X_1,\, X_2 \sim \mathrm{Exponential}$ ，则 $Y \sim \mathrm{Laplace}$ 。