高斯分布概率密度函数积分推导

本文详细推导了高斯分布概率密度函数的积分,证明其积分值为1,并讨论了标准高斯分布的性质。进一步,通过积分计算得出高斯分布的均值为μ,方差为σ²。

高斯分布:

$f(x) = \frac{1}{\sqrt{2\pi }\sigma }exp(-\frac{(x-\mu)^{2}}{2\sigma^{2}})$

标准高斯分布:

$f(x) = \frac{1}{\sqrt{2\pi } }exp(-\frac{x^{2}}{2})$

 

一个高斯分布只需线性变换即可化为标准高斯分布,所以只需推导标准高斯分布概率密度的积分。由:

$\int_{-\infty }^{+\infty }\frac{1}{\sqrt{2\pi } }exp(-\frac{x^{2}}{2})dx = \int_{-\infty }^{+\infty }\frac{1}{\sqrt{2\pi } }exp(-\frac{y^{2}}{2})dy$

得:

$\int_{-\infty }^{+\infty }\frac{1}{\sqrt{2\pi }

<think>我们已知二维正态分布的概率密度函数形式,但用户要求推导过程。推导二维正态分布的概率密度函数,通常从一维正态分布扩展到二维,并考虑变量间的相关性。以下推导基于两个标准正态分布变量,通过线性变换引入相关性和一般参数。 ### 推导步骤 1. **从独立标准正态分布开始** 设 $U$ 和 $V$ 是两个独立的标准正态随机变量,即 $U \sim N(0,1)$, $V \sim N(0,1)$,且相互独立。则它们的联合概率密度函数为: $$f_{U,V}(u,v) = \frac{1}{2\pi} \exp\left(-\frac{u^2+v^2}{2}\right)$$ 2. **引入线性变换** 为了得到一般二维正态分布,我们进行线性变换。设: $$ \begin{cases} X = \mu_X + \sigma_X U \\ Y = \mu_Y + \sigma_Y \left( \rho U + \sqrt{1-\rho^2} V \right) \end{cases} $$ 其中 $\mu_X, \mu_Y$ 是均值,$\sigma_X>0, \sigma_Y>0$ 是标准差,$\rho$ 是相关系数(满足 $-1 \leq \rho \leq 1$)。 这个变换的构造保证了 $X$ 和 $Y$ 的均值和方差符合要求,并且相关系数为 $\rho$。 3. **计算变换后的均值和协方差** - $E[X] = \mu_X$,$Var(X) = \sigma_X^2$ - $E[Y] = \mu_Y$,$Var(Y) = \sigma_Y^2$ - $Cov(X,Y) = E[(X-\mu_X)(Y-\mu_Y)] = \sigma_X \sigma_Y \rho$ 因此,相关系数确实为 $\rho$。 4. **求雅可比行列式** 变换的雅可比矩阵为: $$ J = \begin{pmatrix} \frac{\partial X}{\partial U} & \frac{\partial X}{\partial V} \\ \frac{\partial Y}{\partial U} & \frac{\partial Y}{\partial V} \end{pmatrix} = \begin{pmatrix} \sigma_X & 0 \\ \sigma_Y \rho & \sigma_Y \sqrt{1-\rho^2} \end{pmatrix} $$ 雅可比行列式 $|J| = \det(J) = \sigma_X \cdot \sigma_Y \sqrt{1-\rho^2}$。 5. **应用变量变换公式** 联合概率密度函数变换公式为: $$f_{X,Y}(x,y) = f_{U,V}(u,v) \cdot \frac{1}{|J|}$$ 其中 $(u,v)$ 需要表示为 $(x,y)$ 的函数。由变换方程解出: $$ \begin{cases} u = \frac{x - \mu_X}{\sigma_X} \\ v = \frac{1}{\sqrt{1-\rho^2}} \left( \frac{y - \mu_Y}{\sigma_Y} - \rho \frac{x - \mu_X}{\sigma_X} \right) \end{cases} $$ 6. **代入联合概率密度函数** 将 $u$ 和 $v$ 的表达式代入 $f_{U,V}(u,v)$ 并乘以 $1/|J|$: $$ f_{X,Y}(x,y) = \frac{1}{2\pi} \exp\left( -\frac{u^2+v^2}{2} \right) \cdot \frac{1}{\sigma_X \sigma_Y \sqrt{1-\rho^2}} $$ 其中指数部分为: $$ -\frac{1}{2} \left[ u^2 + v^2 \right] = -\frac{1}{2} \left[ \left( \frac{x-\mu_X}{\sigma_X} \right)^2 + \frac{1}{1-\rho^2} \left( \frac{y-\mu_Y}{\sigma_Y} - \rho \frac{x-\mu_X}{\sigma_X} \right)^2 \right] $$ 化简指数部分: $$ \begin{aligned} & \left( \frac{x-\mu_X}{\sigma_X} \right)^2 + \frac{1}{1-\rho^2} \left( \frac{y-\mu_Y}{\sigma_Y} - \rho \frac{x-\mu_X}{\sigma_X} \right)^2 \\ = & \frac{(x-\mu_X)^2}{\sigma_X^2} + \frac{1}{1-\rho^2} \left( \frac{(y-\mu_Y)^2}{\sigma_Y^2} - 2\rho \frac{(x-\mu_X)(y-\mu_Y)}{\sigma_X \sigma_Y} + \rho^2 \frac{(x-\mu_X)^2}{\sigma_X^2} \right) \\ = & \frac{(x-\mu_X)^2}{\sigma_X^2} \left(1 + \frac{\rho^2}{1-\rho^2}\right) + \frac{(y-\mu_Y)^2}{\sigma_Y^2} \frac{1}{1-\rho^2} - 2\rho \frac{(x-\mu_X)(y-\mu_Y)}{\sigma_X \sigma_Y} \frac{1}{1-\rho^2} \\ = & \frac{(x-\mu_X)^2}{\sigma_X^2} \cdot \frac{1}{1-\rho^2} + \frac{(y-\mu_Y)^2}{\sigma_Y^2} \cdot \frac{1}{1-\rho^2} - 2\rho \frac{(x-\mu_X)(y-\mu_Y)}{\sigma_X \sigma_Y} \frac{1}{1-\rho^2} \end{aligned} $$ 因此,指数部分为: $$ -\frac{1}{2(1-\rho^2)} \left[ \frac{(x-\mu_X)^2}{\sigma_X^2} + \frac{(y-\mu_Y)^2}{\sigma_Y^2} - 2\rho \frac{(x-\mu_X)(y-\mu_Y)}{\sigma_X \sigma_Y} \right] $$ 7. **得到最终表达式** 代入后,得到二维正态分布的概率密度函数: $$ f_{X,Y}(x,y) = \frac{1}{2\pi \sigma_X \sigma_Y \sqrt{1-\rho^2}} \exp\left\{ -\frac{1}{2(1-\rho^2)} \left[ \frac{(x-\mu_X)^2}{\sigma_X^2} + \frac{(y-\mu_Y)^2}{\sigma_Y^2} - 2\rho \frac{(x-\mu_X)(y-\mu_Y)}{\sigma_X \sigma_Y} \right] \right\} $$ 这与引用[3]中给出的形式一致[^3]。 ### 验证归一化 通过计算积分,可以验证该概率密度函数在整个平面上的积分等于1。由于变换过程中我们使用了雅可比行列式,且独立标准正态的联合概率密度函数已经归一化,因此变换后的概率密度函数也自动归一化。引用[1]中提到多维高斯分布的标准化因子确保积分等于1,这里二维情况下的标准化因子为 $\frac{1}{2\pi \sigma_X \sigma_Y \sqrt{1-\rho^2}}$,正是为了满足归一化条件[^1]。 ### 总结 通过以上步骤,我们由两个独立的标准正态随机变量出发,经过线性变换(引入相关系数)并应用变量变换公式,推导出了二维正态分布的概率密度函数。此方法可以推广到更高维的正态分布。 §§相关问题§§ 1. 二维正态分布中相关系数 $\rho$ 的几何意义是什么? 2. 如何将二维正态分布的推导推广到 $n$ 维? 3. 二维正态分布的条件分布是什么?</think>### 二维正态分布概率密度函数推导 二维正态分布的概率密度函数可通过以下步骤推导: #### 1. **从独立变量出发** 设 $Z_1 \sim N(0,1)$ 和 $Z_2 \sim N(0,1)$ 是**相互独立**的标准正态变量,其联合概率密度函数为: $$f_{Z_1,Z_2}(z_1,z_2) = \frac{1}{2\pi} \exp\left( -\frac{z_1^2 + z_2^2}{2} \right)$$ #### 2. **引入线性变换** 为引入相关性,定义新变量: $$ \begin{cases} X = \mu_X + \sigma_X Z_1 \\ Y = \mu_Y + \sigma_Y \left( \rho Z_1 + \sqrt{1-\rho^2} Z_2 \right) \end{cases} $$ 其中: - $\mu_X, \mu_Y$ 为均值 - $\sigma_X>0, \sigma_Y>0$ 为标准差 - $\rho$ 为相关系数($|\rho| \leq 1$) #### 3. **验证统计特性** - **均值**: $E[X] = \mu_X$,$E[Y] = \mu_Y$ - **方差**: $\text{Var}(X) = \sigma_X^2$,$\text{Var}(Y) = \sigma_Y^2$ - **协方差**: $\text{Cov}(X,Y) = \rho \sigma_X \sigma_Y$(推导见附录) #### 4. **雅可比行列式计算** 变换的雅可比矩阵为: $$ J = \begin{pmatrix} \frac{\partial X}{\partial Z_1} & \frac{\partial X}{\partial Z_2} \\ \frac{\partial Y}{\partial Z_1} & \frac{\partial Y}{\partial Z_2} \end{pmatrix} = \begin{pmatrix} \sigma_X & 0 \\ \rho \sigma_Y & \sigma_Y \sqrt{1-\rho^2} \end{pmatrix} $$ 雅可比行列式: $$ |J| = \det(J) = \sigma_X \sigma_Y \sqrt{1-\rho^2} $$ #### 5. **变量变换公式** 联合概率密度函数变换为: $$f_{X,Y}(x,y) = f_{Z_1,Z_2}(z_1,z_2) \cdot \frac{1}{|J|}$$ 其中 $(z_1, z_2)$ 需用 $(x,y)$ 表示: $$ \begin{cases} z_1 = \frac{x - \mu_X}{\sigma_X} \\ z_2 = \frac{1}{\sqrt{1-\rho^2}} \left( \frac{y - \mu_Y}{\sigma_Y} - \rho \frac{x - \mu_X}{\sigma_X} \right) \end{cases} $$ #### 6. **代入并化简** 将 $z_1, z_2$ 代入表达式: $$ \begin{aligned} f_{X,Y}(x,y) &= \frac{1}{2\pi} \exp\left( -\frac{1}{2} \left[ z_1^2 + z_2^2 \right] \right) \cdot \frac{1}{\sigma_X \sigma_Y \sqrt{1-\rho^2}} \\ &= \frac{1}{2\pi \sigma_X \sigma_Y \sqrt{1-\rho^2}} \exp\left( -\frac{1}{2} \left[ \left( \frac{x-\mu_X}{\sigma_X} \right)^2 + \frac{ \left( \frac{y-\mu_Y}{\sigma_Y} - \rho \frac{x-\mu_X}{\sigma_X} \right)^2 }{1-\rho^2} \right] \right) \end{aligned} $$ 化简指数部分: $$ \boxed{f_{X,Y}(x,y) = \frac{1}{2\pi \sigma_X \sigma_Y \sqrt{1-\rho^2}} \exp\left( -\frac{1}{2(1-\rho^2)} \left[ \frac{(x-\mu_X)^2}{\sigma_X^2} + \frac{(y-\mu_Y)^2}{\sigma_Y^2} - \frac{2\rho (x-\mu_X)(y-\mu_Y)}{\sigma_X \sigma_Y} \right] \right)} $$ 此即标准二维正态分布的概率密度函数[^3]。 --- ### 附录:协方差推导 $$ \begin{aligned} \text{Cov}(X,Y) &= E[(X-\mu_X)(Y-\mu_Y)] \\ &= E\left[ \sigma_X Z_1 \cdot \sigma_Y (\rho Z_1 + \sqrt{1-\rho^2} Z_2) \right] \\ &= \sigma_X \sigma_Y \left( \rho E[Z_1^2] + \sqrt{1-\rho^2} E[Z_1 Z_2] \right) \\ &= \sigma_X \sigma_Y \rho \quad (\because E[Z_1^2]=1, E[Z_1 Z_2]=0) \end{aligned} $$ --- ### 验证归一化 通过正交变换可将指数部分化为标准二次型: $$ \mathbf{z}^T \mathbf{z} = \frac{1}{1-\rho^2} \begin{pmatrix} x-\mu_X & y-\mu_Y \end{pmatrix} \begin{pmatrix} \sigma_X^{-2} & -\rho/(\sigma_X\sigma_Y) \\ -\rho/(\sigma_X\sigma_Y) & \sigma_Y^{-2} \end{pmatrix} \begin{pmatrix} x-\mu_X \\ y-\mu_Y \end{pmatrix} $$ 其行列式 $\det(\Sigma^{-1}) = \frac{1}{\sigma_X^2 \sigma_Y^2 (1-\rho^2)}$,积分结果为 $(2\pi) |\Sigma|^{1/2}$,确保全空间积分为 1[^1]。 ---
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值