兩獨立高斯隨機變數之和

兩獨立高斯隨機變數之和

X + Y ∼ N ( μ X + μ Y , σ X 2 + σ Y 2 ) X+Y \sim \mathcal{N}(\mu_X +\mu_Y, \sigma_X^2 + \sigma_Y^2) X+YN(μX+μY,σX2+σY2)

以下證明參考Sum of normally distributed random variables - Proof using characteristic functions

兩個隨機變數 X , Y X,Y X,Y的特徵函數定義如下:
φ X ( t ) = E ⁡ ( e i t X ) , φ Y ( t ) = E ⁡ ( e i t Y ) \varphi_X (t) = \operatorname{E}\left(e^{itX}\right), \qquad \varphi_Y(t) = \operatorname{E}\left(e^{itY}\right) φX(t)=E(eitX),φY(t)=E(eitY)

假設 X X X Y Y Y皆為高斯隨機變數,且互相獨立:

φ X + Y ( t ) = φ X ( t ) φ Y ( t ) X,Y互相獨立 = exp ⁡ ( i t μ X − σ X 2 t 2 2 ) exp ⁡ ( i t μ Y − σ Y 2 t 2 2 ) 高斯隨機變數的特徵函數: φ ( t ) = exp ⁡ ( i t μ − σ 2 t 2 2 ) = exp ⁡ ( i t ( μ X + μ Y ) − ( σ X 2 + σ Y 2 ) t 2 2 ) . \begin{aligned} \varphi_{X+Y}(t)&=\varphi_X(t) \varphi_Y(t) && \text{X,Y互相獨立}\\& =\exp\left(it\mu_X - {\sigma_X^2 t^2 \over 2}\right) \exp\left(it\mu_Y - {\sigma_Y^2 t^2 \over 2}\right) && \text{高斯隨機變數的特徵函數:}\varphi(t) = \exp\left(it\mu - {\sigma^2 t^2 \over 2}\right)\\[6pt] & = \exp \left( it (\mu_X +\mu_Y) - {(\sigma_X^2 + \sigma_Y^2) t^2 \over 2}\right). \end{aligned} φX+Y(t)=φX(t)φY(t)=exp(itμX2σX2t2)exp(itμY2σY2t2)=exp(it(μX+μY)2(σX2+σY2)t2).X,Y互相獨立高斯隨機變數的特徵函數:φ(t)=exp(itμ2σ2t2)

得到一個平均值為 μ X + μ Y \mu_X +\mu_Y μX+μY,變異數為 σ X 2 + σ Y 2 \sigma_X^2 + \sigma_Y^2 σX2+σY2的高斯隨機變數的特徵函數。

其中第一個等號參考兩獨立隨機變數之和的特徵函數

參考Characteristic function (probability theory)

There is a bijection between probability distributions and characteristic functions. That is, for any two random variables X1, X2, both have the same probability distribution if and only if φ X 1 = φ X 2 \varphi_{X_{1}}=\varphi_{X_{2}} φX1=φX2

也就是說如果隨機變數不同,那麼它們的特徵函數一定也不同。因此可以確定高斯隨機變數 X + Y X+Y X+Y一定是以下的常態分布:

X + Y ∼ N ( μ X + μ Y , σ X 2 + σ Y 2 ) X+Y \sim \mathcal{N}(\mu_X +\mu_Y, \sigma_X^2 + \sigma_Y^2) X+YN(μX+μY,σX2+σY2)

其它參考連結:
Gaussian random vector
The Multivariate Gaussian Distribution

### 如何对个二维高斯分布进行相加 当处理独立的二维高斯分布时,如果这个分布相互独立,则可以通过简单地将它们的概率密度函数(PDFs)相加以获得新的混合分布。然而,在大多数情况下,尤其是涉及到机器学习中的应用,更常见的是考虑这些分布作为同随机变量的不同实例或不同时间点上的状态。 对于个均值分别为 \(\mu_1\) 和 \(\mu_2\), 协方差矩阵分别为 \(C_1\) 和 \(C_2\) 的二维高斯分布来说: - 如果目标是创建个新的高斯分布来近似表示原始数据集的整体特性,那么可以计算平均后的均值向量和协方差矩阵。具体而言,新分布的均值将是原有个分布均值的算术平均;而协方差则需考虑到各自权重以及交叉项的影响[^1]。 ```python import numpy as np def combine_gaussians(mean1, cov1, mean2, cov2): # 计算组合后的均值 combined_mean = (mean1 + mean2) / 2 # 计算组合后的协方差矩阵 diff_means = np.array([mean1 - mean2]).T combined_covariance = (cov1 + cov2 + diff_means @ diff_means.T) / 2 return combined_mean.flatten(), combined_covariance # 示例参数 mean1 = np.array([0, 0]) cov1 = np.eye(2) mean2 = np.array([3, 3]) cov2 = np.eye(2)*4 combined_mean, combined_covariance = combine_gaussians(mean1, cov1, mean2, cov2) print(f"Combined Mean:\n{combined_mean}\nCombined Covariance Matrix:\n{combined_covariance}") ``` 需要注意的是上述方法适用于线性叠加的情况。而在某些特定场景下,比如图像生成或者强化学习中提到的动作空间探索等问题里使用的扩散模型框架内,可能会采用更加复杂的机制来进行多步转换或是通过引入噪声等方式实现平滑过渡效果[^3]。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值