文章目录
在笔记2中实际上已经写过了,但是觉得很重要 就单独再拎出来,也再补充点
补充 矩阵求导的重要性质
多元高斯分布
基本定义
一些性质
由于变换积分对象,所以要乘上雅克比矩阵,正好是|B|1/2 所以新的式子里面没有协方差矩阵的这个分母了
- |B|=0 的退化情形
n维正态分布
特征函数
n维正态函数的特征函数 要记住
简易推导:
写成这样(方便后面求导用):
- 特征函数可以用来计算各阶矩
这里前面为什么相对于一维的特征函数求导过程多了个对ki的累加? 看看求导过程就知道了
回顾特征函数本身的性质
由一阶矩和二阶矩控制,但是可以推出高阶矩
例
边际分布的数字特征
数字特征的第一个和第三个肯定不必说,第二的推导如下:
均值为0的随机变量的数字特征
会发现其实是一样的,就是任意两个的协方差的随机组合
性质
边缘分布
边缘分布 很容易由联合分布得到 ,也是正态分布
独立等价于不相关
两两变量之间相互独立
- 很重要又特殊的一个性质
所以如果其协方差矩阵是个主对角矩阵,就说明各分量之间相互独立
- 证明如下:
独立 —》 不相关
不相关( 相关系数为0,协方差阵为对角阵 ) --》 独立
延伸 子向量之间相互独立
可以把 (ξ1,ξ2,ξ3, … ,ξn)拆成两个(甚至多个)独立的高斯联合分布 – (ξ1,ξ2, … ,ξk)与(ξk+1,ξk+2, … ,ξn)
线性变换不变性
下面的是个简单的证明
这个在用于证明多维正态分布的时候是个经常用到的性质
- 实际上均值和方差的这个性质 对于任意函数都是适用的,不仅仅适用于正态分布
线性组合 —— 一维正态分布和多维正态分布之间的关联
- 概念区分 :aTξ是线性变换,Aξ是线性组合 [个人理解: 前者是针对每一个元素 后者是针对每一个随机向量]
- 注意 这里是必须得满足是任意一个线性组合
- 意义(应用场景) 多维转化为一维更好研究
- 证明 【 思路 : 证明是xx分布,立马想到特征函数证明法
- 这一步还顺便证出来了新的高斯变量的均值和方差
- 这里之所以可以把
这两个看作是等价的,是因为 任意 a ,表明a向量是个变量
【看到这里】
- 这个性质证明结束以后,也可以通过这个性质证高斯分布啦~~ 别的分布的话,还是考虑特征函数(一般是利用那个多个同分布函数相加,其特征函数是单个的特征函数的累加的幸好之)
这里其实利用了的一个性质就是:线性变换后的随机变量的均值和方差就是分别乘上变换阵的一次和两次(第二个方框)
补充
- 正定对称阵 H=Q ^ QT ,其中QQT=QTQ=1,即Q为正交阵