李宏毅【2021/2022春机器学习课程】P5-P17

多维正态分布中,均值定位分布中心,协方差矩阵描述变量间的关系。协方差矩阵对角线元素为各变量方差,非对角线元素表示变量间的线性相关性。通过极大似然估计找到最佳拟合数据集的高斯分布参数,而贝叶斯方法可推导出sigmoid函数,损失函数常采用交叉熵。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

多维正态分布
在这里插入图片描述

均值决定中心位置, covariance matrix协方差矩阵表示分布范围,当有多个随机变量 时,可以使用协方差矩阵来衡量这些随机变量两两之间的相似程度
在这里插入图片描述
协方差矩阵:
是一个对称矩阵,决定了二维高斯分布的形状;
协方差矩阵的对角线元素为x和y轴的方差;
反斜对角线上的两个值为协方差,表明x和y的线性相关程度,正值时:x增大,y也随之增大;负值时:x增大,y随之减小。

在这里插入图片描述
极大似然估计函数,把样本中的概率全部通过高斯函数计算出×起来,对u,协方差矩阵求导,求出极值,这个u,协方差矩阵就是最拟合这个数据集的高斯分布
在这里插入图片描述
用同一个协方差矩阵效果更好
在这里插入图片描述
贝叶斯函数可以推出来sigmoid函数,损失函数就是交叉熵
在这里插入图片描述在这里插入图片描述

在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值