Andrew Ng机器学习课程14

本文探讨了在数据量有限的情况下,如何使用EM算法对混合高斯模型进行建模,并解决了因数据不足导致的协方差矩阵奇异问题。提出了通过限制协方差矩阵的方法来规避这一问题,进而引入了因子分析(factor analysis)的概念,这是一种不依赖全协方差矩阵但仍能建模数据间相关性的方法。

Andrew Ng机器学习课程14


声明:引用请注明出处http://blog.youkuaiyun.com/lg1259156776/


引言:主要介绍了当数据量不足,利用EM算法对混合高斯模型进行建模时数据量比较少时,得到的协方差矩阵是一个奇异矩阵,即行列式为0,也就是协方差矩阵的逆矩阵是不存在的,所以也就无法使用混合高斯进行建模。需要对 协方差矩阵进行限制,比如对角阵或者是单位矩阵等。这样限制之后实际上是认为不同维的数据之间没有相关性,因此不能把握数据不同维之间的相关性。而本文介绍的factor analysis是采用EM思想,不依赖全协方差矩阵,同时又能对相关性进行建模。


这里写图片描述
这里写图片描述
这里写图片描述
这里写图片描述
这里写图片描述


2015-10-7 艺少

转载于:https://www.cnblogs.com/huty/p/8519056.html

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值