EM算法(期望最大值算法)

本文介绍了EM算法用于估计混合高斯模型(GMM)参数的过程。通过身高问题和硬币问题两个实例,详细解释了E-Step(计算样本属于各分布的概率)和M-Step(根据概率更新参数)的迭代过程,直至参数收敛。

一、问题提出: 身高问题

假如我们现在手头上有200个学生的身高合集,其中有男生和女生,而且男生、女生分别服从不同的高斯分布。如果把这个数据集的概率密度画出来,大致可能像这样:

提出问题: 求解这两种身高的概率分布参数。

这个图形所对应的便是混合高斯模型(GMM)概率分布函数,表示其由两个高斯模型混合而成。即:

\large P(x_i;\theta)=\sum_{i=1}^{k}\alpha_k\Phi(x;\theta_k)

其中,\large \Phi(x;\theta_k)是第k个分高斯模型的概率密度函数,其可以定义如下:

\large \theta_k=(\mu_k,\sigma_k^2)

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值