极大似然估计与EM算法-----机器学习

本文介绍了极大似然估计的概念,通过扔硬币的例子说明其原理,然后探讨了如何进行最大似然估计。接着,文章以学生身高为例,解释了EM算法的直观理解,包括其期望最大化步骤,以及在处理混合分布问题时的作用。EM算法广泛应用于GMM、k-Means和HMM等模型。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

极大似然估计

极大似然估计是概率论与数理统计中的内容,个人对极大似然估计的印象是根据样本求参数,求样本符合哪种参数假设,所以极大似然估计是要假设数据的总体分布,要不然我们估计的到底是什么分布函数的参数呢。我们接下来举例子,用尽量通俗易懂的方式来理解。

例子1:我们用扔硬币的方式来理解极大似然估计,一般来说,一枚硬币的两面“花”和“字”出现的次数都是相等的。现在我们做实验,我们扔了100次硬币,100次的结果全部是“花”,这个时候,我们就开始怀疑,是不是“花”出现的概率更大呢??如此我们用扔硬币的结果来推测出现“花”或者“字”的概率参数这就是似然估计。那么如果我们一开始去计算扔10次硬币出现6次“花”的概率是多大?很明显概率是C_{10}^6(0.5)^6(1-0.5)^4,这个大家都会算,这就是概率。这样看来,似然估计是根据我当前最后结果的概率来估计其中的参数,而概率是我们知道参数(这里就是硬币本身“花”和“字”的出现的情况)来计算出来的,正好是两个相反的过程。那么我们知道了什么是似然。那么我们如何进行最大似然估计呢???

还是这个抛硬币的例子,最大似然估计就是我们在最大化实验结果概率的情况下,在计算出硬币的参数。扔10次硬币出现6次“花”,假设硬币的参数为

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值