EM算法--三硬币模型的Q函数推导

最新推荐文章于 2025-07-15 10:24:42 发布

原创最新推荐文章于 2025-07-15 10:24:42 发布 · 896 阅读

·

1

·

CC 4.0 BY-SA版权

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

统计学习方法同时被 3 个专栏收录

2 篇文章

订阅专栏

1 篇文章

订阅专栏

三硬币模型

1 篇文章

订阅专栏

本文深入探讨了利用EM算法解决硬币掷出问题的过程。通过观测数据（硬币正反面出现的概率）与隐藏数据（选择硬币B或C的条件概率），构建了完全数据的对数似然函数。进一步介绍了如何通过Q函数实现E步的期望计算，为后续M步的参数优化奠定了基础。

观测数据 $y_i$ 为看到掷出来的硬币正反，正面为1，反面为0

隐藏数据 $z_i$ 为A硬币掷出来的正反，正面选择硬币B为1，反面选择硬币C为0

完全数据为 $(y_i,z_i)$ ,因此可得

$P(y_i,z_i|\theta )={(\pi p^{y_i} (1-p)^{1-y_i}) }^{z_i}{((1-\pi) q^{y_i} (1-q)^{1-y_i}) }^{1-z_i}$

完全数据的对数似然函数为

$logP(y_i,z_i|\theta )=\sum_{i=0}^{n}{z_i log{(\pi p^{y_i} (1-p)^{1-y_i}) }+(1-z_i)log{((1-\pi) q^{y_i} (1-q)^{1-y_i}) }}$

Q函数为

$Q(\theta ,\theta ^{(i)})=E_z[log P(Y,Z|\theta )|Y,\theta ^{(i)}]$

$=\sum_{i=0}^{n}{E(z_i )log{(\pi p^{y_i} (1-p)^{1-y_i}) }+(1-E(z_i))log{((1-\pi) q^{y_i} (1-q)^{1-y_i}) }}$

其中 $E(z_i)$ 等于李航大佬《统计学习方法》中公式（9.5），E步到此结束，M求导和迭代，不在赘述

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。