MLE、MAP、贝叶斯估计

最新推荐文章于 2024-12-01 20:38:22 发布

转载最新推荐文章于 2024-12-01 20:38:22 发布 · 326 阅读

1 ·

CC 4.0 BY-SA版权

原文链接：https://zhuanlan.zhihu.com/p/72370235

机器学习总结专栏收录该内容

1 篇文章

订阅专栏

本文对比了最大似然估计(MLE)、最大后验概率(MAP)和贝叶斯估计的区别，指出MLE不考虑先验，而MAP和贝叶斯估计则考虑；MLE、MAP为点估计，贝叶斯估计则通过观测数据估计后验分布；在样本无限多时，MAP会逼近MLE；贝叶斯估计通常复杂度大，需用MCMC等近似算法。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

转自知乎一篇优秀文章

总结：
1.MLE不考虑先验（prior)，MAP和贝叶斯估计则考虑先验（prior）；
2.MLE、MAP是选择相对最好的一个模型（point estimation），贝叶斯方法则是通过观测数据来估计后验分布(posterior distribution)，并通过后验分布做群体决策，所以后者的目标并不是在去选择某一个最好的模型；
3.当样本个数无穷多的时候，MAP理论上会逼近MLE；
4.贝叶斯估计复杂度大，通常用MCMC等近似算法来近似