本文对比了极大似然估计与最大后验估计两种方法，在抛硬币实验中展示了如何通过引入先验概率来修正参数估计，揭示了在数据量较少时先验概率的重要作用。
绪论
假如我们有一个任务；已知数据和模型，来推测模型的参数。解决该问题，一般有两类方法：极大似然估计与最大后验估计，关于极大似然估计，可以看我这篇博客：机器学习系列之极大似然估计（MLE）。
例子
我们还是拿抛硬币来举例，假如现在有一个不规则的硬币，我们实验抛了10次，结果10次全部是正面。我们记硬币朝上的概率为 θ \theta θ 。如果按照极大似然估计的方法来求解，似然函数为：
L ( θ ) = C 10 10 θ 10 ( 1 − θ ) 0 L(\theta) = C_{10}^{10}{\theta}^{10}(1-\theta)^0 L(θ)=C1010θ10(1−θ)0
最大该似然函数：
θ M L E = a r g max L ( θ ) = 1 \theta_{MLE} = arg\max L(\theta) = 1 θMLE=argmaxL(θ)
最低0.47元/天 解锁文章
扫一扫
2286
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
