极大似然估计的思想是什么

极大似然估计

思想

最大概率， 看上去是这样，估计就是这样
总结：极大似然估计就是在只有概率的情况下，忽略低概率事件直接将高概率事件认为是真实事件的思想。

例1、离散的小球问题：
箱子里有一定数量的小球，每次随机拿取一个小球，查看颜色以后放回，已知拿到白球的概率p为0.7或者0.3，拿了三次，都不是白球，想要求拿到白球的概率的极大似然估计。

分析：此处从数学上来讲，想要准确的求出拿到白球的概率是不可能的，所以此处求的是概率的极大似然估计。而这里的有放回的拿取，是高中数学中经典的独立重复事件，可以很简单的分别求出白球概率为0.7和0.3的时候拿三次都不是白球的概率。

解：
若拿到白球的概率为0.7，拿三次都不是白球的概率为：
P_0.7=0.30.30.3=0.027
若拿到白球的概率为0.3，拿三次都不是白球的概率为：
P_0.3=0.70.70.7=0.343

P_0.3>P_0.7，可知当前情况下白球概率为0.3的概率大于白球概率为0.7
综上所述：
拿到白球的概率的极大似然估计为0.3

总结

通过极大似然估计的思想、离散形式、连续形式的分析，可以得出极大似然估计的通常解法，总体来说分为以下几步：
1、得到所要求的极大似然估计的概率p的范围
2、以p为自变量，推导出当前已知事件的概率函数式Q§
3、求出能使得Q§最大的p
这样便求出了极大似然估计值p。
就是已知数据求参数的方法。

最大似然估计是求参数θ, 使似然函数P(x0|θ)最大。（θ看为固定的）
最大后验概率估计则是想求θ使P(x0|θ)P(θ)最大。求得的θ不单单让似然函数大，θ自己出现的先验概率也得大。（θ 的概率不是固定的)