最大似然估计（like-hood）

最新推荐文章于 2024-05-01 18:25:48 发布

原创

最新推荐文章于 2024-05-01 18:25:48 发布 · 6.6k 阅读

·

0

·

CC 4.0 BY-SA版权

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

最大似然估计是一种估计参数的方法，通过最大化样本数据出现的概率来估计未知参数。本文介绍了最大似然估计的概念、性质和在离散分布及连续分布中的应用，并通过抛硬币和正态分布的例子进行详细解释。

最大似然估计的原理

给定一个概率分布 $D$ ，假定其概率密度函数（连续分布）或概率聚集函数（离散分布）为 $f_D$ ，以及一个分布参数 $\theta$ ，我们可以从这个分布中抽出一个具有 $n$ 个值的采样 $X_1, X_2,\ldots, X_n$ ，通过利用 $f_D$ ，我们就能计算出其概率：

$\mathbb{P}(x_1,x_2,\dots,x_n) = f_D(x_1,\dots,x_n \mid \theta)$

但是，我们可能不知道 $\theta$ 的值，尽管我们知道这些采样数据来自于分布 $D$ 。那么我们如何才能估计出 $\theta$ 呢？一个自然的想法是从这个分布中抽出一个具有 $n$ 个值的采样 $X_1, X_2, ..., X_n$ ，然后用这些采样数据来估计 $\theta$ .

一旦我们获得 $X_1, X_2,\ldots, X_n$ ，我们就能从中找到一个关于 $\theta$ 的估计。最大似然估计会寻找关于 $\theta$ 的最可能的值（即，在所有可能的 $\theta$ 取值中，寻找一个值使这个采样的“可能性”最大化）。这种方法正好同一些其他的估计方法不同，如 $\theta$ 的非偏估计，非偏估计未必会输出一个最可能的值，而是会输出一个既不高估也不低估的 $\theta$ 值。

要在数学上实现最大似然估计法，我们首先要定义似然函数:

$\mbox{lik}(\theta) = f_D(x_1,\dots,x_n \mid \theta)$

并且在 $\theta$ 的所有取值上，使这个函数最大化。这个使可能性最大的 $\widehat{\theta}$ 值即被称为

最低0.47元/天解锁文章

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。