似然估计

最新推荐文章于 2024-03-31 08:07:24 发布

原创最新推荐文章于 2024-03-31 08:07:24 发布 · 850 阅读

1 ·

CC 4.0 BY-SA版权

文章标签：

#机器学习

本文介绍了似然估计的基本概念，包括其前提条件、适用场景及实现过程。通过将所有样本的概率密度函数相乘得到似然函数，并将其最大化来估计未知参数。文中还详细讨论了极大似然估计的重要性质——渐进无偏性和渐进一致性。

似然估计和大多数估计一样利用样本来估计总体，前提条件是所有的样本独立同分布，适用于总体的分布模型已知，模型中的参数未知，我们获得一组样本，根据分布模型，可以知道每个样本的概率密度，将所有的概率密度函数链式相乘，得到似然函数，似然函数表示得到这一组样本的概率函数，将似然函数最大化，就可以获得估计参数，极大似然估计有两个非常重要的性质：渐进无偏和渐进一致性，渐进一致性表示估计量的偏差会随着样本数目的增多而减少，渐进无偏是指估计值本身就是一个随机变量，当样本数目足够多，估计值的均值等于参数真实值。