极大似然估计通俗的理解

最新推荐文章于 2025-04-17 21:30:28 发布
原创 最新推荐文章于 2025-04-17 21:30:28 发布 · 565 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文通过抛硬币实验形象地介绍了极大似然估计的基本原理。假设进行了100次抛硬币实验，得到59次正面、40次反面及1次竖立的结果，据此推算硬币各面出现的概率。

我不会罗列公式，用自己所理解的方法说一下什么事极大似然估计（不喜随便喷，反正我也不生气）

极大似然估计：举一个被举烂了的形象又生动的例子-抛硬币。

假设我抛了100次硬币，结果有59次正面向上，40次反面向上，还有1次竖直向上(就是这么巧，你说气不气)。那按照极大似然估计的说法，我们就会认为硬币正面朝上的概率为59/100,反面朝上的概率为40/100,竖直向上的概率为1/100。而大家都知道正常硬币正反面朝上的概率都为1/2。这就是极大似然估计的特点，用样本去估计参数。


透彻理解机器学习中极大似然估计MLE的原理（附3D可视化代码)
捡起一束光的博客
12-27 3922
在机器学习中，我们经常会遇到极大似然估计(Maximum Likelihood Estimation, MLE)，本文将带你好好理解这个概念。极大似然估计的依据：概率最大的事件最有可能发生，或者说真实发生的事情总是概率最大的...
极大似然估计 似然（likelihood）和概率（probability） 通俗地理解概率论
guo97的博客
09-11 2302
前言 最大似然估计说的就是，如果事情发生了，那必然是概率最大的。 一般来说，我们都觉得硬币是公平的，也就是“花”和“字”出现的概率是差不多的。如果我扔了100次硬币，100次出现的都是“花”。在这样的事实下，我觉得似乎硬币的参数不是公平的。你硬要说是公平的，那就是侮辱我的智商。这种通过事实，反过来猜测硬币的情况，就是似然。而且，我觉得最有可能的硬币的情况是，两面都是“花”：通过事实，推断出最有可能的硬币情况，就是最大似然估计。 1 概率vs似然 1.1 概率 已知硬币的参数，就可以去推测抛硬币的各种情况的
掷硬币的概率极大似然估计.docx
11-13
用极大似然估计方法估计掷硬币的概率，word版的估计过程，涉及公式，完整版的推导
如何通俗的理解极大似然估计
weixin_33961829的博客
04-16 165
我昨天晚上买了一罐八宝粥 在里面找了半天桂圆 一般一罐八宝粥是有一颗桂圆的 我们现在可以通过数这一罐八宝粥中的各种原料的颗数 来推测 厂家在生产的时候的 原料的配比 这里的理论依据是就是极大似然估计 似然 是 像这个样子的意思 极大似然估计，通俗理解来说，就是利用已知的样本结果信息，反推最具有可能（最大概率）导致这些样本结果（我手中的八宝粥）出现的模型参数值（厂家原料配比）！ 换句话说，极大似...
干货 | 一文搞懂极大似然估计
AI科技大本营
12-03 1246
极大似然估计，通俗理解来说，就是在假定整体模型分布已知，利用已知的样本结果信息，反推最具有可能（最大概率）导致这些样本结果出现的模型参数值！ 换句话说，极大似然估计提供了一种给定观察数据来评估模型参数的方法，即：“模型已定，参数未知”。 可能有小伙伴就要说了，还是有点抽象呀。我们这样想，一当模型满足某个分布，它的参数值我通过极大似然估计法求出来的话。比如正态分布中公式如
如何通俗地理解“最大似然估计法”?
moonlightpeng的博客
06-21 852
如何通俗地理解“最大似然估计法”?
最大似然估计（通俗讲解）
m0_70832728的博客
05-01 1万+
最大似然估计是找到最适合这个数据的分布DDD的参数θ\thetaθ（即在所有可能的θ\thetaθ取值中，寻找一个值使这个采样的“可能性”最大化）。从数学上来说，可以在θ\thetaθ的所有可能取值中寻找一个值使得似然函数取到最大值。而这个可能性最大的θθ值即为θ\thetaθ的最大似然估计。最大似然估计实际上是样本的函数。笔者能力有限，遂分享自此，倘若大佬发现错误，敬请批评指正；倘若大佬有更加通俗易懂的理解方式，欢迎交流😁！
矩估计与最大似然估计的通俗理解
Smilecoc的博客
07-24 2053
通俗易懂的理解矩估计和最大似然估计
超级通俗讲解极大似然估计，并推导LR的交叉熵函数。
long0_o的博客
04-17 659
通俗讲解似然、似然函数、极大似然估计、并推导逻辑回归中的交叉熵损失函数
通俗理解“极大似然估计”
ypciehnnu的博客
12-09 1377
极大似然估计的直观理解 先来看看维基百科关于“似然函数”的定义： 在数理统计学中，似然函数是一种关于统计模型中的参数的函数，表示模型参数中的似然性。似然函数在统计推断中有重大作用，如在最大似然估计和费雪信息之中的应用等等。 “似然性”与“或然性”或“概率”意思相近，都是指某种事件发生的可能性，但是在统计学中，“似然性”和“概率”（或然性）又有明确的区分： 概率，用于在已知一些参数的情況下，预测接下来在观测上所得到的结果； 似然性，则是用于在已知某些观测所得到的结果时，对有关事物之性质的参数进行估值
对极大似然估计的理解
徐奕的专栏
04-06 688
参数估计（parameter estimation） 统计推断的一种。根据从总体中抽取的随机样本来估计总体分布中未知参数的过程。从估计形式看，区分为点估计与区间估计：从构造估计量的方法讲，有矩法估计、最小二乘估计、似然估计、贝叶斯估计等。 参数估计的目的 利用样本的已知信息，反推样本的具体环境，即反推参数值。 举例来说，一堆离散的样本点，需要拟合，拟合出的函数的w系数，即是反推的参数值。 这点便是...
极大似然估计的理解
lilong117194的博客
10-13 2619
先大概讲下：极大似然估计提供了一种给定观察数据来评估模型参数的方法，即：“模型已定，参数未知”。简单而言，假设我们要统计全国人口的身高，首先假设这个身高服从服从正态分布，但是该分布的均值与方差未知。我们没有人力与物力去统计全国每个人的身高，但是可以通过采样，获取部分人的身高，然后通过极大似然估计来获取上述假设中的正态分布的均值与方差。 极大似然估计中采样需满足一个很重要的假设，就是所有的采样都是独
最大似然估计理解
nl的博客
11-17 1471
：Maximum Likelihood Estimation，简称MLE； 要理解此概念首先要看下什么叫贝叶斯公式，如下： P(θ|D)=P(D|θ)P(θ)P(D)P(\theta |D)=\frac{P(D|\theta )P(\theta )}{P(D)} 我们把D看作是样本，θ\theta看作是这个样本所服从分布的参数，那么上式左侧P(θ|D)P(\theta |D)可理解
最大似然估计的通俗理解（2013.9.29）
life of coding
04-11 5218
最大似然法（the method of maximum likelihood）也称极大似然法，它最早是由高斯所提出的,后来由英国统计学家费歇于1912年在其一篇文章中重新提出,并且证明了这个方法的一些性质.最大似然估计这一名称也是费歇给的.它是建立在最大似然原理的基础上的一个统计方法.为了对最大似然原理有一个直观的认识,我们先来看一个例子.  例 设有外形完全相同的两个箱子,甲箱有99个白球1个
极大似然估计的通俗理解
qq_34289112的博客
10-14 2160
中华文化博大精深源远流长，对一些概念的名词定义也是具有很大的概括性呢。 极大：大的不能再大，也就是最大喽 似然：似，相似，类似，像；然，这样。类似这样，像这样。 所以，极大似然估计的字面意思理解就是，像这样最大程度的估计。 正常人：像哪样呢？ 博主：像这样啊。 正常人：到底像哪样啊？ 博主：就是像这样啊 …… 你懂得。就是一些玄学问题，你也不能说出个所以然。举个例子，一个学校有1...
极大似然估计
netcaoniao的专栏
07-10 259
如何理解似然函数？？？
H002399的专栏
06-28 2579
几点疑问： 1.什么是似然函数？？？ 2.似然函数与分布律是什么关系？？？ 3.似然函数的作用是什么？？？ 4. 同时，我也先这样理解似然函数： 即：似然函数就是： （1）似然函数是关于未知参数的函数表达式。 （2）似然函数是某一样本取值发生的概率。 对于这句话的理解： 如果当。。。使L()取得很大值，而范围内的其他司格马的值使L（司格马）取得很小值，我
如何通俗地理解概率论中的「极大似然估计法」?
热门推荐
浮点型队友
06-08 1万+
我们假设硬币有两面，一面是“花”，一面是“字”。 一般来说，我们都觉得硬币是公平的，也就是“花”和“字”出现的概率是差不多的。 如果我扔了100次硬币，100次出现的都是“花”。 在这样的事实下，我觉得似乎硬币的参数不正常。极有可能两面都是“花”！ 这种通过事实，反过来猜测硬币的情况，就是似然。 通过事实，推断出最有可能的硬币情况，就是最大似然估计。 1 概率vs似然 让我们先来比较下概率和似然...
一文搞懂极大似然估计
luckgl的博客
12-03 1157
文章转载： 一文搞懂极大似然估计 极大似然估计，通俗理解来说，就是利用已知的样本结果信息，反推最具有可能（最大概率）导致这些样本结果出现的模型参数值！ 换句话说，极大似然估计提供了一种给定观察数据来评估模型参数的方法，即：“模型已定，参数未知”。 可能有小伙伴就要说了，还是有点抽象呀。我们这样想，一当模型满足某个分布，它的参数值我通过极大似然估计法求出来的话。比如正态分布中公式如下： 如果我通过极大似然估计，得到模型中参数[公式]和[公式]的值，那么这个模型的均值和方差以及其它所有的信息我们是不是就知道了
什么是似然
最新发布
09-27
<think>嗯，用户突然从生成式模型的话题转向了似然的定义，看来是对基础概念有了探究需求。回顾对话历史，我之前在生成式模型的介绍中提到过似然函数，用户可能想深入理解这个核心概念。 用户给出的三个引用材料很有价值：第一个是面向非数学专业的通俗解释，第二个强调“证据已发生”的朴素观念，第三个展示了经验似然的数学形式。需要把这些材料融合成连贯的解释，同时保持数学严谨性。 用户似乎需要的是概念澄清而非复杂推导，所以我会避免深入EM算法或经验似然细节。重点应该讲清楚： 1 概率和似然的根本区别（固定分布 vs 固定数据） 2 似然函数的构造逻辑 3 为什么取对数能简化运算 考虑到用户之前接触过生成式模型，可以适当关联：比如指出VAE的ELBO目标本质上就是对数似然的变分下界。不过当前问题聚焦基础定义，这类拓展点到为止即可。 数学表达要严格遵循格式要求：概率质量函数用$X=x$的条件形式，连续情形用概率密度符号$f$，对数似然用$\ell(\theta)$标注。特别要注意引用标注的位置——必须在每个关键论点后自然附加，比如说明“固定数据”特性时引用[^1]，提到参数无关性时引用[^2]。 最后生成的提问要引导用户深化理解：既包含概念辨析（似然概率区别），也涉及实用场景（MLE计算），还暗示了后续学习方向（多参数情形）。这些问题都能在现有解释中找到线索，形成知识闭环。 </think>似然（Likelihood）是统计学中的核心概念，用于描述在给定观测数据下，模型参数的合理性程度。其数学定义与性质如下： ### **似然的定义** 设观测数据集为 $\mathbf{X} = \{x_1, x_2, \ldots, x_n\}$，模型参数为 $\theta$，则： - **离散型随机变量**：似然函数定义为数据出现的联合概率： $$L(\theta \mid \mathbf{X}) = P(\mathbf{X} \mid \theta) = \prod_{i=1}^n P(x_i \mid \theta)$$ - **连续型随机变量**：似然函数定义为联合概率密度函数： $$L(\theta \mid \mathbf{X}) = f(\mathbf{X} \mid \theta) = \prod_{i=1}^n f(x_i \mid \theta)$$ ### **关键特性** 1. **数据固定，参数可变**： 似然强调“已知数据 $\mathbf{X}$ 已发生”，通过调整 $\theta$ 最大化观测数据的出现概率[^1][^2]。这与**概率**相反（概率固定参数，预测数据）。 2. **参数无关性**： 似然值仅用于比较不同 $\theta$ 的相对合理性，其绝对值无意义[^1]。例如，$L(\theta_1 \mid \mathbf{X}) > L(\theta_2 \mid \mathbf{X})$ 表明 $\theta_1$ 比 $\theta_2$ 更合理。 3. **对数似然（Log-Likelihood）**： 为简化计算，常取对数形式（因乘积转为求和）： $$\ell(\theta \mid \mathbf{X}) = \log L(\theta \mid \mathbf{X}) = \sum_{i=1}^n \log f(x_i \mid \theta)$$ 对数函数单调性保证极值点不变[^1]。 ### **与极大似然估计（MLE）的关系** - **核心思想**：选择使似然函数最大化的参数 $\hat{\theta}$，即： $$\hat{\theta}_{\text{MLE}} = \arg\max_{\theta} L(\theta \mid \mathbf{X})$$ 直观理解为“已发生的事件最可能在概率最大时出现”[^1][^2]。 - **示例**：抛硬币实验 观测到3次正面（$H$）、2次反面（$T$），似然函数为： $$L(p \mid \mathbf{X}) = p^3 (1-p)^2$$ 最大化 $L(p)$ 得 $\hat{p}_{\text{MLE}} = 0.6$（即正面概率估计值）。 ### **与其他概念的对比** | **概念** | **定义** | **目标** | |----------------|------------------------------|-----------------------| | **似然** | $L(\theta \mid \mathbf{X})$ | 评估参数合理性 | | **概率** | $P(\mathbf{X} \mid \theta)$ | 预测数据的可能性 | | **边缘似然** | $P(\mathbf{X}) = \int P(\mathbf{X} \mid \theta) P(\theta) d\theta$ | 模型证据（含隐变量）[^2] | ### **应用场景** - **参数估计**：MLE 是生成式模型（如高斯混合模型）训练的基础[^1]。 - **假设检验**：似然比检验（Likelihood Ratio Test）比较模型优劣。 - **经验似然**：非参数方法中，通过样本权重优化似然函数[^3]。 --- ### **相关问题** 1. 似然函数与概率密度函数在数学形式相同，为何解释不同？ 2. 极大似然估计为何通常采用对数似然而非原始似然？ 3. 当模型存在隐变量时，如何扩展似然函数（如EM算法）？ 4. 经验似然法（如引用[3]）如何解决传统参数模型的局限性？ [^1]: 似然函数固定数据、调整参数，反映参数合理性[^1]。 [^2]: 极大似然估计基于“已发生事件最可能由高概率参数产生”的朴素观念[^2]。 [^3]: 经验似然通过样本权重约束优化非参数推断[^3]。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值