贝叶斯估计、极大似然估计

原创已于 2024-09-27 10:38:06 修改 · 368 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#机器学习 #人工智能

于 2024-09-27 10:37:43 首次发布

极大似然估计（Maximum Likelihood Estimation，MLE）和贝叶斯估计（Bayesian Estimation）是统计推断中两种最常用的参数估计方法。

对于参数估计方法，即对 参数 $\Theta$ 的估计，通过得到 $\Theta$ 即可得到模型进而预测

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

爱吃的豆

关注关注

6
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

贝叶斯公式和极大似然估计详解

南淮北安的博客

10-18

5260

文章目录一、贝叶斯决策二、极大似然估计的引出三、极大似然估计四、极大似然函数的求解一、贝叶斯决策首先来看贝叶斯分类，我们都知道经典的贝叶斯公式：我们来看一个直观的例子：已知：在夏季，某公园男性穿凉鞋的概率为1/2，女性穿凉鞋的概率为2/3，并且该公园中男女比例通常为2:1，问题：若你在公园中随机遇到一个穿凉鞋的人，请问他的性别为男性或女性的概率分别为多少？从问题看，就是上面讲的，某事发...

极大似然估计与贝叶斯估计

shiyongraow的博客

01-08

1188

序言本序言是对整体思想进行的一个概括。若没有任何了解，可以先跳过，最后回来看看；若已有了解，可以作为指导思想。 极大似然估计与贝叶斯估计是统计中两种对模型的参数确定的方法，两种参数估计方法使用不同的思想。前者来自于频率派，认为参数是固定的，我们要做的事情就是根据已经掌握的数据来估计这个参数；而后者属于贝叶斯派，认为参数也是服从某种概率分布的，已有的数据只是在这种参数的分布下产生的。所以，直观理

参与评论您还未登录，请先登录后发表或查看评论

极大似然估计和贝叶斯估计

macan的博客

09-17

773

极大似然估计和贝叶斯估计极大似然估计1、概述2、计算过程3、总结贝叶斯估计1、计算过程2、总结对比 极大似然估计 1、概述 极大似然估计有什么用？答：已知某个随机样本(x1,x2,...,xn)(x_{1},x_{2},...,x_{n})(x1,x2,...,xn)符合某种概率分布，但是其中某个具体参数θ\thetaθ不知道这时可以用极大似然估计得到θ^\widehat {\theta}...

极大似然估计、最大后验估计、贝叶斯估计

v20000727的博客

04-14

2270

本节我们介绍统计学中常用的三种参数估计方法：极大似然估计（MLE）、最大后验估计（MAP）以及贝叶斯估计.

参数估计——极大似然估计与贝叶斯估计

biu_biu_biu___的博客

08-05

1607

极大似然估计、极大验后估计与贝叶斯估计

朴素贝叶斯中的极大似然估计

fanwu72的专栏

03-31

3175

为什么要极大似然估计，朴素贝叶斯不能搞定一切吗？朴素贝叶斯需要先求得先验概率和条件概率。从直觉出发，可以用样本中出现的频率直接代替先验概率和条件概率。但事实上使用频率计算出来的值，也是极大似然估计的结果。 极大似然估计回顾 极大似然估计就是把样本的所有联合概率相乘(离散)，或所有联合概率密度相乘(连续)，对参数求偏导=0使其最大，从而解出参数的值。这里需要求的是条件概率和先验概率，因此需要想办法把这两项放到极大似然函数中作为参数。考虑到联合分布即是这两项的值，直接拆开即可..

机器学习之极大似然估计与贝叶斯估计

每天起床第一句要给自己打个气

08-28

601

一、贝叶斯定理与朴素贝叶斯 首先介绍一下贝叶斯定理，贝叶斯定理是关于随机事件A和B的条件概率的一则定理。 P(A∣B)=P(B∣A)P(A)P(B) P(A|B)=\frac{P(B|A)P(A)}{P(B)} P(A∣B)=P(B)P(B∣A)P(A) 其中P(A|B)是在B发生的情...

贝叶斯估计和极大似然估计到底有何区别

热门推荐

【AI机器学习与知识图谱】的博客

03-12

4万+

在开始接触最大似然估计和贝叶斯估计时，大家都会有个疑问：最大似然估计和贝叶斯估计二者很相似，到底有何区别？本文便来说说二者的不同之处以及推导二者使用时的数学模型！预热知识必知如何求类条件概率密度：我们知道贝叶斯决策中关键便在于知道后验概率，那么问题便集中在求解类条件概率密度！那么如何求呢？答案便是：将类条件概率密度进行参数化。最大似然估计和贝叶斯估计参数估计：鉴于类条件概率密度难求，我们将其

”极大似然估计“和”贝叶斯估计“思想对比

hello！

07-05

1306

MLE 认为参数是固定的，而贝叶斯估计认为参数是随机的。MLE 计算相对简单，而贝叶斯估计通常涉及复杂的积分计算。贝叶斯估计可以结合先验信息，而 MLE 仅依赖于数据。MLE 提供一个点估计，而贝叶斯估计提供一个参数的分布。在实际应用中，选择哪种方法取决于问题的具体情况、可用的先验信息以及计算资源的限制。

贝叶斯估计和极大似然估计

Bowen Wang的博客

10-20

1584

在开始接触最大似然估计和贝叶斯估计时，大家都会有个疑问：最大似然估计和贝叶斯估计二者很相似，到底有何区别？本文便来说说二者的不同之处以及求参模型的公式推导！预热知识必知如何求类条件概率密度：我们知道贝叶斯决策中关键便在于知道后验概率，那么问题便集中在求解类条件概率密度！那么如何求呢？答案便是：将类条件...

极大似然估计、贝叶斯估计、极大后验概率估计

大风车

10-17

1649

在概率论里，经常能听到极大似然估计和贝叶斯估计这两个词，今天打算好好理解一下。首先我问了自己两个问题。 1、‘极大似然估计’ 、‘贝叶斯估计’ 和 '极大后验概率估计'，这三个词里，都有 ‘估计‘ 两字，听起来像是用来估计某个我们不知道的未知的东西，那么是用来估计啥呢？ 2、‘极大似然’ 和 ‘贝叶斯’ 到底有什么不同呢？首先可以回答第一个问题，这两方法用来估计未知的 ‘概率分布的参数’。对于第二个问题，极大似然估计和贝叶斯估计是概率论中两大派的产物，分别是频率学派和贝叶斯学派。 ..

机器学习: 简单讲极大似然估计和贝叶斯估计、最大后验估计

JacksonKim的博客

11-30

7404

一、前言我在概率论：参数估计里面提到了极大似然估计，不熟悉的可以看一下，本文将从贝叶斯分类的角度看极大似然估计。在进行贝叶斯分类的时候，通常需要知道P(wi),P(x∣wi)P(w_i), P(x|w_i)P(wi),P(x∣wi)的值，这里wiw_iwi表示第i类。但是P(x∣wi)P(x|w_i)P(x∣wi)是未知的参数。因此我们需要对这个参数进行估计,这里有极大似然估计和贝叶斯估计两种方法。为了简化问题，我们认为P(x∣wi) N(ui,Σi)P(x | w_i) ~ N(

[机器学习] 使用极大似然估计与贝叶斯估计拟合线性基函数

好风凭借力

05-21

921

基于MLE和贝叶斯估计分别对概率模型进行拟合，附实验过程及代码。

肝硬化患者肝功能分级临床预测模型：基于机器学习的多变量分析

huanghm88的专栏

12-11

155

摘要本研究基于128例肝硬化患者的34项临床指标，采用机器学习方法构建肝功能分级预测模型。通过XGBoost、随机森林等多种算法比较，发现XGBoost模型表现最优，预测准确率达86.5%，AUC值0.89。研究确定了总胆红素、白蛋白等10个关键预测因子，为临床肝功能评估提供了新的辅助工具。该模型整合了多维临床数据，较传统Child-Pugh评分更具综合性，有助于优化肝硬化患者的个体化诊疗决策。未来需扩大样本量进行多中心验证，进一步完善模型性能。关键词：肝硬化；肝功能分级；机器学习；预测模型；XGBoo

机器学习进阶＜4＞探索数据中的物以类聚——直观理解k-均值聚类算法

2303_77568009的博客

12-09

654

这篇博客以生动的生活场景（如手机相册分类、商场客户分组）为引，深入浅出地介绍了经典的K-means聚类算法。通过“选班干部”的比喻和宠物数据集的Python可视化演示，清晰阐释了其“初始化、分配、更新、判断”四步核心流程，并展示了如何用肘部法则科学选择聚类数量。

机器学习进阶＜5＞K-means智能客户分群与可视化分析系统

2303_77568009的博客

12-09

1210

这篇博客详细介绍了基于Streamlit构建的交互式K-means聚类学习平台。该项目通过模块化设计，带领用户从数据生成、算法原理演示、最佳K值选择，到实际应用场景（如客户细分、图像颜色量化）和交互式练习，完整实践无监督学习流程。平台集成了丰富的可视化组件与即时反馈功能，特别适合机器学习初学者直观理解K-means的核心概念与实现步骤。博客还提供了完整的代码解析、运行指南及资源推荐，是一份深入浅出的实战教程。

机器学习基础（线性，逻辑回归）

lyx2870657588的博客

12-11

1041

本文介绍了两种常用的回归分析方法及其应用。线性回归部分详细讲解了模型参数、API使用方法和评估指标，通过广告投入与销售额的案例展示了模型建立、训练和预测的全过程。逻辑回归部分重点阐述了其在分类任务中的应用，包括数据预处理、模型训练和性能评估方法，以信用卡欺诈检测为例演示了分类模型的实现步骤。文章还系统介绍了混淆矩阵、精确率、召回率和F1值等模型评价指标的计算方法和适用场景，为机器学习实践提供了完整的技术参考框架。

机器学习与深度学习基础（五）：深度神经网络经典架构简介

TracyCoder的博客

12-11

414

本文学习要点：1.深度神经网络分层架构：全连接层卷积层池化层2.深度神经网络代表:CNN：CNN、AlexNet、VGG-Net、GoogLeNet（Inception）、ResNet（残差连接）编码器-解码器架构：序列到序列模型（Seq2Seq）

Conan-embedding整理

最新发布

kexin197的博客

12-11

649

本文提出了一种改进的文本嵌入模型Conan-embedding，其核心创新在于动态难负样本挖掘和跨GPU平衡损失。该方法在训练过程中实时挖掘难负样本，使模型能动态适应复杂数据分布；采用多阶段训练策略，包括预训练阶段的通识学习和微调阶段的专项训练；通过跨GPU平衡损失解决训练振荡问题，提升模型稳定性。实验表明，该方法能有效提升文本嵌入质量，尤其在检索任务中表现突出。研究还探讨了不同任务（检索与STS）在训练策略上的差异，为后续研究提供了重要参考。

贝叶斯估计 极大似然 matlab 代码

01-09

### 贝叶斯估计与极大似然估计的MATLAB实现 #### 极大似然估计 (Maximum Likelihood Estimation, MLE) 对于给定的一组数据样本 $X$ 和假设的概率分布模型，MLE 的目标是找到使得观测到这些数据的可能性最大的参数 $\theta$[^1]。 ```matlab % 生成一组服从正态分布的数据作为示例 mu_true = 5; % 真实均值 sigma_true = 2; % 真实标准差 n_samples = 100; data = normrnd(mu_true, sigma_true, [1, n_samples]); % 计算最大似然估计下的均值和方差 mu_mle = mean(data); sigma_sq_mle = var(data); disp(['MLE estimated mu: ', num2str(mu_mle)]); disp(['MLE estimated sigma squared: ', num2str(sigma_sq_mle)]); ``` 这段代码展示了如何基于已知的真实分布来模拟一些随机数，并利用 `mean` 函数计算平均值以及 `var` 来求解方差，从而得到最大似然估计的结果。 #### 贝叶斯估计 (Bayesian Estimation) 贝叶斯估计不仅考虑了观察到的数据，还加入了先验信息的影响。这里采用共轭先验的方式简化推导过程，在本案例中选择了高斯-逆伽玛分布作为先验分布[^2]。 ```matlab alpha_prior = 3; beta_prior = 4; gamma_prior = 0.5; delta_prior = 1/9; % 更新后的超参数 N = length(data); sum_x = sum(data); sum_xx = sum(data.^2); alpha_posterior = alpha_prior + N / 2; beta_posterior = beta_prior + ... ((sum_xx - 2 * mean(data)*sum_x + N*gamma_prior^2)/(2*(delta_prior^-1+N)))/2; gamma_posterior = (gamma_prior*N+sum_x)/(N+delta_prior^-1); delta_posterior = delta_prior + N; % 抽样获得后验分布中的估计量 num_samples = 1e4; tau_samples = gamrand(alpha_posterior, 1./beta_posterior, [1, num_samples]); mu_samples = normrnd(gamma_posterior, sqrt(1./(tau_samples.*(delta_posterior)))),... % 显示结果 figure(); histogram(mu_samples,'Normalization','pdf'); title('Posterior distribution of the mean parameter') xlabel('\mu'); ylabel('Density'); fprintf('Mean estimate from Bayesian approach is %.4f\n', mean(mu_samples)); fprintf('Variance estimate from Bayesian approach is %.4f\n', mean(1 ./ tau_samples)); ``` 上述脚本实现了完整的贝叶斯估计流程，包括定义先验分布、更新至后验分布并从中抽取样本以获取最终估计值。