斯坦福大学公开课 ：机器学习课程（Andrew Ng）——10、无监督学习：Mixture of Gaussians and the EM Algorithm

最新推荐文章于 2025-08-24 18:53:56 发布
原创 最新推荐文章于 2025-08-24 18:53:56 发布 · 2k 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文深入探讨了使用期望最大化算法（EM）进行密度估计的过程，特别是混合高斯模型的应用。通过问题定义、混合高斯模型构建及EM算法的详细解释，文章揭示了如何将EM算法应用于混合高斯模型以实现参数估计。此外，通过对比与K-means的不同之处，阐述了EM算法在处理隐含随机变量方面的优势。
部署运行你感兴趣的模型镜像

1）问题定义

2）混合高斯模型

3）EM算法



这篇讨论使用期望最大化算法（Expectation-Maximization）来进行密度估计（density estimation）【即混合高斯模型中的隐含随机变量clip_image016[3]=j的概率clip_image045】。

1）问题定义

    与k-means一样，给定的训练样本是clip_image002，我们将隐含类别标签用clip_image004表示。与k-means的硬指定不同，我们首先认为clip_image004[1]是满足一定的概率分布的，这里我们认为满足多项式分布，clip_image006，其中clip_image008，clip_image004[2]有k个值{1,…,k}可以选取。而且我们认为在给定

您可能感兴趣的与本文相关的镜像

Qwen-Image-Edit-2509

Qwen-Image-Edit-2509

图片编辑
Qwen

Qwen-Image-Edit-2509 是阿里巴巴通义千问团队于2025年9月发布的最新图像编辑AI模型，主要支持多图编辑，包括“人物+人物”、“人物+商品”等组合玩法

最低0.47元/天 解锁文章
斯坦福大学公开课机器学习课程（Andrew Ng）九经验风险最小化
一路前行
08-22 3380
课程概述： 1.偏差/方差（Bias/variance） 2.经验风险最小化（Empirical Risk Minization，ERM） 3.联合界引理与Hoeffding不等式 4.一致收敛（Uniform Convergence） 一、偏差/方差   偏差与方差对应的仍然是过拟合与欠拟合的问题，本篇主要解决的问题就在于构建一个模型，对何时出现过拟合和欠拟合进行说明
机器学习笔记——11 混合高斯模型(Mixtures of Gaussian)：利用EM算法估计参数
ZJC_BELIEF的博客
07-19 642
机器学习笔记——11 混合高斯模型(Mixtures of Gaussian)：利用EM算法估计参数
斯坦福大学公开课 《机器学习课程》带中英字幕下载链接
04-26
斯坦福大学公开课 《机器学习课程》带中英字幕下载链接
斯坦福大学公开课机器学习课程（Andrew Ng）十特征选择
一路前行
08-26 1655
课程概述： 1.VC维 2.模型选择 3.特征选择 一、VC维   对于一个模型来说，比如 logistic模型，如果有n 个feature，那么该模型会有 d=n+1个参数。虽然理论上说d个参数的取值都有无穷多个，使得模型集合无限大。但实际上，在计算机的表达中，比如每个参数都以64位Double型表示，那么共需要 64d位来表达这个模型集合，考虑到每个位有 0、1 两种
斯坦福大学公开课 ：机器学习课程（Andrew Ng）——1、整体看一看
mmc2015的专栏
01-02 3976
============================================================================【课程综述】============================================================================ 第一课时：     机器学习的定义【 The Definition of Ma
斯坦福大学-机器学习公开课课件.rar
05-23
斯坦福大学的机器学习公开课课件 Lecture notes 1 (ps) (pdf) Supervised Learning, Discriminative Algorithms Lecture notes 2 (ps) (pdf) Generative Algorithms Lecture notes 3 (ps) (pdf) Support Vector...
【机器学习】 11 Mixture models and the EM algorithm
最新发布
weixin_44606139的博客
08-24 357
本章介绍混合模型与EM算法，主要内容包括：混合模型（高斯混合、多项混合、专家混合）及其在聚类中的应用；混合模型参数估计中的不可识别性和非凸性问题；EM算法的核心思想及其在不同模型（GMM、专家混合、有隐变量的DGM等）中的应用；隐变量模型的模型选择方法；以及缺失数据情况下的EM算法应用。本章还探讨了EM算法的理论基础、在线版本及其他变体。
【Andrew Ng】EM算法
weixin_42825609的博客
03-22 252
完整课件下载地址： http://page2.dfpan.com/fs/6lcj8221a291c6a7822/ 更多精彩文章请关注微信号：
吴恩达机器学习
05-25
吴恩达机器学习全程视频，想学习的可以来抓紧跟大师学习哟。
斯坦福大学的机器学习课程，浓缩成6张速查表
R语言中文社区
06-04 875
一位斯坦福的毕业生Shervine Amidi为大家总结整理了关于CS229课程的6张知识点速查表，让我们一起来看一下！1、监督式学习2、非监督式学习3、深度学习4、技巧...
【斯坦福公开课-机器学习】1.机器学习的动机和应用（吴恩达 Andrew Ng）
Wu_Being 的优快云 博客
05-19 1060
0三个目标 0先修课程要求 基本工具 基本资源 1-网址 2-邮箱 3-本系列课程链接 1机器学习的定义 1-1非正式定义 1-2正式的定义 2监督学习Supervised Learning 2-1回归问题连续拟合线预测房子价格 2-2分类问题离散数据恶性和良性肿瘤 3无监督学习Unsupervised Learing 4强化学习Reinforcement Learning 其他更
Andrew Ng机器学习课程笔记（十三）之无监督学习之EM算法
danerer的专栏
05-11 1721
Preface Jensen’s Inequality Expectation-Maximization Algorithm Preface Jensen’s Inequality（Jensen不等式） Expectation-Maximization Algorithm（EM算法） Jensen’s Inequality Expectation-Maximizati...
机器学习 cs229学习笔记3 (EM alogrithm,Mixture of Gaussians revisited & Factor analysis )
DarkScope从这里开始
11-19 8124
(all is based on the stanford's open-course cs229 lecture 13) 接上次笔记 机器学习 cs229学习笔记2 (k-means,EM & Mixture of Gaussians) 如何确定EM算法converge呢？ 当然是比较前后两次迭代的似然函数的大小，如果相差极小，则可以证明算法已经converge了 假设一次迭代开始时的参
吴恩达机器学习（一）—— 简介
大彤小忆的博客
05-10 2911
机器学习(Machine Learning)是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科，专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。它是人工智能的核心，是使计算机具有智能的根本途径。 例如，让机器人整齐有序的打扫房子，怎样去实现？ 我们要做的是让机器人观察我们完成任务的过程，从而从中学习。 人工智能、机器学习、深度学习、神经网络之间的关系： 人工智能(Artificial Intelligen..
斯坦福大学公开课 ：机器学习课程（Andrew Ng）——11、无监督学习：the derivation of EM Algorithm
mmc2015的专栏
01-06 1655
1）Convex Functions and Jensen’s inequality 2）Derivation of the EM-algorithm 1）Convex Functions and Jensen’s inequality if f is a convex function, X is r.v, then:      。 特别地，当且仅当，也就是说X是
斯坦福大学机器学习公开课讲义（下）整理合集
综上所述，《斯坦福大学公开课：机器学习——讲义（下）》不仅系统整合了监督学习、无监督学习、模型优化与评估等核心知识点，而且通过严谨的数学推导与丰富的应用场景，帮助学习者建立起完整的机器学习知识架构。...
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值