Gaussian Discriminant Analysis model 第一个生成学习算法模型

最新推荐文章于 2023-02-08 17:40:59 发布
最新推荐文章于 2023-02-08 17:40:59 发布
阅读量632 收藏
点赞数
CC 4.0 BY-SA版权
分类专栏： Machine Learning基础理论 文章标签： 人工智能 吴恩达 机器学习 斯坦福
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_35083093/article/details/75200783
本文介绍了Gaussian Discriminant Analysis（GDA）模型，这是一个生成学习算法，用于解决二分类问题。GDA假设数据在每个类别内服从多维正态分布，并通过最大化似然函数求解参数。算法结果类似于线性回归，得到的决策边界为直线。GDA与logistic回归有联系，当数据满足高斯分布假设时，GDA表现可能优于logistic，并且在某些情况下是渐近有效的。然而，logistic回归的假设更弱，适应性更强。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

这是课程讲到的第一个生成学习算法，它将对p(x|y)建模。

它要解决分类问题，此例中y只取0或1，x取连续量。

对此模型的定义：

y显然是伯努利分布，这里我们假设了x服从多维正态分布。

具体展开上面的概率分布：


我们依然用最大化拟然函数的方法得到各参数的最优值：（与前面稍有不同，前面我们用p(y|x)来得出拟然函数，但这里我们为了简化计算，采用p(x,y)得出，事实上，两者同时取最值。）

最低0.47元/天 解锁文章

200万优质内容无限畅学
高斯判别分析模型The Gaussian Discriminant Analysis model
Call Me Hi Johnny~~
05-07 2946
高斯判别模型，内容其实非常简单 对于大多数模型，无非就是做这么几件事情 1.假设模型 2.设定参数，表示概率 3.用最大似然，通过样本算出参数 4.用得到的参数，再去测试数据里计算概率高斯模型判别是是这样，因为是判别吗，所以我们就把判别结果用0，1两种结果来表示，这样自然就想到要用伯努利。 高斯模型第二个假设是，我们认为对应两种判别结果分布于两种标准正态高斯模型。 举个例子： 比
高斯判别分析（附Matlab实现）
Tech Piece
04-14 4187
生成学习算法   高斯判别分析（Gaussian Discriminant analysis，GDA），与之前的线性回归和Logistic回归从方法上讲有很大的不同，GDA是一种生成学习算法（Generative Learning Algorithms），而之前的属于判别学习算法（Discriminative Learning Algorithms）。   它们的主要区别是： 判别学习算
斯坦福大学机器学习——高斯判别分析
热门推荐
linkin1005的专栏
09-04 2万+
同朴素贝叶斯一样，高斯判别分析（Gaussian discriminant analysismodel, GDA）也是一种生成学习算法，在该模型中，我们假设y给定的情况下，x服从混合正态分布。通过训练确定参数，新样本通过已建立的模型计算出隶属不同类的概率，选取概率最大为样本所属的类。
斯坦福大学公开课 ：机器学习课程（Andrew Ng）——3、监督学习：Gaussian Discriminant Analysis (GDA)
mmc2015的专栏
01-02 3495
1）判别模型和生成模型（Discriminative/Generative Model） 2）高斯判别分析（Gaussian Discriminant Analysis(GDA)）   2.1） 多元正态分布   2.2） 高斯判别模型分析   2.3） 利用高斯判别模型进行分类   2.4）高斯判别分析（GDA）与logistic回归的关系 1）判别模
Gaussian discriminant analysis and Gaussian Mixture Model
斑驳记忆的专栏
04-17 1410
高斯判别分析的做法和贝叶斯思想有一定的公式，他是根据贝叶斯
【温故而知新】高斯判别分析(Gaussian Discriminant Analysis)
CVer
02-05 825
给定数据集； 概率判别模型是直接去求，如下： 高斯判别分析是一种概率生成模型，这里我们需要最大化后验概率估计，对于二分类，高斯判别分析并不是直接去求和的值，而是去比较与的大小关系,而是对联合概率进行建模；由贝叶斯公式可知， 此处，与无关，所以正比于，其中，是posterior，是likehood，是piror。 GDA假...
机器学习-生成学习算法
绝黛雨儿
09-26 1485
情景： 区别动物，根据动物的特性，大象输出1，狗输出0； 1.判别型算法（discriminative learning） 直接学习p(y|x) 直接学习hθ(x)h_θ(x) logistic是判别型算法的一个例子整个过程中其实就是寻找一个最佳的“直线” Andrew Ng: Given a training set, an algorithm like logistic regres
机器学习笔记之生成模型综述(二)监督学习与无监督学习
静静的学习就好
02-08 1412
本节将从机器学习需要解决的任务——监督学习、无监督学习的角度，对现阶段经典概率模型进行总结。
（七）高斯判别分析
qq_54434938的博客
05-10 1996
文章目录前言1. 判别模型和生成模型2. 高斯判别分析模型3. 参数估计4. 代码实现 前言 这篇文章总结一个生成模型——高斯判别分析。 1. 判别模型和生成模型 ​在监督学习中，模型训练成功后，我们往往会得到一个决策函数 f(x)f(x)f(x) 或者一个概率分布 P(y∣x)P(y|x)P(y∣x) ，当需要预测时，我们通过给定的 xxx ，使用 f(x)f(x)f(x) 作为 yyy 的预测值或者使用 P(y∣x)P(y|x)P(y∣x) 计算出概率。 ​在之前总结的线性回归、逻辑回归等模型都是判
Gaussian Discriminant Analysis
weixin_30924087的博客
11-02 263
如果在我们的分类问题中，输入特征$x$是连续型随机变量，高斯判别模型(Gaussian Discriminant Analysis,GDA)就可以派上用场了。 以二分类问题为例进行说明，模型建立如下： 样本输入特征为\(x\in\mathbb{R}^n\),其类别\(y\in\{0,1\}\)； 样本类别\(y\)服从参数为\(\phi\)的伯努力分布，即\(y\sim Berno...
判别分析的MATLAB实现案例
05-04
　判别分析又称“分辨法”，是在分类确定的条件下，根据某一研究对象的各种特征值判别其类型归属问题的一种多变量统计分析方法。 　　其基本原理是按照一定的判别准则，建立一个或多个判别函数，用研究对象的大量资料确定判别函数中的待定系数，并计算判别指标。据此即可确定某一样本属于何类。
【ML】Gaussian Discriminant Analysis 高斯判别分析
Esperanto.的博客
12-13 443
GDA
高斯判别分析 Gaussian Discriminant Analysis
weixin_33691817的博客
02-07 215
之前我们分析Logistic Regression，通过求p(y|x)来判定数据属于哪一个输出分类，这种直接判定的方法称为Discriminative Learning Algorithms，但还有另一种思路去接此问题，称为Generative Learning Algorithms，其中包括本文要分析的Gaussian Discriminant Analysis 以及 Naive Bayes。 ...
高斯判别分析（Gaussian Discriminative Analysis）
香龙
09-26 2383
  高斯判别分析(GDA)是经典的生成学习模型，也是一种监督分类学习算法。假设有样本集D={(x1,y1),(x2,y2),...,(xn,yn)}D=\{(x_1,y_1),(x_2,y_2),...,(x_n,y_n)\}D={(x1​,y1​),(x2​,y2​),...,(xn​,yn​)}，其中xi∈Rd,yi∈{0,1}x_i \in R^d,y_i \in \{0,1\}xi​∈Rd...
Gaussian Discriminative Analysis 高斯判别分析 GDA
weixin_45286813的博客
04-15 500
Gaussian Discriminative Analysis 高斯判别分析 GDA Multidimensional Gaussian Model z∼N(μ⃗,Σ)z \sim N(\vec\mu,\Sigma)z∼N(μ​,Σ) z∈Rn,μ⃗∈Rn,Σ∈Rn∗nz \in R^n,\vec\mu \in R^n, \Sigma \in R^{n*n}z∈Rn,μ​∈Rn,Σ∈Rn∗n ...
机器学习——线性分类之高斯判别分析
weixin_41048383的博客
10-13 1015
文章目录高斯判别分析模型定义高斯判别分析模型求$\phi$高斯判别分析模型求$\mu_1,\mu_2$高斯判别分析模型求$\Sigma$后记参考资料 高斯判别分析模型定义 高斯判别分析：Gaussian discriminant analysis。 假设存在样本XN×pX_{N\times p}XN×p​满足如下形式: X=(x1 x2 ... xN)T=(x1Tx2...
线性分类（四）-- 高斯判别分析 GDA
CarpeDiem
12-10 3255
本篇介绍了高斯判别分析，首先介绍生成模型，狭义的给出了生成模型与判别模型的一般区别；然后介绍高斯判别分析模型的三个基本假设：1）先验概率服从伯努利分布，2）条件概率服从高斯分布，3）特征的条件概率相互独立（同线性模型中的特征不相关）通过最大似然估计导出模型的参数；最后对比了判别模型中的逻辑回归，一般而言，高斯判别模型的假设条件强于逻辑回归，在模型选择时需考虑数据的分布和模型的适用场景。 .
斯坦福机器学习实现与分析之五（高斯判别分析）
zdy0_2004的专栏
04-14 2793
斯坦福机器学习实现与分析之五（高斯判别分析） http://www.cnblogs.com/jcchen1987/p/4424436.html 高斯判别分析（GDA）简介 　　首先，高斯判别分析的作用也是用于分类。对于两类样本，其服从伯努利分布，而对每个类中的样本，假定都服从高斯分布，则有: y∼Bernouli(ϕ) x|y=0∼N(μ0,Σ) x|y=1∼N(μ1,
discriminate、generative、conditional generative模型
ZJpingfanzhilu的博客
09-15 749
discriminate、generative、conditional generative模型 discriminate model：输入图片x和label y，学习概率。结果需要归一化也就是说各种类别的概率需要相互竞争，之和为1. generative model：输入为图片x，学习分布。 conditional generative model：输入为图片x和label y，可以理解为是一种generative model但是带label。 generative model产生的原因：一个例子比如预测
Scratch实践：掌握15种机器学习算法及其应用
10. 高斯混合模型（Gaussian Mixture Model, GMM）：使用EM算法实现，是一种软聚类方法，每个数据点按概率属于多个簇。 深度学习算法通常指的是那些具有复杂结构的神经网络，它们能够通过多层处理来提取数据的特征...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值