判别式与生成式

最新推荐文章于 2024-10-11 12:02:37 发布

不想搞科研的一名青椒

最新推荐文章于 2024-10-11 12:02:37 发布

阅读量194

点赞数

CC 4.0 BY-SA版权

本文链接：https://blog.youkuaiyun.com/qq_38581886/article/details/96320505

熵代表的是随机变量的不确定度

熵越大，数据的不确定性越高

熵越小，数据的不确定性越低

基尼系数

基尼系数越高，数据的不确定性越强

基尼系数越低，数据的不确定性越低

生成式模型与判别式模型

生成式：是根据数据的联合概率分布，以及边缘分布，根据二者的关系求出数据的条件概率模型，这个条件概率模型就是预测模型

典型的生成模型：

朴素贝叶斯、隐马尔可夫、混合高斯

判别式：根据数据直接学习出一个决策函数或者是一个条件概率分布

典型的判别模型：

KNN，感知机，决策树，逻辑回归，最大熵模型，SVM，提升方法，条件随机场，神经网络

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

不想搞科研的一名青椒

关注关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

【机器学习】：判别式模型与生成式模型

故沉的博客

01-04

8243

目录问题引出基本概念举个例子优缺点模型实例参考文献问题引出来源：牛客网以下几种模型方法属于判别式模型(Discriminative Model)的有() 1)混合高斯模型 2)条件随机场模型 3)区分度训练 4)隐马尔科夫模型基本概念监督学习的任务是学习一个模型，应用这个模型对给定的输入预测相应的输出。监督学习又分为生成方法(ge...

判别式与生成式模型

lgy54321的博客

07-10

262

有监督学习回归模型中，我们利用训练集直接对条件概率p(y|x;θ)建模，例如logistic回归就利用hθ(x) = g(θTx)对p(y|x;θ)建模（其中g(z)是sigmoid函数）。假设现在有一个分类问题，要根据一些动物的特征来区分大象(y = 1)和狗(y = 0)。给定这样的一种数据集，回归模型比如logistic回归会试图找到一条直线也就是决策边界，来区分大象与狗这两类，然后对于新...

参与评论您还未登录，请先登录后发表或查看评论

什么是判别式模型和生成式模型

热门推荐

qq_41853758的博客

06-30

2万+

判别式模型(Discriminative Model)：直接对条件概率p(y|x)进行建模，常见判别模型有：线性回归、决策树、支持向量机SVM、k近邻、神经网络等；生成式模型(Generative Model)：对联合分布概率p(x,y)进行建模，常见生成式模型有：隐马尔可夫模型HMM、朴素贝叶斯模型、高斯混合模型GMM、LDA等；生成式模型更普适；判别式模型更直接，目标性更强生成式模型关注数据是...

生成/判别式模型

aksjebdjj的博客

10-11

2933

特性生成式模型判别式模型学习目标联合分布 P(x,y)P(x,y)条件分布 $ P(y数据生成能力可以生成新数据无法生成新数据主要任务数据生成、密度估计、异常检测等分类、回归、序列标注等优势适合处理缺失数据、生成任务分类效果好，训练效率高劣势分类任务性能可能不佳，训练复杂无法生成数据，缺失数据处理能力较差典型模型朴素贝叶斯、GAN、VAE、HMM逻辑回归、SVM、神经网络。

判别式和生成式的区别-ML EveryDay

空港

05-09

353

判别方法：由数据直接学习决策函数 Y = f（X），或者由条件分布概率 P（Y|X）作为预测模型，即判别模型。生成方法：由数据学习联合概率密度分布函数 P（X,Y）,然后求出条件概率分布P(Y|X)作为预测的模型，即生成模型。由生成模型可以得到判别模型，但由判别模型得不到生成模型。常见的判别模型有：K近邻、SVM、决策树、感知机、线性判别分析（LDA）、线性回归、传统的神经网络、逻辑斯...

机器学习——判别式/生成式

yingzhengttt blog

07-08

1415

本文通过分类问题讲解判别式和生成式模型，会用到Logistics Regression 和几率模型首先介绍一下，判别式模型是完全根据数据得出结果，而生成式模型会有人为设定的条件建立模型，再通过利用假设建立的模型得出结果。 Generative (生成式模型) 例：利用iris数据进行分类本文仅仅才用了target0和target1，且仅仅利用了前两种属性（便于可视化）数据可视化利...

判别式模型和生成式模型的区别

01-07

其实机器学习的任务是从属性X预测标记Y，即求概率P(Y|X)。 判别式模型对于判别式模型来说求得P(Y|X)，对未见示例X，根据P(Y|X)可以求得标记Y，即可以直接判别出来，如上图的左边所示，实际是就是直接得到...生成式模型

生成式与判别式的区分

weixin_41690708的博客

09-21

846

生成式与判别式 区别二者的区别主要就是由于一个是***联合概率分布P(x,y)***，另一个估计***条件概率分布P(y|x)***，而生成式模型能够根据贝叶斯公式得到判别式模型也是根据公式而来。联合概率分布，则是特征值对应某标签的概率，现在要判断一个特征值对应的标签，根据联合概率，只能算出其对应各标签的概率值，而只有通过比较全部的值才能知道属于哪个标签；而条件概率分布则是输入特征直接出来对应的...

监督学习下的判别式模型和生成式模型

wu2020的博客

07-11

1893

(一) 、监督学习下的判别式和生成式模型监督学习的任务就是学习一个模型,应用这一模型,对给定特征的的输入样本，预测样本相应的输出。这个模型的一般形式为决策函数:Y=f(X)或者条件概率分布:P(Y|X) 决策函数Y=f(X)：输入一个特征为X的样本，模型输出一个Y，这个Y与一个阈值比较，根据比较结果判定X属于哪个类别。例如二分类（Y1和Y2）问题，如果Y大于阈值，特征为X的样本就属于类Y1，如果Ｙ小于阈值就属于类Y2。通过决策函数的输出直接就能得到特征为X的样本对应的类别了。条件概率分布P(Y|

生成式模型和判别式模型的区别

zhangt766的博客

06-16

9152

机器学习可以分为两大类：生成式模型（Generative Model）、判别式模型（Discriminative Model）。现在有一堆球，颜色信息已知为绿色和黄色两种，有且仅有这两种颜色，这里，球的颜色为y（目标变量），坐标轴上位置为特征X。我们想要知道，如果在坐标轴的某一位置x新放入一个球，这个球会是什么颜色的？ 1.生成式模型的思想： 生成式模型使用的是联合概率P(X,Y)，若已知x（球的坐标位置信息），通过计算出P(X,Y)我们就可以知道球的颜色。 P(X,Y) = P(Y)*P(X|Y)，其中

谈谈判别式模型与生成式模型

黄飞的博客专栏

04-06

7741

判别式模型与生成式模型是机器学习领域中的基本概念，今天将两者的特点总结一下，如下表所示：对比 判别式模型 生成式模型特点寻找不同类别之间的最优分类面，反映异类数据之间的差异以统计的角度表示数据的分布情况，能够反映同类数据本身的相似度区别（假如输入特征x,类别标签y）估计的是条件概率分布：P(y|x) 估计的是联合概率分布 P(x,y) 联系由判

[机器学习]判别式模型和生成式模型

玄学实验室

03-22

1360

这里是LeeTioN的博客机器学习中有两大任务——监督学习和非监督学习。其中监督学习的任务学习一个模型，拟合好目标问题的模型后，再将其应用。而监督学习的学习方法可以分为生成方法(Generative Approach)和判别方法(Discriminative Approach)。所学到的模型便称之为生成模型(Generative Model)和判别模型(Discriminative Mod...

判别式模型 vs. 生成式模型

haoji007的博客

10-18

742

生成式和判别式的联系与区别

小白_努力

09-21

1628

生成式模型与判别式模型的区别 生成式模型(Generative Model)与判别式模型(Discrimitive Model)是分类器常遇到的概念，它们的区别在于：对于输入x，类别标签y：产生式模型估计它们的联合概率分布P(x,y) 判别式模型估计条件概率分布P(y|x) 生成式模型可以根据贝叶斯公式得到判别式模型，但反过来不行。

判别式模型 vs 生成式模型

pumpkin84514的博客

06-22

1625

判别式模型专注于区分类别。它们学习如何根据输入信息来区分不同的类别。类比想象你是一个面试官，你的任务是根据候选人的表现来判断他们是否适合某个职位。你关注的不是候选人从哪里来，而是他们是否符合你的要求。这就是判别式模型在做的事情——根据输入信息判断类别。生成式模型不仅仅是区分类别，它们还能生成新数据，就像一位魔术师，可以凭空变出新的东西。类比想象你是一位艺术家，你不仅能判断一幅画是印象派还是写实派，还能自己创作出一幅新画。生成式模型就是这样，它们不仅能理解数据，还能生成与原始数据相似的新数据。判别式模型。

【大模型理论篇】生成式模型与判别式模型对比(涉及VAE、CRF的数学原理详述)

源泉的小广场

08-19

2482

变分自编码、vae、variational auto-encoder、生成式模型、判别式模型、crf、条件随机场

NLP --- 产生式模型VS判别式模型

进击的菜鸟

12-12

1766

上一节我们介绍了概率图模型，这将在隐马尔可夫和条件随机场使用到，还会使用到的另外一个概念就是产生式模型和判别式模型，那么什么是产生式模型，什么是判别式模型呢？下面我们详细介绍这两种模型的区别。他们的来源还是机器学习，在机器学习中，我们知道是分类问题，器分类就是等价于输入,求输出的概率即,由此可知分类问题其实就是一个求条件概率的问题，因此这里就牵扯到如何求解条件概率的问题，根据求解这个条件概率的...

机器学习：生成式模型与判别式模型

Rookiekk

03-25

3203

监督学习的任务就是学习一个模型，应用这一模型，对给定的输入预测相应的输出。这个模型的一般形式为决策函数：或者条件概率分布：。监督学习方法又分为生成方法和判别方法，对应生成式模型(Generative Model)与判别式模型(Discriminative...

理解判别式模型和生成式模型

qq_36013249的博客

04-21

436

1. 我们要做什么：以分类问题为例：给定数据集XXX、数据标签CCC，学习一个模型。我们的目标是给出新的xxx，判断xxx所属的类别。用数学语言来描述，就是求p(c∣x)p(c|x)p(c∣x)的大小。 2. 判别式模型：直接对 p(c∣x)p(c|x)p(c∣x) 建模 2.1 建立一个xxx到p(c∣x)p(c|x)p(c∣x)的映射例如在逻辑回归问题中，我们使用了sigmoid函数...

判别式和生成式的区别