Discriminative model vs Generative model

最新推荐文章于 2024-10-11 12:02:37 发布
原创 最新推荐文章于 2024-10-11 12:02:37 发布 · 932 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文对比了判别模型和生成模型的区别。判别模型关注的是在给定特征下目标出现的概率，通常用于分类任务。生成模型则侧重于特征与目标间的联合分布，能更好地模拟数据生成过程。

Discriminative model(判别模型): 

对p(y|x)建模，只能计算在给定特征x情况下，目标y出现的概率。可以认为是对特征x的判断，故称为判别模型。一般都是监督训练，很难改造成无监督的。在分类问题上可能比generative model好一些。

Generative model(生成模型): 

对p(x|y)和p(y)建模，利用这个模型，我们可以模拟生成各个特征数据，故而称为生成模型。可以对变量之间的复杂关系建模，一般比discriminative model性能好。


举个例子，假设我们的特征是“颜色”、“味道”、“形状”，目标是“葡萄”和“香蕉”。那么训练得到的判别模型会告诉我们：“颜色=红色，味道=酸，形状=圆”的样本是葡萄的概率是0.8，而“颜色=黄色，味道=甜，形状=长”的是香蕉的概率是0.9；而生成模型会告诉你：如果是葡萄，那“颜色=黄/红”的概率分别是多少，“味道=酸/甜”的概率又分别是多少。
【深度学习|学习笔记】生成模型（Generative Model）和判别模型（Discriminative Model）的原理、数学定义、经典模型、优劣对比、联系与融合详解。
2401_89898861的博客
06-13 1268
【深度学习|学习笔记】生成模型（Generative Model）和判别模型（Discriminative Model）的原理、数学定义、经典模型、优劣对比、联系与融合详解。
昇思25天学习打卡营第23天|MindSporeK基于GAN图像生成学习- 生成器(Generative Model)和判别器(Discriminative Model)
2301_79516720的博客
07-31 1152
生成式对抗网络(Generative Adversarial Networks，GAN)是一种生成式机器学习模型，是近年来复杂分布上无监督学习最具前景的方法之一。最初，GAN由Ian J. Goodfellow于2014年发明，并在论文Generative Adversarial Nets中首次进行了描述，其主要由两个不同的模型共同组成——生成器(Generative Model)和判别器(Discriminative Model)：生成器的任务是生成看起来像训练图像的“假”图像；
生成模型（generative model）和判别模型（discriminative model）
Daniel_djf的专栏
12-12 1万+
在看论文和机器学习教材的时候，经常会看到生成模型和判别模型，一致对着两个模型概念很模糊，在这里自己做一个小结。   在后面介绍这个两个模型时，我们以分类问题为例，以加深理解。我们都知道，分类问题可以分为两个阶段：推理阶段（inference stage）和决策阶段（decision stage）。 推理阶段：利用训练数据学习得到一个可以计算 的模型。 决策阶段：利用在推理阶段得到的后验概率
生成模型（Generative Model）Vs 判别模型（Discriminative Model）
wbyang.cn
12-04 3953
      看HMM的是很看到了生成模型，于是提出了一个问题，什么是生成模型？查了一下资料，总算大致了解了，把内容贴在这里，以备翻阅。       判别模型（Discriminative Model），又可以称为条件模型，或条件概率模型。估计的是条件概率分布(conditional distribution)，p(class|context)。利用正负例和分类标签，主要关心判别模型的边缘分布。其目标函数直接对应于分类准确率。       主要特点：寻找不同类别之间的最优分类面，反映的是异类数据之间的差异
Generative vs. Discriminative Models
宝宝
09-24 631
生成模型(Generative Model) vs 判别模型(Discriminative Model)
qq_42585582的博客
03-16 505
生成模型(Generative Model) vs 判别模型(Discriminative Model) 生成模型 vs 判别模型生成模型(Generative Model) vs 判别模型(Discriminative Model)二者定义判别模型代表生成模型代表 二者定义 假定X为当前目标的特征(feature)，Y为类别(class)，一个分类器的功能是要求出P(Y|X)，并把X归属于Y中...
生成/判别式模型
aksjebdjj的博客
10-11 3331
特性生成式模型判别式模型学习目标联合分布 P(x,y)P(x,y)条件分布 $ P(y数据生成能力可以生成新数据无法生成新数据主要任务数据生成、密度估计、异常检测等分类、回归、序列标注等优势适合处理缺失数据、生成任务分类效果好，训练效率高劣势分类任务性能可能不佳，训练复杂无法生成数据，缺失数据处理能力较差典型模型朴素贝叶斯、GAN、VAE、HMM逻辑回归、SVM、神经网络。
【补充知识】生成模型（generative model）和判别模型（discriminative model）、贝叶斯学派和概率学派
weixin_55703970的博客
11-13 1146
看到过好几次“生成模型”这个词了，一直不太懂，这次买了李航老师的《统计学习方法》看一下。
[Machine Learning] 生成模型 & 判别模型（Generative & Discriminative Model）
Oh_MyBug的博客
02-16 666
生成模型 概率生成模型，简称生成模型（Generative Model），是概率统计和机器学习中的一类重要模型，指一系列用于随即生成可观测数据的模型。 典型模型 高斯混合模型（Gaussian Mixed Model） 隐马尔科夫模型（Hidden Markov Model） 朴素贝叶斯分类器（Naive Bayes Classifier） 判别模型 在机器学习领域，判别模型是一种对未知数据y...
MACHINE LEARNING: Discriminative and Generative_Tony Jebara_2004
02-02
MACHINE LEARNING:Discriminative and Generative Tony Jebara Columbia University, U.S.A. -----The objective of this monograph is to unite two powerful yet different paradigms in machine learning: ...
Generative and Discriminative Classifiers: Naive Bayes and Logistic Regression
09-29
机器学习第二版中Tom准备增加的内同，关于生成模型、判别模型以及朴素贝叶斯和逻辑回归的介绍，在作者主页下载的
on discriminative vs generative classifiers
11-04
从理论和实践区分判别模型和生成模型区分，andrew NG所写
生成式模型（generative） vs 判别式模型（discriminative）
weixin_30838921的博客
03-04 603
Andrew Ng, On Discriminative vs. Generative classifiers: A comparison of logistic regression and naive Bayes 无论是生成式模型还是判别式模型，都可作为分类器使用，分类器的数学表达即为：给定输入 X 以及分类变量 Y，求 P(Y|X)。 判别式模型...
MiniDSP车载声学之二：车载音频调试，DSP模块（Car Audio Tuning: DSP Modules and Their Use）
Li Kang 笔记本
07-23 4790
MiniDSP关于车载声学的测试一共有四篇文章，本文是对第三第四篇的总结。主要阐述了车载音频调试的基本步骤，均衡器设置技巧以及对各频带的分析。原文链接放在最后。
Discriminative Locality Alignment（DLA）模型
zakexu的专栏
08-25 3106
DLA是一种数据降维模型，假设样本数据集如下： 那么降维过程表示如下： 其中原始数据为m维，降为d维，所以U就是需要学习的降维矩阵，学习算法如下： （一）Part Optimization 1.对于每个样本，构造一个patch如下： 其中包括k1个同类最邻近样本以及k2个异类最邻近样本； 2.对于每一个patch都构造约束条件：同类相近，异类互斥 数学形式如下
判别模型(Discriminative model)和生成模型(Generative model)
热门推荐
Fishmemory的博客
06-19 2万+
说明生成算法和判别算法之间的区别。判别算法主要包括：SVM，逻辑回归等；生成算法主要包括：朴素贝叶斯，HMM等
第五章：逻辑回归_Dan Jurafsky《自然语言处理综述》(第三版)读书笔记
yuannaiqing的博客
07-02 909
5逻辑回归目录5.0 前言5.1 分类：sigmoid新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入 5.0 ...
什么是判别模型(Discriminative Model)和生成模型(Generative Model)
zhaoyu106的博客
08-23 4938
原文链接 http://www.gooseeker.com/cn/node/knowledgebase/discriminative_generative_model一个通俗易懂的解释，摘录如下：Let’s say you have input data x and you want to classify the data into labels y. A generative model lea
（62页PPT）微专题14　测电阻的几种特殊方法.pptx
最新发布
01-06
（62页PPT）微专题14　测电阻的几种特殊方法.pptx
# Get a batch of real data. Our goal is to make data that looks like this. def get_real_data_batch(n_sample): np.random.seed(0) x_true = np.random.normal(size=(1,n_sample)) + 7.5 return x_true # This is our generator -- takes the single parameter theta # of the generative model and generates n samples def generator(z, theta): x_gen = z + theta return x_gen # Define our discriminative model # Logistic sigmoid, maps from [-infty,infty] to [0,1] def sig(data_in): return 1.0 / (1.0+np.exp(-data_in)) # Discriminator computes y def discriminator(x, phi0, phi1): return sig(phi0 + phi1 * x) # Draws a figure like Figure 15.1a def draw_data_model(x_real, x_syn, phi0=None, phi1=None): fix, ax = plt.subplots(); for x in x_syn: ax.plot([x,x],[0,0.33],color='#f47a60') for x in x_real: ax.plot([x,x],[0,0.33],color='#7fe7dc') if phi0 is not None: x_model = np.arange(0,10,0.01) y_model = discriminator(x_model, phi0, phi1) ax.plot(x_model, y_model,color='#dddddd') ax.set_xlim([0,10]) ax.set_ylim([0,1]) plt.show() # Get data batch x_real = get_real_data_batch(10) # Initialize generator and synthesize a batch of examples theta = 3.0 np.random.seed(1) z = np.random.normal(size=(1,10)) x_syn = generator(z, theta) # Initialize discriminator model phi0 = -2 phi1 = 1 draw_data_model(x_real, x_syn, phi0, phi1) def compute_generator_loss(z, theta, phi0, phi1): # TODO-2 -- Run the generator on the latent variables z with the parameters theta # to generate new data x_syn # Then run the discriminator on the new data to get the probability of being real # The loss is the total negative log probability of being synthesized (i.e. of not being real) # Replace this code return loss # Test generator loss to check you have it correct loss = compute_generator_loss(z, theta, -2, 1) print("True Loss = 13.78437035945412, Your loss=", loss ) 帮我完成一下
12-11
我们正在编写一个计算生成器损失的函数。根据问题描述，生成器的损失是“合成数据不是真实数据的总负对数概率”。这意味着我们需要使用判别器对生成样本的判别结果，并计算生成样本被判别为“真实”的概率，然后取其...
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值