生成式模型 vs 判别式模型

最新推荐文章于 2022-11-26 20:21:42 发布
原创 最新推荐文章于 2022-11-26 20:21:42 发布 · 1.2k 阅读 · 8 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

生成式模型利用数据分布提供更丰富的信息，适用于单类问题且能进行增量学习，但计算复杂且准确率较低。判别式模型则关注数据边界，准确率高、计算量小，但无法反映数据特性，收敛速度慢。

点击上方“Datawhale”，选择“星标”公众号

第一时间获取价值内容

生成式模型和判别式模型的概念是机器学习领域非常重要的基础知识，但能准确区分开二者并不是一件非常容易的事情，笔者经常是看一遍忘一遍，为了巩固下知识点，我将从以下几个方面对两种模型进行介绍和对比。

概念

首先我们需要明确，两种不同的模型都用于监督学习任务中。监督学习的任务就是从数据中学习一个模型，并用基于这个模型对给定的输入预测相应的输出。这种模型的一般形式为决策函数   或者条件概率分布  。
我们先用一张图来初步感受一下，等看完文章后再回来看一遍会更直观：
定义
生成式模型先对数据的联合分布   进行建模，然后再通过贝叶斯公式计算样本属于各类别的后验概率 
最低0.47元/天 解锁文章
Datawhale
关注
判别式模型 vs 生成式模型
pumpkin84514的博客
06-22 1714
判别式模型专注于区分类别。它们学习如何根据输入信息来区分不同的类别。类比想象你是一个面试官，你的任务是根据候选人的表现来判断他们是否适合某个职位。你关注的不是候选人从哪里来，而是他们是否符合你的要求。这就是判别式模型在做的事情——根据输入信息判断类别。生成式模型不仅仅是区分类别，它们还能生成新数据，就像一位魔术师，可以凭空变出新的东西。类比想象你是一位艺术家，你不仅能判断一幅画是印象派还是写实派，还能自己创作出一幅新画。生成式模型就是这样，它们不仅能理解数据，还能生成与原始数据相似的新数据。判别式模型。
生成式模型和判别式模型的区别
zhangt766的博客
06-16 9262
机器学习可以分为两大类：生成式模型（Generative Model）、判别式模型（Discriminative Model）。 现在有一堆球，颜色信息已知为绿色和黄色两种，有且仅有这两种颜色，这里，球的颜色为y（目标变量），坐标轴上位置为特征X。我们想要知道，如果在坐标轴的某一位置x新放入一个球，这个球会是什么颜色的？ 1.生成式模型的思想： 生成式模型使用的是联合概率P(X,Y)，若已知x（球的坐标位置信息），通过计算出P(X,Y)我们就可以知道球的颜色。 P(X,Y) = P(Y)*P(X|Y)，其中
生成模型 VS 判别模型 （含义、区别、对应经典算法）
热门推荐
Taylover-Cam的博客
03-29 7万+
从概率分布的角度考虑，对于一堆样本数据，每个均有特征Xi对应分类标记yi。生成模型：学习得到联合概率分布P(x,y)，即特征x和标记y共同出现的概率，然后求条件概率分布。能够学习到数据生成的机制。判别模型：学习得到条件概率分布P(y|x)，即在特征x出现的情况下标记y出现的概率。数据要求：生成模型需要的数据量比较大，能够较好地估计概率密度；而判别模型对数据样本量的要求没有那么多。两者的优缺点如下图...
生成模型 VS 判别模型
This is bill的专属博客
10-23 517
监督学习方法又分生成方法（Generative approach）和判别方法（Discriminative approach），所学到的模型分别称为生成模型（Generative Model）和判别模（Discriminative Model)。 判别模型：由数据直接学习决策函数Y=f(X)或者条件概率分布P(Y|X)作为预测的模型，即判别模型。基本思想是有限样本条件下建立判别函数，不考虑样本的...
生成模型VS判别模型
qq_36854740的博客
08-25 403
监督学习方法可以分为生成方法和判别方法，所学习得到的模型分别为生成模型和判别模型。 生成模型定义 生成方法由数据学习联合概率分布P(X,Y)，然后求出条件概率分布P(Y|X)作为预测的模型，即生成模型： 典型的生成模型有朴素贝叶斯，隐马尔可夫模型 生成模型为什么叫生成模型？ 因为模型表示了给定输入X和产生输出Y的生成关系，即联合概率分布P(X,Y)，拥有一组生成新数据的能力。 判别模型定义 判别方法由数据直接学习决策函数f(X)或者条件概...
生成式模型VS判别式模型
ligaofei521的博客
03-05 560
产生式模型(Generative Model)与判别式模型(Discrimitive Model)是分类器常遇到的概念，它们的区别在于： 1. 对于输入x，类别标签y：产生式模型估计它们的联合概率分布P(x,y)判别式模型估计条件概率分布P(y|x)产生式模型可以根据贝叶斯公式得到判别式模型，但反过来不行。 2. 模型对比 ...
精选资源
判别式模型和生成式模型的区别
01-07
其实机器学习的任务是从属性X预测标记Y，即求概率P(Y|X)。 判别式模型 对于判别式模型来说求得P(Y|X)，对未见示例X，根据P(Y|X)可以求得标记Y，即可以直接判别出来，如上图的左边所示，实际是就是直接得到...生成式模型
监督学习中判别式模型和生成式模型的区别 | 无监督学习的生成模型GAN、VAE（生成样本）
捡起一束光的博客
11-30 3851
文章目录一、监督学习中的判别式模型和生成式模型1.1 判别式模型（线性回归、SVM、NN）1.2 生成式模型（朴素贝叶斯、HMM）二、无监督学习中的生成式模型参考资料 一、监督学习中的判别式模型和生成式模型 有监督学习可以分为两类：判别模型和生成模型，我们所熟悉的神经网络，支持向量机和logistic regression，决策树等都是判别模型。而朴素贝叶斯和隐马尔可夫模型则属于生成式模型 1.1 判别式模型（线性回归、SVM、NN） 判别式模型由数据直接学习P(y∣x)P(y|x)P(y∣x)来预测yy
生成模型与判别模型
Datawhale
08-03 472
基本概念 监督学习的任务就是学习一个模型， 应用这一模型， 对给定的输入预测相应的输出。 这个模型的一般形式为决策函数：Y＝f(X)或者条件概率分布：P(Y|X) 监督学习方法又可以分为生成方法（generative approach） 和判别方法（discriminative approach） 。 所学到的模型分别称为生成模型（generative model） 和判别模型（discr...
生成式模型和判别式模型
dark的博客
11-15 299
生成式模型 判别式分析 朴素贝叶斯 K近邻(KNN) 混合高斯模型 隐马尔科夫模型(HMM) 贝叶斯网络 Sigmoid Belief Networks 马尔科夫随机场(Markov Random Fields) 深度信念网络(DBN) 判别式模型 线性回归(Linear Regression) 逻辑回归(Logistic Regression) 神经网络(NN) 支持向...
Logistic Regression-生成模型和判别模型
qq_42225861的博客
10-26 1198
二分类器的训练 目标：根据人们的个人资料，判断其年收入是否高于 50,000 美元 1.读取数据 2.正则化 此函数用于规范特定列X 在处理测试数据时，训练数据的均值和标准方差将被重用 参数： X：待处理数据 train：处理训练数据时为“True”，测试数据为“False” 特定列：将规范化的列的索引。如果“无”，则所有列将被规范化。 X_mean：训练数据的平均值，当train='False’时使用 X_std：训练数据的标准偏差，当train='False’时使用 输出： X：标准化数据 X_me
matlab影像变化检查程序,Change-Detection-Code 遥感影像变化检测经典算法(IR-MAD、 CVA、PCA),另外进行了 的Demo和精度等计算 matlab 267万源代码下...
weixin_35730840的博客
03-17 1013
文件名称: Change-Detection-Code下载 收藏√ [5 4 3 2 1]开发工具: matlab文件大小: 8157 KB上传时间: 2016-11-15下载次数: 2提 供 者: 王维详细说明：遥感影像变化检测经典算法(IR-MAD、MAD、CVA、PCA),另外进行了算法的Demo和精度等计算评价(OA、Kappa、AUC、ROC)-Remote sensin...
遥感算法：遥感算法总结
养乐多的博客
10-18 4703
遥感数据预处理（去云，辐射校正，合并，切割，大气校正，几何校正） 遥感影像分类（线性，阈值，机器学习，深度学习） 遥感时间序列（Landtrendr，Bfast，VCT，CUSUM，CCDC）
遥感影像变化检测算法实现
weixin_39802680的博客
06-03 6347
基于遥感图像变换检测算法实现 **主要用到比值法 插值法 cva算法 rcva 算法(理解不透彻) pca 算法评价算法` 代码实现 import cv2 import matplotlib.pyplot as plt import numpy as np import math img1=cv2.imread('C:\\Users\dell\Desktop\RXX-2020-CVA\RXX-2020-CVA\Testing dataset\TianJing-SPOT/09BMP.bmp') img2=c
GAN详解
kuxingseng123的博客
11-26 3916
慢慢的将各种模型啥的都给其研究透彻，全部将其搞定都行啦的理由与打算。各种模型都给其研究一波。
李宏毅生成式模型和判别式模型
最新发布
01-21
### 李宏毅讲解生成式模型与判别式模型 #### 生成式模型的特点 生成式模型旨在捕捉数据的真实分布，通过学习联合概率分布 \( p(x, y) \)，其中 \( x \) 是输入特征而 \( y \) 是类别标签。这类模型能够模拟新样本的创建过程，适用于多种任务如图像合成、语音生成等[^3]。 对于分类问题而言，在应用贝叶斯定理时，可以通过寻找一组合适的高斯函数来构建模型集合，并利用最大似然估计方法评估各个候选模型的质量从而挑选最优者[^2]。 #### 判别式模型的工作原理 相比之下，判别式模型专注于建立条件概率分布 \( p(y|x) \)，即给定特定输入下预测输出的概率。典型代表有支持向量机和支持向量网络等算法。这些技术并不试图理解整个系统的运作机制而是直接针对决策边界进行优化以实现高效准确地分类目的[^4]。 #### Flow作为一种特殊的生成式模型 值得注意的是Flow也属于生成式模型的一种形式，它与其他同类框架（例如GANs和VAEs）共享相似属性——都是为了创造逼真的假象实例而设计出来的工具[^1]。 ```python import numpy as np from sklearn.datasets import make_classification from sklearn.model_selection import train_test_split from sklearn.naive_bayes import GaussianNB # 创建虚拟二元分类数据集 X, y = make_classification(n_samples=1000, n_features=20, random_state=42) # 将数据分为训练集和测试集 X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.25, random_state=42) # 使用朴素贝叶斯作为简单的生成式模型示例 gnb = GaussianNB() gnb.fit(X_train, y_train) print(f"Test set accuracy: {gnb.score(X_test, y_test):.2f}") ```
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值