判别式模型和产生式模型

本文对比了判别式模型与产生式模型的特点、优缺点及应用场景。判别式模型关注不同类别间的差异,适合多类别识别,而产生式模型能更好地研究单个类别,适用于数据不完整的情况。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

http://blog.163.com/huai_jing@126/blog/static/1718619832011227757554/

1判别式模型(discriminative model)产生式模型(generative model)
特点寻找不同类别之间的最优分类面,反映的是异类数据之间的差异对后验概率建模,从统计的角度表示数据的分布情况,能够反映同类数据本身的相似度
区别(假定输入x, 类别标签y)估计的是条件概率分布(conditional distribution):P(yx)
联系由产生式模型可以得到判别式模型,但由判别式模型得不到产生式模型。
常见模型– logistic regression

– SVMs|
– traditional neural networks
– Nearest neighbor|
–Gaussians, Naive Bayes
–Mixtures of Gaussians, Mixtures of experts, HMMs
–Sigmoidal belief networks, Bayesian networks
– Markov random fields

优点
1)分类边界更灵活,比使用纯概率方法或产生式模型更高级;
2)能清晰的分辨出多类或某一类与其他类之间的差异特征;
3)在聚类、viewpoint changes, partial occlusion and scale variations中的效果较好;
4)适用于较多类别的识别;
5)判别模型的性能比产生式模型要简单,比较容易学习。
1)实际上带的信息要比判别模型丰富;
2)研究单类问题比判别模型灵活性强;
3)模型可以通过增量学习得到;
4)能用于数据不完整(missing data)情况。

缺点
1)不能反映训练数据本身的特性。能力有限,可以告诉你的是1还是2,但没有办法把整个场景描述出来;
2)Lack elegance of generative: Priors, 结构, 不确定性;
3)Alternative notions of penalty functions, regularization, 核函数;
4)黑盒操作: 变量间的关系不清楚,不可视。
1) Tend to produce a significant number of false positives. This is particularly true for object classes which share a high visual similarity such as horses and cows;
2) 学习和计算过程比较复杂。

性能
较好(性能比生成模型稍好些,因为利用了训练数据的类别标识信息,缺点是不能反映训练数据本身的特性)
较差

主要应用
Image and document classification
Biosequence analysis
Time series prediction
NLP(natural language processing)
Medical Diagnosis

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值