生成模型(generative model)与判别模型(discriminate)的联系及区别

本文探讨了生成模型与判别模型的区别与联系。生成模型通过学习联合概率分布来预测输出,如朴素贝叶斯和隐马尔科夫模型;而判别模型则直接学习决策函数或条件概率分布,如感知机、决策树等。此外,还讨论了两种方法的学习速度和数据抽象能力。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

  • 生成模型与判别模型的联系及区别
    • 监督学习——学习一个模型
      • 模型的一般形式
        • 决策函数 Y=f(X)
        • 条件概率分布:P(Y|X)
    • 生成方法
      • 由数据学习联合概率分布P(Y,X)作为预测的模型,即生成模型P(Y|X)=P(Y,X)P(X)
      • 模型表示了给定输入X,产生输出Y的生成关系
      • examples
        • 朴素贝叶斯、隐马尔科夫模型
    • 判别方法
      • 由数据直接学习决策函数f(X)或者条件概率分布P(Y|X)作为预测模型
      • 比较关心:给定输入X,输出什么样的Y
      • examples
        • 感知机、决策树、logistic regression,最大熵,SVM,Adaboost,条件随机场
    • 联系与区别
      • 生成学习法
        • 还原出联合概率分布P(Y,X)
        • 学习收敛速度快
        • 样本容量增加时,模型快速收敛于真实的model
      • 判别方法
        • 直接学习的是Y=f(X)P(Y|X)
        • 可以对数据进行各种程度上的抽象
        • 定义特征并使用特征可以简化学习问题
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值