《机器学习》第七章笔记

本文是关于机器学习中贝叶斯分类器的笔记,介绍了贝叶斯决策论的基本思想,包括贝叶斯分类器的选择策略、判别式和生成式模型的建模方法,重点讲解了朴素贝叶斯分类器的原理,如属性条件独立假设、概率估计和平滑处理,以及半朴素贝叶斯分类器和贝叶斯网的概念。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

第七章 贝叶斯分类器

1.贝叶斯决策论,是在概率框架下实施决策的基本方法

2.对分类任务来说,贝叶斯决策论考虑如何基于这些概率和误判损失函数来选择最优的类别标记

3.总体思想是让每一个分类器的风险最小,这样算期望的时候也最小

4.贝叶斯分类器:h=argmin 错误即损失λ×后验概率Pc|x

5.要估计后验概率有两种策略,

判别式模型,给定x,对pc|x)进行建模,常见的 BP神经网络,决策树,支持向量机---如何建模的呢?

生成式模型,对联合概率p(c,x)进行建模,在导出pc|x),p(c|x)=p(c)p(x|c)/p(x),p(c)是先验概率,p(x|c)是类条件概率,也称为似然,px)是用于归一化的证据因子,在给定样本x 的条件下,px)与样本标记无关,所以主要关注分子项

px|c)难以直接估计,所以采用似然估计,假定px|c)是某种概率分布形式,再基于训练样本对概率分布的参数进行估计,即px|c)有具体的分布形式,被参数θc唯一确定,所以我们的目标就转为估计θc,假

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值