关于adaboost的个人理解

Adaboost算法通过组合多个弱分类器形成强大的分类器。它采用加权求和的方式,根据弱分类器的表现调整权重,表现越好的分类器获得更高的权重。此外,Adaboost在设计过程中关注之前分类错误的样本,以此来改善整体分类效果。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

        不得不说,想出adaboost的人是个天才,是个数学家,将几个弱分类组合成强分类器,其中最常用的就是组合器的加权求和,其中加权求和的每个弱分类的权重都是与弱分类的优劣有关,当弱分类器分类效果不好时对应的权重就小,那么这样的话 可以把权重作为分类错误率的单调递减函数。弱分类器分类效果越不好,对应的错误率越高。从而权重越低,从这个意义上来看的话,这种方式类似于一种变相的投票机制,弱分类器的效果越好,得到的票数(权重)越大,反之亦然。再就是弱分类器的设计,每一次弱分类器的设计都是上次弱分类器的分错的样本按照错误率的某种关系加大分错样本的比重,这样每次分类器设计的时候会加大上次分错样本的比,可以看作某种意义上的随机重采样,分错样本的比例会加大,这样如果再次分错的话,错误率会下降会多,这个分类器的比重就会低,最后组合各个分类器得到的效果会比较好。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值