关于xgboost的零碎记录

本文介绍了DART(Dropout Additive Regression Trees)提升算法的工作原理及其优缺点。DART是一种集成学习方法,通过随机丢弃部分基学习器(树)来达到防止过拟合的目的。相较于传统的GBTree方法,DART训练速度较慢且预测稳定性较差,但在某些场景下能有效提高模型泛化能力。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

gbliner gbtree dart

gblinear booster: 线性 弱学习器

gbtree booster: cart树

dart booster: xgboost是一群具备很小学习率权重的树的集合。这种情况下,越早加入的树比后加入的树更重要些。(粗俗:越学,越没什么可学的)
这个新颖在:随机丢弃树

  • pros:防止过拟合
  • cons:比gbtree训练慢,因为丢弃会不利于prediction buffer,早停也会不稳定。

dart原版信息

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

万物琴弦光锥之外

给个0.1,恭喜老板发财

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值