转： GBDT 梯度提升树 相关

最新推荐文章于 2025-03-23 15:15:00 发布
转载 最新推荐文章于 2025-03-23 15:15:00 发布 · 192 阅读 · 0

本文深入探讨了 scikit-learn 的参数调整方法，提供了实用的调参技巧，帮助读者提升机器学习模型的性能。从基本原理出发，详细讲解了如何针对不同类型的模型进行有效的参数优化。
GBDT梯度提升树
qq_24946843的博客
06-09 157
可看到我们根据GBDT原理手写计算结果和sklearn提供的GradientBoostingRegressor计算结果一致，因为GradientBoostingRegressor内部的计算过程就是我们上面手写的过程。直接使用sklearn提供的GradientBoostingRegressor。上面介绍的示例提升树是梯度提升树的一种特例，即损失函数用的是平方和。
机器学习算法梳理(五)：GBDT梯度提升树
devcy的博客
01-29 411
GBDTGBDTGBDT思想负梯度拟合损失函数 GBDT GBDT思想 负梯度拟合 损失函数 GBDT算法 正则化 优缺点及与RF的比较 sklearn参数 应用场景
【机器学习】揭秘GBDT：梯度提升决策树
2301_76820214的博客
09-23 4334
GBDT，全称为Gradient Boosting Decision Tree，即梯度提升决策树，是一种迭代的决策树算法，也被称作MART（Multiple Additive Regression Tree）。它通过将多个决策树（弱学习器）的结果进行累加来得到最终的预测输出，是集成学习算法的一种，具体属于Boosting类型。
一文读懂：GBDT梯度提升
忽逢桃林的博客
06-22 1169
先缕一缕几个关系： GBDT是gradient-boost decision tree GBDT的核心就是gradient boost，我们搞清楚什么是gradient boost就可以了 GBDT是boost中的一种方法，boost还有XGBoost，adaboost。 基本概念 【Boost】就是让多个弱分类器，通过不同的集成方式，来让多个弱分类器变成一个强分类器。 【gradient-boost】 梯度提升。简单的说，先训练一个弱分类器，然后弱分类器和目标值之间的残差，作为下一个弱分类器训练的目标
17、AI工程日志：GBDT梯度提升树之残差拟合与回归预测【附核心代码】
轻口味的专栏
03-23 549
GBDT作为一种高效的集成学习算法，在回归预测任务中展现出了强大的性能和灵活性。通过迭代地拟合残差和调整模型权重，GBDT能够逐步优化模型的预测结果，提高模型的准确性和稳定性。在实际应用中，合理选择模型参数（如学习率、树的深度、迭代次数等）对于提升模型性能至关重要。然而，GBDT也存在一些局限性。例如，它对异常值较为敏感，可能导致模型训练过程中的不稳定；此外，GBDT的训练过程是顺序的，无法并行化，可能导致在大规模数据集上的训练时间较长。
带你轻松读懂 GBDT：梯度提升决策树是什么？
gs80140的专栏
01-05 1562
GBDT（梯度提升决策树）是一种集成学习算法，通过多棵决策树的累加提升预测效果，广泛应用于回归和分类任务。它采用梯度提升策略，每轮训练基于残差或损失梯度构建新树，不断优化模型。GBDT 支持多种损失函数，具有良好的特征选择能力，但训练时间较长，易过拟合。相比 XGBoost、LightGBM 等改进算法，GBDT 性能稍逊，但结构简单、原理易懂，是机器学习模型的重要基础工具。合理调参可在实际任务中取得优异表现。
GBDT：梯度提升决策树
xyk_hust的博客
02-18 309
综述 GBDT(Gradient Boosting Decision Tree) 又叫 MART（Multiple Additive Regression Tree)，是一种迭代的决策树算法，该算法由多棵决策树组成，所有树的结论累加起来做最终答案。它在被提出之初就和SVM一起被认为是泛化能力较强的算法。   GBDT中的树是回归树（不是分类树），GBDT用来做回归预测，调整后也可以用于分类。  ...
机器学习：梯度提升树（GBDT）——基于决策树的树形模型
weixin_74268817的博客
11-11 4319
介绍一种树形模型，梯度提升树（GBDT），涉及其构建原理和过程，优点和局限性。 文章如有错误，欢迎大噶指正！
GBDT--梯度提升树
weixin_44820355的博客
07-29 1516
梯度提升树（Gradient Boosting Decision Tree，GBDT）是提升法中的代表性算法，它即是当代强力的XGBoost、LGBM等算法的基石，也是工业界应用最多、在实际场景中表现最稳定的机器学习算法之一。在最初被提出来时，GBDT被写作梯度提升机器（Gradient Boosting Machine，GBM），它融合了Bagging与Boosting的思想、扬长避短，可以接受各类弱评估器作为输入，在后来弱评估器基本被定义为决策树后，才慢慢改名叫做梯度提升树。受Boosting算法首个发
集成学习（三）GBDT 梯度提升树
sinat_41942180的博客
07-06 1293
作为当代众多经典算法的基础，GBDT的求解过程可谓十分精妙，它不仅开创性地舍弃了使用原始标签进行训练的方式，同时还极大地简化了Boosting算法的运算流程，让Boosting算法本该非常复杂的运算流程变得清晰简洁。GBDT的数学流程非常简明、美丽，同时这一美丽的流程也是我们未来所有Boosting高级算法的数学基础。损失函数的表达式是什么？损失函数如何影响模型构建？弱评估器是什么，当下boosting算法使用的具体建树过程是什么？综合集成结果是什么？集成算法具体如何输出集成结果？
Day 1：GBDT梯度提升树的应用(4).ipynb
03-07
Day 1：GBDT梯度提升树的应用(4).ipynb
【机器学习】集成学习|Boosting|随机森林|Adaboost|GBDT梯度提升树|XGBoost 极限梯度提升树 及案例实现
weixin_57336987的博客
10-13 2140
集成学习|Boosting|随机森林|Adaboost|GBDT梯度提升树|XGBoost 极限梯度提升树 及案例实现
130000002947823457136193789891_MatrixAdd_36148_1765656512480.zip
12-15
130000002947823457136193789891_MatrixAdd_36148_1765656512480.zip
硅微机械陀螺的系统结构以及自激振荡驱动进行Simulink仿真.zip
12-15
1.版本：matlab2014a/2019b/2024b 2.附赠案例数据可直接运行。 3.代码特点：参数化编程、参数可方便更改、代码编程思路清晰、注释明细。 4.适用对象：计算机，电子信息工程、数学等专业的大学生课程设计、期末大作业和毕业设计。
Trendforce - Advancements in HBM.pdf
12-15
Trendforce - Advancements in HBM.pdf
基于UFLDL斯坦福大学深度学习教程第一课稀疏自编码器原理与实现练习的详细中文项目名称本项目是一个遵循斯坦福大学UFLDL深度学习教程第一课教学大纲的稀疏自编码器实现与原理探究项.zip
12-15
基于UFLDL斯坦福大学深度学习教程第一课稀疏自编码器原理与实现练习的详细中文项目名称本项目是一个遵循斯坦福大学UFLDL深度学习教程第一课教学大纲的稀疏自编码器实现与原理探究项.zip
坐标下降求解Lasso以及稀疏学习_基于坐标下降算法高效求解Lasso回归模型并深入探讨稀疏学习理论与应用实践_该项目专注于实现和优化坐标下降算法以解决Lasso回归问题涵盖从基.zip
12-15
坐标下降求解Lasso以及稀疏学习_基于坐标下降算法高效求解Lasso回归模型并深入探讨稀疏学习理论与应用实践_该项目专注于实现和优化坐标下降算法以解决Lasso回归问题涵盖从基.zip
GB-T 2423.56-2023 试验Fh：宽带随机振动（数字控制）和导则.rar
12-15
GB-T 2423.56-2023 试验Fh：宽带随机振动（数字控制）和导则.rar
标准日本语言-单词（可筛选）
最新发布
12-15
标准日本语言-单词（可筛选）
掌握GBDT：梯度提升决策树的原理与应用
在机器学习领域，梯度提升决策树（Gradient Boosting Decision Tree，简称GBDT）是一种广泛使用的集成学习算法，主要用于回归分析和分类问题。该技术的核心思想是通过构建多个决策树来完成预测任务，每棵树是在之前...
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值