GBDT调参总结

最新推荐文章于 2025-04-19 10:23:23 发布

蔚蓝的珊瑚海_xdcaxy2013

最新推荐文章于 2025-04-19 10:23:23 发布

阅读量387

点赞数

文章标签：自然语言处理机器学习

本文链接：https://blog.youkuaiyun.com/sinat_28729797/article/details/116144150

版权

博客主要讲述模型训练过程，先加载模型，训练初始使用默认值，后续运用GridSearchCV进行参数搜索，还以迭代次数为例输出最优参数，并展示了训练效果。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >


from sklearn.ensemble import GradientBoostingClassifier

加载模型

gbm0 = GradientBoostingClassifier(random_state=10)

训练

gbm0.fit(X, y)

训练开始使用默认值，后边用GridSearchCV搜索参数

from sklearn.model_selection import GridSearchCV

以迭代次数为例

param_test1 = {'n_estimators': range(20, 81, 10)}

gsearch1 = GridSearchCV(
    estimator=GradientBoostingClassifier(learning_rate=0.1, min_samples_split=300, min_samples_leaf=20, max_depth=8,
                                         max_features='sqrt', subsample=0.8, random_state=10),
    param_grid=param_test1, scoring='roc_auc', cv=5)

输出最优参数