RF、gbdt、xgboost参数

最新推荐文章于 2024-10-12 21:32:44 发布

原创最新推荐文章于 2024-10-12 21:32:44 发布 · 572 阅读

0 ·

CC 4.0 BY-SA版权

树模型专栏收录该内容

18 篇文章

订阅专栏

本文介绍了两种常见的机器学习模型——随机森林和XGBoost的详细参数设置。对于随机森林，文章给出了具体的参数值，如并行任务数、决策树数量等；对于XGBoost，则深入探讨了包括学习率、正则化系数在内的多种参数的选择。

RandomForest

rf_params = {
    'n_jobs': 16,
    'n_estimators': 100,
    'max_features': 0.2,
    'max_depth': 12,
    'min_samples_leaf': 2,
}

gbdt

xgboost

xgb_params = {
    'seed': 0,
    'silent': 1,
    'objective': 'reg:linear', #binary:logistic,multi:softmax,multi:softprob
    'eval_metric': 'rmse', #mae,logloss,error,merror,mlogloss,auc
    'num_class': 4,# multi:softmax需要此参数
    'max_depth': 4,
    'min_child_weight': 1,
    'subsample': 0.7,
    'colsample_bytree': 0.7,
    'learning_rate': 0.075, # eta
    'gamma': 0.01,
    'alpha': 0.01,
    'lambda': 0.01,
    'nthread': 4,
    'nrounds': 500
}