XGBoost基本参数与调参

XGBoost基本参数理解与设置

本文讨论XGBoost使用过程中调试参数的基本意义与设置，参考于一篇国外大佬文章。链接在此。

一、基本参数

1. booster [default : gbtree]

(1) gbtree：以树为基础的模型。
(2) gbliner：线性模型。

2. silent [default : 0]

设置为1时起作用（也就是运行时，不打印相关信息）。

3. nthread [default to maximum number]

如不设置时，则代表最大线程数目。

二、提升参数 (tree booster)

1. eta [default : 0.3]

(1) 类似于GBM的学习速率。
(2) 通过缩小每一步的权重，使得模型变得更好。
(3) 典型的最终值为0.01~0.2之间。

2. min-child-weight [default : 1]

(1) 定义一个叶子节点所需观察值(oberservation)最小值的和。
(2) 用于控制过度学习，较高的值阻止了模型的学习关系，可能是特定于某棵