9、机器学习算法：GBM与人工神经网络详解

机器学习算法：GBM与人工神经网络详解

1. GBM在R中的实现

GBM（Gradient Boosting Machine）在R中的参数与Python中的类似。以下是实现GBM的具体步骤：

1.1 公式指定变量

在公式中，我们按如下方式指定因变量和自变量： dependent_variable ~ the set of independent variables to be used 。

1.2 参数说明

• distribution ：指定使用的算法，如Gaussian、Bernoulli或AdaBoost算法。
• n.trees ：指定要构建的树的数量。
• interaction.depth ：树的最大深度。
• n.minobsinnode ：节点中观测值的最小数量。
• shrinkage ：学习率。
• bag.fraction ：随机选择的训练集观测值的比例，用于扩展下一棵树。

1.3 代码实现

library(gbm)
gb=gbm(SeriousDlqin2yrs~.,data=train,n.trees=10,interaction.depth=5, shrinkage=0.05)
</