机器学习之提升

提升：

可用于回归和分类，他的每一步产生一个弱分类模型，并加权累加到总模型中；如果 每一步的弱预测模型生成都是依据损失函数的梯度方向，则称梯度提升；
提升首先给定一个目标损失函数；选择一个负梯度方向逐步接近局部极小值；
（中位数是绝对最小最优解）
提升算法：

梯度提升的典型基函数就是决策树