xiu351084315的博客

1集成学习概念 集成学习是集成多个“个体学习器”。 主要是通过构建并结合多个学习器来完成学习任务，也被称为多分类器系统。 集成学习结构：先产生一组个体学习器，再用某种策略将他们结合起来。 2个体学习器概念 个体学习器一般是由一个现有的学习算法从训练数据产生的。例如C4.5决策树，BP神经网络等。 集成学习分类 集成学习分类 组件 ...

XGB算法梳理 1、算法原理 XGBoost(eXtreme Gradient Boosting)算法是Gradient Boosting算法的高效实现版本，因其在应用实践中表现出优良的效果和效率，因而也被工业界广为推崇。 想要了解XGBoost算法的原理，首先需要理解Boosting算法。简单来说，Boosting算法是将个体学习器集成为更复杂学习器的机器学习方法，它更强调个体学习器之间存...

1、GBDT基础概念与理解分析 GBDT(Gradient Boosting Decision Tree)又叫 MART（Multiple Additive Regression Tree)，是一种迭代的决策树算法，该算法由多棵决策树组成，所有树的结论累加起来做最终答案。它在被提出之初就和SVM一起被认为是泛化能力（generalization)较强的算法。近些年更因为被用于搜索排序的机器学习模...