code_of_yang的博客

文章目录前言一、提升树的模型1.1 什么是提升树1.2 提升树模型二、核心算法1.引入库2.读入数据总结前言上一讲简单介绍了集成学习以及Boost系列算法的思想，这一篇我们介绍统计学习性能最好之一的提升树。一、提升树的模型1.1 什么是提升树提升方法采用的是加法模型（即多个基函数线性结合）与前向分步算法（每次只学习一个基函数及系数，逐步逼近最优解）。而以决策树为基函数的提升方法成为提升树。1.2 提升树模型提升树模型表示为决策树的加法模型fM(x)=∑m=1MT(x;θm)(1)\

文章目录前言一、什么是决策树？1.1 决策树定义1.2 决策树的构建过程二、什么是CART算法2.1 算法简介2.2 特征选择2.3 CART生成（CART包含分类和回归问题，这里只介绍回归问题。）2.4 剪枝2.4.1 什么是剪枝2.4.2 为什么要剪枝2.4.3 CART剪枝算法参考文献前言集成学习常用到的基本分类器就是决策树，那么什么是回归决策树呢？下面带大家重点了解下决策树中的CART算法。一、什么是决策树？1.1 决策树定义分类决策树模型是一种描述实例进行分类的树形结构。决策树由结

什么是集成学习？集成学习(Ensemble learning)是利用多个学习器来实现学习任务的一种机器学习模型。