统计学习方法(第二版) 第八章 提升方法(第二节)

本节主要介绍AdaBoost算法训练误差分析,AdaBoost算法的由来解释,最后介绍提升树模型。

目录

前言

一、AdaBoost算法的训练误差分析

二、AdaBoost算法的解释

​1.前向分步算法

2.前向分步算法与AdaBoost算法

三、提升树

总结

---

前言

上节已经学习了基本的AdaBoost算法的基本流程，但对于具体细节没有深入分析，本节介绍前向分布算法，对AdaBoost算法进行深入解释，最后介绍提升树，包括分类和回归。

---

一、AdaBoost算法的训练误差分析

AdaBoost算法的训练误差是以指数形式下降的，这是一个很好的性质。知道就行了。

、

二、AdaBoost算法的解释

这里主要介绍AdaBoost的由来，以及AdaBoost算法中的公式的由来。

1.前向分步算法

2.前向分步算法与AdaBoost算法

按照前向算法的流程，应用到AdaBoost算法。

三、提升树

---

总结