集成学习理论梳理-bagging、boosting

集成学习

集成学习归属于机器学习，他是一种「训练思路」，
并不是某种具体的方法或者算法。

集成学习的核心思路就是「人多力量大」，它并没有创造出新的算法，
而是把已有的算法进行结合，从而得到更好的效果

集成学习会挑选一些简单的基础模型进行组装，
组装这些基础模型的思路主要有 2 种方法：

1.bagging（bootstrap aggregating的缩写，也称作“套袋法”）
2.boosting

1.bagging

bagging的核心思路是---民主

Bagging 的思路是所有基础模型都一致对待，每个基础模型手里都只有一票。然后使用民主投票的方式得到最终的结果。