【机器学习】集成学习--Stacking

1. 概述

       Stacking 就是当用初始训练数据学习出若干个基学习器后，将这几个学习器的预测结果作为新的训练集，来学习一个新的学习器。Stacking 的基础层通常包括不同的学习算法，因此stacking ensemble往往是异构的。

2. 算法流程

1）过程1-3是训练出来个体学习器，也就是初级学习器。过程5-9是使用训练出来的个体学习器来得预测的结果，这个预测的结果当做次级学习器的训练集。
2）过程5-9是使用训练出来的个体学习器来得到预测的结果，这个预测的结果当做次级学习器的训练集。
3）过程11是用初级学习器预测的结果训练出次级学习器，得到我们最后训练的模型。

       如果想要预测一个数据的输出，只需要吧这条数据用初级学习器预测，然后将预测后的结果用次级学习器预