。。。。。。

集成算法简介：集成学习通过构建并结合多个学习器完成任务，结合策略有简单平均法、加权平均法，结果也可通过投票法产生。不过，集成学习的效果存在提升、不起作用、起负作用三种情况。
集成算法分类：依据个体学习器生成方式，可分为Bagging、Boosting和Stacking三类。其中，Bagging的个体学习器可并行生成；Boosting的个体学习器需串行生成；Stacking能聚合多个模型，且可分阶段进行。
Bagging算法及随机森林：Bagging通过训练多个分类器取平均来工作，预测时分类用投票法、回归用平均法。随机森林是Bagging的典型代表，具有数据和特征选择的随机性，优势明显，包括能处理高维数据、可判断特征重要性、易并行化、便于可视化等，在Python的 sklearn 库中有对应的分类和回归算法。
Boosting算法及AdaBoost：Boosting从弱学习器出发，通过加权训练提升效果，AdaBoost是其典型算法，会根据分类效果调整样本权重，最终根据分类器准确性确定权重并组合成强分类器。
Stacking算法：Stacking可以将多种分类器堆叠使用，分阶段操作，第一阶段各分类器得出结果，第二阶段用前一阶段结果继续训练 。