weixin_50006650的博客

原创 集成学习详解

具体来讲，这类集成学习方法通过自助采样法（Bootstrap Sampling，随机有放回的抽样）生成多个训练集，然后在每个训练集上训练出一个“基学习器”，最后通过对所有“基学习器”的结果进行投票（分类问题）或平均（回归问题）的方式得到最终结果。尽管列块并行学习显著提高了处理速度，但在顺序访问特征值时，虽然访问的是连续的内存空间，但通过特征值持有的索引（样本索引）访问样本获取一阶、二阶导数时，这种访问操作通常是不连续的，可能导致CPU缓存命中率低，影响算法效率。根据该“基学习器”的表现调整样本的权重。