参照https://www.zhihu.com/question/26957827?sort=created,感谢作者
以SVM这样的强分类器作为弱分类器使用,有可能会造成两个问题:
1. 第一次产生的分类器错误率已经达到上限,使后面的分类器起不到效果,或者说分类器的差异性太小;
2. 训练出的多个分类器,基本是相似位置的超平面,也就是说,最后组合得到的还是一个线性分类器,因此模型对数据的拟合能力,不如非线性分类器,达不到adaboost组合变强的结果。
经请教,以SVM作为弱分类器,弱分类器使用的训练样本依然是原始样本,权重是在损失函数中考虑的,比如权重是w,如果把某个样本分错了,损失就不是1,而是w,所以,为了使得损失函数最小,分类器就会尽量将权值大的样本分对。