booting和adbboost

        详细解释下,boosting中最基本的是adaboost,你要是弄清楚这个算法其他主要原理都差不多,只是实现手段或者说采用的数学公式不同.它是这样的：先对所有样本辅以一个抽样权重（一般开始的时候权重都一样即认为均匀分布）,在此样本上训练一个分类器对样本分类,这样可以得到这个分类器的误差率,我们根据它的误差率赋以一个权重,大体是误差越大权重就越小,针对这次分错的样本我们增大它的抽样权重,这样训练的下一个分类器就会侧重这些分错的样本,然后有根据它的误差率又计算权重,就这样依次迭代,最后我们得到的强分类器就是多个弱分类器的加权和.我们可以看出性能好的分类器权重大一些,这就体现了boosting的精髓.

        在整个Adaboost算法中,弱分类器的能力得到了不断的加强。一开始时,由于各样本抽样权重相同。弱分类器分对的概率很低,而在循环的过程中,训练样本库中的负样本抽样权重被加大突出,使得弱分类器更多的接触到这些样本,从而提升了对负样本的识别率。同时,弱分类器也在根据自身的分类误差得到了相应的票拟权重。.这样将会大大的突出那些分类正确率比较高的弱分类器,最后经过T次循环得到的多个对应着自身相应权重的弱分类器,最终的强分类器就是由这样的多个弱分类器加起来形成的。在传统的基于Adaboost算法的人脸检测中,将根据这个强分类器来对含有人脸的图片进行人脸检测。

        缺点：

速度慢，在一定程度上依赖于训练数据集合和弱学习器的选择，训练的数据不充足或者弱学习器太过“弱”，都将导致其训练精度的下降。

Boosting容易受到噪声的影响，这是因为他在迭代过程中总是给噪声分配较大的权重，使得这些噪声在以后的迭代中受到更多的关注