1、集成学习 集成学习是将多个机器学习的算法结合起来的一种方法，即实现将多个弱学习器通过组成一个整体来实现强学习的效果，俗语里：三个臭皮匠赛过一个诸葛亮。 2、Bagging算法 2.1 Bootstrap自助采样 在样本集D(样本数为m)中进行有放回的抽样，抽取数为m，则每次可能被抽取的概率为1/m，那么样本在m次采用中不被采样的概率为(1−1m)m→limn→∞(1−1m)m→1e≈0.368(1-\frac{1}{m})^m →\lim\limits_{n \to \infty}(1-\frac{1}{m})^m \to \frac{1}{e} ≈ 0.368(1−m1)m
集成学习通过组合多个弱学习器实现强学习效果。Bagging算法基于Bootstrap自助采样，构建训练集，用于训练基分类器，如决策树。随机森林是Bagging的特例，增加特征子集的随机性，提升模型独立性和准确性。随机森林适用于高维特征，能处理缺失值，并评估特征重要性。
最低0.47元/天 解锁文章
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
