m0_46677782的博客

原创 算法误区记录

本文介绍了机器学习中的几个核心概念及其相互关系。首先对比了梯度提升和梯度下降的区别：梯度下降通过反方向优化模型参数最小化损失函数，而梯度提升通过迭代构建弱分类器并计算残差梯度来优化模型。其次阐述了集成学习的概念，指出随机森林和梯度提升均属此类方法，前者通过多棵独立决策树投票，后者通过迭代优化弱分类器。最后解释了主成分分析（PCA）的原理，即通过寻找方差最大的新坐标轴来降维并保留数据关键信息。这些方法都是构建强分类器的重要技术手段。