Bingmous的博客

BaggingBagging是并行式集成学习算法最著名的代表，基于自助采样法（bootstrap sampling）。给定m个样本的数据集，选取m次，每次选1个样本，构成一个新的样本集，其中有的样本集在原始样本集中多次出现。约有63.2%存在与原始样本集。这样进行T次学习，再对学习的基学习器输出进行加权求和或投票得出最终结果。剩下的样本可以用作包外估计，计算Bagging泛化误差的包外...

目录1 统计学习方法概论2 感知机3 k近邻法4 朴素贝叶斯法5 决策树——ID3，C4.5，CART6 逻辑回归与最大熵模型7 支持向量机——序列最小化SMO算法8 提升方法——AdaBoost，提升树（分类，回归），梯度提升树（GBDT）1 统计学习方法概论监督学习：分类、回归、标注；非监督：聚类常用损失函数：0-1损失函数，平方损失函数，绝对损失函...

目录一、线性回归1，假设函数、代价函数，梯度下降2，特征处理3，代价函数和学习速率4，特征和多项式回归5，正规方程二、逻辑回归（Logistic Regression，LR）1，假设函数2，代价函数3，梯度下降算法4，高级算法三、正则化1，过拟合2，正则化3，正则化线性回归4，正则化逻辑回归四、神经网络1，正向传播算法2，...