LIUERTOU的博客

集成学习算法类型Bagging 随机森林若干个弱学习器并行跑, 解决相同的问题, 最后大家投票特征抽样样本抽样Boosting串行模型Adaboost /GBDT/ xgboost lightGMB一步一步逼近最终改的目标训练出一个模型, 比较一下和最终目标之间的差别第二个模型, 实在第一个模型基础之上, 朝着差别去训练Stacking 串行 模型gbdt 特征筛选LR 预测概率集成学习模型的特点都可以输出特征重要性 feature_imp

线性回归的基本知识回归问题的模型评估- 求和((y_predict -y_test)^2)/mean- mse mean square error 误差平方求和求平均- mae mean absolute error 误差绝对值求和求平均- rmes mse 基础上开根号- 上面这些评估指标, 都是越小模型效果越好明确目标 假设函数 如果选择了线性回归, 那么这个假设函数就是 y = ax +b我们的训练数据不能都满足 同一个y = ax+ b 100 x面积 和 y

机器学习的基本概念数据分析的4个层次描述性分析(Descriptive当前的业务现状如何？)诊断性分析(Diagnostic某些问题为什么会发生？)预测性分析(Predictive我们的业务未来会咋样？预测分析会用到机器学习算法，帮助预测产品的销量如何？)规范性分析(Prescriptive我们要采取何种对策？机器学习算法可以帮助我们进行预测/规范性分析)机器学习能解决什么问题预测分析利用历史的数据, 结合统计学的知识, 发现规律找到规律之后, 利用跟这个规律来预测未来