weixin_42990789的博客

由于更喜欢知乎的写作方式，这里只贴上知乎的链接： 逻辑回归：https://zhuanlan.zhihu.com/p/87558098 决策树：https://zhuanlan.zhihu.com/p/87612666 随机森林：https://zhuanlan.zhihu.com/p/87586622 boosting(GBDT、Adaboost、xgboost)：https://zhuanla...

一、泛化误差 模型的泛化误差可分解为偏差、方差和噪声 偏差：度量模型的预测结果和实际值的偏离程度，即模型预测得准不准； 方差：度量模型在不同数据上的性能差异，即模型稳不稳， 二、模型的偏差和方差之间的关系：此消彼长，当模型的偏差很小时，模型可能存在过拟合的风险，例如树模型在不限制最大树深度的情况下，经常会出现过拟合的情况； 三、调参 对于简单的模型，其复杂度较低，模型的偏差较大，需...