L1，L2正则化解决过拟合问题
目录
过拟合的原因
过拟合发生时，模型学习到了训练数据中的噪声或细节，表现为模型参数过于复杂（例如过大的权重值或过于灵活的假设），导致在测试数据上的表现较差
【模型复杂-----参数的个数和参数的大小范围决定的】
欠拟合 理想状态 过拟合
过拟合：曲线太过复杂，防止过拟合：让曲线变得平滑一下
正则化的目标
在机器学习中，正则化的目标是控制模型的复杂度，防止过拟合。
其常见形式是向损失函数添加一个约束项（正则项）
线性模型的损失函数
我们要对损失函数 求最小值
L1，L2正则化
L1 和 L2 正则化能够防止过拟合的原因在于它们通过在损失函数中加入惩罚项限制模型的复杂度，抑制参数的无限增大，从而提高模型的泛化能力。
L1正则化
在目标函数中加入模型参数的绝对值之和作为惩罚项
可以使部分参数缩小为零，从而实现特征选择（
最低0.47元/天 解锁文章
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
