Tikhonov regularization(L2正则化、岭回归)

本文探讨了在病态问题中使用正则化方法解决过拟合与欠拟合问题。当线性回归模型面对超定或欠定方程时,正则化能够通过引入惩罚项来稳定解并提升预测准确性。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

L2正则化也是岭回归的基础。
默认已经掌握最小二乘/线性回归理论。
维基百科原文
岭回归百度百科

对于y=Xw,若X无解或有多个解,称这个问题是病态的。病态问题下,用最小二乘法求解会导致过拟合或欠拟合,用正则化来解决。

设X为m乘n矩阵:

  • 过拟合模型: m<<n ,欠定方程,存在多解的可能性大;
  • 欠拟合模型: m>>n ,超定方程,可能无解,或者有解但准确率很低

这里写图片描述

评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值