岭回归(Ridge Regression)中的 α 值
岭回归(Ridge Regression)是一种 带有 L2 正则化 的线性回归方法,用于处理多重共线性(Multicollinearity)问题,提高模型的泛化能力。其中,α 值(正则化强度) 是岭回归的关键超参数,它决定了正则化项的权重。
1. 岭回归的损失函数
岭回归的目标是在最小化均方误差(MSE)的基础上,引入 L2 正则化,以防止过拟合。其损失函数(目标函数)如下:
其中:
是普通最小二乘回归(OLS)的损失项(残差平方和,RSS)