【岭回归(Ridge Regression)】:正则化的线性模型
岭回归(Ridge Regression)是一种用于处理线性回归问题的正则化方式。在普通的线性回归中,当特征数大于样本数时,模型会出现过拟合的问题。而岭回归通过限制参数的大小,可以有效地避免过拟合问题。
岭回归的实现方式是给损失函数添加一个正则项,这个正则项包含所有参数的平方和,并乘以一个系数 alpha。alpha 的值越大,惩罚力度越大,参数越趋向于 0,就越容易解决过拟合的问题。
下面通过 Python 代码来演示如何使用岭回归:
from sklearn.linear_model import Ridge
from sklearn.datasets import load_boston
from sklearn.model_selection import train_test_split