机器学习:岭回归与LASSO回归 (Ridge / LASSO Regression)
文章目录
Ridge Regression and LASSO Regression.
岭回归与LASSO回归是将正则化思想引入线性回归模型后得到的方法。
- 岭回归对模型的参数加入L2正则化,能够有效的防止模型过拟合,解决非满秩下求逆困难的问题。
- LASSO回归全称为Least Absolute Shrinkage and Selection Operator (最小绝对收缩选择算子, 套索算法) ,对模型的参数加入L1正则化,能够稀疏矩阵,进行庞大特征数量下的特征选择。
1. Ridge Regression
岭回归(Ridge Regression)是引入了L2正则化的线