sklearn中的线性回归#01

概述

sklearn中的线性回归

sklearn中的线性模型模块是linear_model，linear_model包含了多种多样的类和函数，主要有普 通线性回归，多项式回归，岭回归，LASSO，以及弹性网。
类/函数 含义
普通线性回归
linear_model.LinearRegression 使用普通最小二乘法的线性回归

岭回归
linear_model.Ridge 岭回归，一种将L2作为正则化工具的线性最小二乘回归

类/函数 含义
linear_model.RidgeCV 带交叉验证的岭回归
linear_model.RidgeClassifier 岭回归的分类器
linear_model.RidgeClassifierCV 带交叉验证的岭回归的分类器
linear_model.ridge_regression 【函数】用正太方程法求解岭回归

LASSO
linear_model.Lasso Lasso，使用L1作为正则化工具来训练的线性回归模型
linear_model.LassoCV 带交叉验证和正则化迭代路径的Lasso
linear_model.LassoLars 使用最小角度回归求解的Lasso
linear_model.LassoLarsCV 带交叉验证的使用最小角度回归求解的Lasso
linear_model.LassoLarsIC 使用BIC或AIC进行模型选择的，使用最小角度回归求解的Lasso
linear_model.MultiTaskLasso 使用L1 / L2混合范数作为正则化工具训练的多标签Lasso
linear_model.MultiTaskLassoCV 使用L1 / L2混合范数作为正则化工具训练的，带交叉验证的多标签Lasso
linear_model.lasso_path 【函数】用坐标下降计算Lasso路径

弹性网
linear_model.ElasticNet 弹性网，一种将L1和L2组合作为正则化工具的线性回归
linear_model.ElasticNetCV 带交叉验证和正则化迭代路径的弹性网
linear_model.MultiTaskElasticNet 多标签弹性网
linear_model.MultiTaskElasticNetCV 带交叉验证的多标签弹性网
linear_model.enet_path 【函数】用坐标下降法计算弹性网的路径

最小角度回归
linear_model.Lars 最小角度回归（Least Angle Regression，LAR）
linear_model.LarsCV 带交叉验证的最小角度回归模型
linear_model.lars_path 【函数】使用LARS算法计算最小角度回归路径或Lasso的路径

正交匹配追踪
linear_model.OrthogonalMatchingPursuit 正交匹配追踪模型（OMP）
linear_model.OrthogonalMatchingPursuitCV 交叉验证的正交匹配追踪模型（OMP）
linear_model.orthogonal_mp 【函数】正交匹配追踪（OMP）
linear_model.orthogonal_mp_gram 【函数】Gram正交匹配追踪（OMP）

贝叶斯回归
linear_model.ARDRegression 贝叶斯ARD回归。ARD是自动相关性确定回归（Automatic Relevance Determination Regression），是一种类似于最小二乘的，用来计算参数向量的数学方法。
linear_model.BayesianRidge 贝叶斯岭回归

类/函数 含义
其他回归
linear_model.PassiveAggressiveClassifier 被动攻击性分类器
linear_model.PassiveAggressiveRegressor 被动攻击性回归
linear_model.Perceptron 感知机
linear_model.RANSACRegressor RANSAC（RANdom SAmple Consensus）算法。
linear_model.HuberRegressor 胡博回归，对异常值具有鲁棒性的一种线性回归模型
linear_model.SGDRegressor 通过最小化SGD的正则化损失函数来拟合线性模型
linear_model.TheilSenRegressor Theil-Sen估计器，一种鲁棒的多元回归模型