06线性回归衍生算法

最新推荐文章于 2025-04-11 06:46:08 发布

zzqtty

最新推荐文章于 2025-04-11 06:46:08 发布

阅读量544

点赞数 9

文章标签：算法线性回归回归

本文链接：https://blog.youkuaiyun.com/zzqtty/article/details/134972212

版权

本文介绍了如何在Python中使用sklearn库实现Ridge、Lasso和Elastic-Net三种线性回归算法，包括随机数据生成、模型训练和系数截距的打印。展示了如何通过Ridge（岭回归）、SGDRegressor（随机梯度下降）和Lasso（套索回归）处理回归问题。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

ridge算法

lasso算法

elastic-Net算法

from sklearn.linear_model import Ridge
from sklearn.linear_model import SGDRegressor, LinearRegression
from sklearn.linear_model import Lasso
import numpy as np

# 1. Ridge 岭回归

# 生成随机数据
X = np.random.rand(100, 5)
w = np.random.randint(1, 10, size=(5, 1))
b = np.random.randint(1, 100, size=1)
y = X.dot(w) + b + np.random.randint(1, 100)

# 使用 Ridge 岭回归模型
ridge = Ridge(alpha=0.1, solver='sag')
ridge.fit(X, y)

# 打印岭回归模型的系数和截距
print("Ridge 岭回归模型系数：", ridge.coef_)
print("Ridge 岭回归模型截距：", ridge.intercept_)

# 打印真实的 W 和 b
print('真实 W，b:', w, b)

# 使用 SGDRegressor 随机梯度下降算法
sgd = SGDRegressor(penalty="l2", alpha=0)
sgd.fit(X, y)
print('SDG 算法系数：')
print(sgd.coef_)
print('SDG 算法截距：')
print(sgd.intercept_)

# 2. Lasso 套索回归

# 使用 Lasso 套索回归模型
lasso = Lasso(alpha=0.5)
lasso.fit(X, y)

# 打印 Lasso 套索回归模型的系数和截距
print("Lasso 套索回归模型系数：", lasso.coef_)
print("Lasso 套索回归模型截距：", lasso.intercept_)

# 3. ElasticNet 弹性网络