一元线性回归实战

最新推荐文章于 2024-08-23 10:55:19 发布

原创最新推荐文章于 2024-08-23 10:55:19 发布 · 209 阅读

0 ·

CC 4.0 BY-SA版权

机器学习专栏收录该内容

5 篇文章

订阅专栏

本文详细介绍了如何使用Python从零开始实现线性回归算法，并对比了使用sklearn库进行线性回归的便捷性。首先，通过numpy和matplotlib库手动实现了线性回归，包括梯度下降法求解最佳拟合直线；然后，利用sklearn库的LinearRegression模型简化了整个过程。本文适合初学者理解线性回归的基本原理及应用。

一：算法具体实现

import numpy as np
import matplotlib.pyplot as plt
data=np.genfromtxt("data.csv",delimiter=",")
x_data=data[:,0]
y_data=data[:,1]
plt.scatter(x_data,y_data)
plt.show()
lr=0.01
b=0
k=0
epochs=100
def computer_error(b,k,x_data,y_data):
    totalError=0
    for i in range(0,len(x_data)):
        totalError+=(y_data[i]-(k*x_data[i]*b))**2
        return totalError/float(len(x_data))
def function(x_data,y_data,b,k,lr,epochs):
    m=float(len(x_data))
    for i in  range(epochs):
        b_grad=0
        k_grad=0
        for j in range(0,len(x_data)):
            b_grad+=(1/m)*((k*x_data[j]+b)-y_data[j])
            k_grad+=(1/m)*x_data[j]*((k*x_data[j]+b)-y_data[j])
        b-=(lr*b_grad)
        k-=(lr*k_grad)
    return b,k
computer_error(b,k,x_data,y_data)
b,k=function(x_data,y_data,b,k,lr,epochs)
plt.plot(x_data,y_data,'b.')
plt.plot(x_data,x_data*k+b,'r')
plt.show()

二：运用sklearn库调用

import numpy as np
from sklearn.linear_model import LinearRegression
import matplotlib.pyplot as plt
data=np.genfromtxt("data.csv",delimiter=",")
x_data=data[:,0]
y_data=data[:,1]
plt.scatter(x_data,y_data)
plt.show()
x_data=x_data[:np.newaxis]
print(x_data)
y_data=y_data[:np.newaxis]
print(y_data)
model=LinearRegression()
model.fit(x_data,y_data)
LinearRegression(copy_X=True,fit_intercept=True,n_jobs=1,normalize=False)
plt.plot(x_data,y_data,'b.')
plt.plot(x_data,model.predict(x_data),'r')
plt.show()