多元线性回归-python代码

引言

求解多个自变量和一个因变量之间的线性关系

y＝a1x1+a2x2+a3x3＋b （y为因变量，x为自变量，a为权重，b为截距。）

数据类型：

1.读数据

'''
y＝a1x1+a2x2+a3x3＋b （y为因变量，x为自变量，a为权重，b为截距。）

'''
from sklearn.linear_model import LinearRegression
import matplotlib.pyplot as plt
from sklearn.model_selection import train_test_split   #切分训练集和验证集
import pandas as pd
import os
import seaborn as sns

#1.获得正确的数据
path = os.getcwd().replace('\\','/') + str('/1.回归问题/data/Advertising.csv')
data = pd.read_csv(path)

2.制作数据集

X = data[['TV','radio','newspaper']]
Y = data[['sales']]  #功能是一样的，将一维改成二维数组。
# 数据可视化
"""
1.分别绘制TV、radio、newspaper和sales二个元素之间的关系
"""
# sns.pairplot(data,x_vars = ['TV','radio','newspaper'],y_vars = 'sales',height = 4,aspect = 0.8,kind='reg')

3.sklearn模型

linear_regressor = LinearRegression()
x_train,x_test,y_train,y_test = train_test_split(X,Y,test_size=0.3,random_state=0)   #则表示7:3进行划分数据集
linear_regressor.fit(x_train,y_train)  #拟合函数

# 3.使用测试集进行验证
Y_pred = linear_regressor.predict(x_test)   #预测y   使用训练集train拟合得到拟合函数后，再使用测试集test得到预测值
print('a权重：',linear_regressor.coef_)
print('b截距：',linear_regressor.intercept_)

# 4.模型评估--这些任意可以选择，根据模型的还会却确定取舍
from sklearn.metrics import mean_squared_error,mean_absolute_error,r2_score
mes_test = mean_squared_error(y_test,Y_pred)

print("平均方误差（MSE）：",mean_squared_error(y_test,Y_pred))
print("根均方误差（RMSE）：",mean_absolute_error(y_test,Y_pred))
print("平均绝对值误差（MAE）：",r2_score(y_test,Y_pred))

RR = linear_regressor.score(x_test,y_test)  # # 线性回归：R_square； 分类问题： acc
print("决定系数:",RR)  #模型越接近1，表示该模型越好

# 补充---验证该模型是否过拟合（通过训练集train进行验证）
Y_train_pred = linear_regressor.predict(x_train)   #预测y
mse_train = mean_squared_error(y_train,Y_train_pred)
# 当mes_train和mse_test误差很小，则证明该模型未发生过拟合现象。

4.完整代码

'''
y＝a1x1+a2x2+a3x3＋b （y为因变量，x为自变量，a为权重，b为截距。）

'''
from sklearn.linear_model import LinearRegression
import matplotlib.pyplot as plt
from sklearn.model_selection import train_test_split   #切分训练集和验证集
import pandas as pd
import os
import seaborn as sns

#1.获得正确的数据
path = os.getcwd().replace('\\','/') + str('/1.回归问题/data/Advertising.csv')
data = pd.read_csv(path)

X = data[['TV','radio','newspaper']]
Y = data[['sales']]  #功能是一样的，将一维改成二维数组。
# 数据可视化
"""
1.分别绘制TV、radio、newspaper和sales二个元素之间的关系
"""
# sns.pairplot(data,x_vars = ['TV','radio','newspaper'],y_vars = 'sales',height = 4,aspect = 0.8,kind='reg')
#2.生成linalg regression模型---拟合函数
linear_regressor = LinearRegression()
x_train,x_test,y_train,y_test = train_test_split(X,Y,test_size=0.3,random_state=0)   #则表示7:3进行划分数据集
linear_regressor.fit(x_train,y_train)  #拟合函数

# 3.使用测试集进行验证
Y_pred = linear_regressor.predict(x_test)   #预测y   使用训练集train拟合得到拟合函数后，再使用测试集test得到预测值
print('a权重：',linear_regressor.coef_)
print('b截距：',linear_regressor.intercept_)

# 4.模型评估--这些任意可以选择，根据模型的还会却确定取舍
from sklearn.metrics import mean_squared_error,mean_absolute_error,r2_score
mes_test = mean_squared_error(y_test,Y_pred)

print("平均方误差（MSE）：",mean_squared_error(y_test,Y_pred))
print("根均方误差（RMSE）：",mean_absolute_error(y_test,Y_pred))
print("平均绝对值误差（MAE）：",r2_score(y_test,Y_pred))

RR = linear_regressor.score(x_test,y_test)  # # 线性回归：R_square； 分类问题： acc
print("决定系数:",RR)  #模型越接近1，表示该模型越好

# 补充---验证该模型是否过拟合（通过训练集train进行验证）
Y_train_pred = linear_regressor.predict(x_train)   #预测y
mse_train = mean_squared_error(y_train,Y_train_pred)
# 当mes_train和mse_test误差很小，则证明该模型未发生过拟合现象。