多因子线性回归实战

原创已于 2025-05-16 16:20:32 修改 · 493 阅读

7 ·

CC 4.0 BY-SA版权

文章标签：

#线性回归 #人工智能 #机器学习

于 2025-05-14 16:48:32 首次发布

机器学习专栏收录该内容

10 篇文章

订阅专栏

线性回归理论知识（个人觉得讲得最好的，没有之一）

通俗统计学原理入门 28 线性回归找到那条直线回归直线最优拟合直线最小二乘法梯度下降算法损失函数权重偏置_哔哩哔哩_bilibili

任务

线性回归预测房价：9.9 多因子线性回归实战_哔哩哔哩_bilibili
基于 usa_housing_price.csv 数据，建立线性回归模型，预测合理房价：
1、以面积为输入变量，建立单因子模型，评估模型表现，可视化线性回归预测结果
2、以 income、house age、numbers of rooms、population、area 为输入变量，建立多因子模型，评估模型表现
3、预测 Income=65000，House Age=5，Number of Rooms=5，Population=30000，size=200 的合理房价

数据

usa_housing_price.csv 【百度网盘下载，提取码: 8497】

代码

# load the data
import pandas as pd
import numpy as np
data = pd.read_csv('usa_housing_price.csv')
data.head()

数据探查

# # 数据探查：可视化
%matplotlib inline
from matplotlib import pyplot as plt
fig = plt.figure(figsize = (10,10))

# 收入 与 价格 散点图
fig1 = plt.subplot(231) #   2 行 3 列的图形，画第 1 副图
plt.scatter(data.loc[:,'Avg. Area Income'], data.loc[:,'Price']) # x = ‘Avg.Area Income’ 列 ,y  = 'Price'列
plt.title('Price VS Income')

# 房屋年龄 与 价格 散点图
fig2 = plt.subplot(232) #   2 行 3 列的图形，画第 2 副图
plt.scatter(data.loc[:,'Avg. Area House Age'], data.loc[:,'Price']) # x = ‘Avg.Area Income’ 列 ,y  = 'Price'列
plt.title('Price VS House Age')

# 房间个数 与 价格 散点图
fig3 = plt.subplot(233) #   2 行 3 列的图形，画第 3 副图
plt.scatter(data.loc[:,'Avg. Area Number of Rooms'], data.loc[:,'Price']) # x = ‘Avg.Area Income’ 列 ,y  = 'Price'列
plt.title('Price VS Number of Rooms')

# 人口数量 与 价格 散点图
fig4 = plt.subplot(234) #   2 行 3 列的图形，画第 4 副图
plt.scatter(data.loc[:,'Area Population'], data.loc[:,'Price']) # x = ‘Avg.Area Income’ 列 ,y  = 'Price'列
plt.title('Price VS Area Populations')

# 面积 与 价格 散点图
fig5 = plt.subplot(235) #   2 行 3 列的图形，画第 5 副图
plt.scatter(data.loc[:,'size'], data.loc[:,'Price']) # x = ‘Avg.Area Income’ 列 ,y  = 'Price'列
plt.title('Price VS size')

plt.show()

任务1、以面积为输入变量，建立单因子模型，评估模型表现，可视化线性回归预测结果

#任务1、以面积为输入变量，建立单因子模型，评估模型表现，可视化线性回归预测结果
#define X and Y
X = data.loc[:,'size']
y = data.loc[:,'Price']
# X.head()
# y.head()

#模型训练需要二维数据，所以要进维度转换
X = np.array(X).reshape(-1,1)  #   对X进行维度转换
print(X.shape)

# set up the linear regression model
from sklearn.linear_model import LinearRegression
LR1 = LinearRegression() # 使用默认参数创建模型
# train the model
LR1.fit(X, y)  # LinearRegression(copy_X=True, fit_intercept=True, n_jobs=None, normalize=False)

# calculate the price vs size
y_predict_1 = LR1.predict(X) # 进行预测
print(y_predict_1)

# evaluate the model
from sklearn.metrics import mean_squared_error, r2_score
mean_squared_error_1 = mean_squared_error(y,y_pridict_1) # 两个参数：y 实际值 、y 预测值
r2_score_1 = r2_score(y,y_pridict_1)
print(mean_squared_error_1, r2_score_1)  # 108771672553.6264 0.1275031240418234
# R2 分数越接近 1 越好

mean_squared_error_1 和 r2_score：

#把图画出来看
fig6 = plt.figure(figsize = (8,5))
plt.scatter(X,y) # 把原始数据画出来 
plt.plot(X,y_predict_1,'r')#把这条回归直线也画出来
plt.show() 
# 从图形可以看出，面积 和价格的关系图中，价格范围很广，也就是说，价格可能跟面积以外的其它因素有有关系

任务2、以 income、house age、numbers of rooms、population、area 为输入变量，建立多因子模型，评估模型表现

# 任务2、以 income、house age、numbers of rooms、population、area 为输入变量，建立多因子模型，评估模型表现
# define X_multi
X_multi = data.drop(['Price'], axis =1) # dataframe 去掉某列 
X_multi.head()

# set up 2nd linear model
LR_multi = LinearRegression()
#train the model
LR_multi.fit(X_multi,y) #模型训练

# make prediction
y_predict_multi = LR_multi.predict(X_multi)
print(y_predict_multi) # 看不出预测的好不好

#模型评估
mean_squared_error_multi = mean_squared_error(y,y_predict_multi) # 两个参数：y 实际值 、y 预测值
r2_score_multi = r2_score(y, y_predict_multi)
print(mean_squared_error_multi, r2_score_multi) # r2_score_multi=0.9180229195220739, 与 1 很接近了
#上面单因子里 r2_score_1 = 0.1275031240418234

#可视化
fig7 = plt.figure(figsize=(8,5))
plt.scatter(y,y_predict_multi)  # 把实际y 值  和 预测 y 值画成 散点图，如果能集中在一条直线上，说明模型还不错
plt.show() # 从下图可以看出，集中度还是不错的

#展示单因子图，与上面多因子图进行对比
fig8 = plt.figure(figsize = (8,5))
plt.scatter(y, y_predict_1)
plt.show() # 通过对比可以看出，多因子的图集中度比下面单因子的要好很多，单因子很离散（预测值和实际值差很多）

任务3、预测 Income=65000，House Age=5，Number of Rooms=5，Population=30000，size=200 的合理房价

#任务3、预测 Income=65000，House Age=5，Number of Rooms=5，Population=30000，size=200 的合理房价
X_test = [65000,5,5,30000,200]
X_test = np.array(X_test).reshape(1,-1)
print(X_test) # [[65000     5     5 30000   200]]

y_test_predict = LR_multi.predict(X_test)
print(y_test_predict) # [817052.19516298]

线性回归房价实战 summary

通过搭建线性回归模型，实现单因子的房屋价格预测；
在单因子模型效果不好的情况下，通过考虑更多的因子，建立了多因子模型；
多因子模型达到了更好的预测效果，r2 分数为 0.91；
实现了预测结果的可视化，直观对比预测价格与实际价格的差异。