多变量线性回归中的批量梯度下降法(Batch Gradient Descent in Linear Regression with Multiple Variable)

一、理论依据参考资料

1. 深入梯度下降(Gradient Descent)算法

2. 梯度下降(Gradient Descent)小结(by 刘建平Pinard)

此文同步更新在我的新blog,欢迎访问: 传送门

二、代码实现

import pandas as pd
import numpy as np


#读入训练数据与测试数据
df_train = pd.read_csv('train_data.txt', sep='\t', header = None)
df_test = pd.read_csv('test_data.txt',sep = '\t',header = None)

#将测试数据与训练数据数组化
train_array = df_train.values
test_array = df_test.values

#记录训练数据每一列的的最大最小值
train_array_max = []
train_array_min = []

#归一化训练数据和测试数据
for i in range(train_array.shape[1]-1):
    train_array_max.a
Python中的多元线性回归是一种统计模型,它通过分析多个自变量与一个因变量之间的关系来进行预测。小批量随机梯度下降(Stochastic Gradient Descent,SGD)是一种优化算法,用于最小化代价函数,常用于机器学习中的模型训练,包括多元线性回归。 在房价预测中,假设我们有一个数据集包含了房屋的各种特征(如面积、房间数、地理位置等)作为输入,目标变量是房屋的价格。使用小批量随机梯度下降,我们会按照一定的学习率(learning rate)迭代地更新模型的权重,每次只考虑部分样本来计算梯度,这提高了训练速度并降低了对数据顺序的依赖。 以下是使用Scikit-learn库的一个简化示例: ```python import pandas as pd from sklearn.model_selection import train_test_split from sklearn.linear_model import LinearRegression from sklearn.metrics import mean_squared_error # 加载数据 data = pd.read_csv('house_prices.csv') # 数据预处理(缺失值填充、编码等) X = data.drop('price', axis=1) y = data['price'] # 划分训练集和测试集 X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42) # 创建线性回归模型 model = LinearRegression() # 小批量随机梯度下降 for i in range(epochs): for batch_X, batch_y in zip(np.array_split(X_train, batch_size), np.array_split(y_train, batch_size)): model.partial_fit(batch_X, batch_y) # 预测 predictions = model.predict(X_test) # 计算评估指标 mse = mean_squared_error(y_test, predictions) ```
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值