【机器学习作业一】 线性回归 + Batch Gradient Descent(BGD) & Stochastic Gradient Descent(SGD)

【吐槽前置】选修课《机器学习》的第一次作业,虽然课讲得不咋地,但该写作业还要写作业啊:)
【声明】由于作者水平有限,很多东西都是凭感觉理解的。如果有不得当之处,请多多指教!
作业内容:分别用BGD和SGD做一个线性回归预测房价。
数据集来源:Dataset
数据集构成:13个输入=>1个输出(房价)

【公式推导】
首先,我们需要构造一个线性回归方程作为预测模型,这里我们直接使用最简单的形式,如:
y ^ = W X + b (1) \hat{y}=WX+b \tag{1} y^=WX+b(1)
其中, X X X是输入向量, W W W是权重矩阵, b b b是偏置, y ^ \hat{y} y^是预测值。

接下来,我们需要定义一个损失函数,这里选用最传统的均方误差MAE (Mean Square Error)。假设我们总共有 n n n组数据,那么就可以定义为:
L o s s = 1 n ∑ i = 1 n ( y ^ i − y i ) 2 (2) Loss=\frac{1}{n}\sum_{i=1}^{n}{(\hat{y}_i-y_i)^2} \tag{2} Loss=n

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值