本文深入探讨了线性回归模型，从简单问题引入，阐述了线性模型的构建、平方损失函数以及训练数据的重要性。通过添加偏差项，给出了线性回归的显示解，并指出线性回归可以视为单层神经网络。此外，文章提及基础优化算法，尤其是梯度下降在深度学习中的应用，但未展开详细讨论。
线性回归
简单问题引出线性模型
从一个房价预测的问题 引出线性回归问题，如果我们做出以下假设：
- 假设1：影响房价的关键因素是卧室个数，卫生间个数，
和居住面积，记为 x 1 , x 2 , x 3 x_1,x_2,x_3 x1,x2,x3 - 假设2：成交价是关键因素的加权和
y = w 1 x 1 + w 2 x 2 + w 3 x 3 + b y=w_1x_1+w_2x_2+w_3x_3+b y=w1x1+w2x2+w3x3+b
权重和偏差的实际值在后面决定
那么这就是一个简单的线性模型
一般的线性模型
- 给定n维输入 x = [ x 1 , x 2 , . . . , x n ] x=[x_1,x_2,...,x_n] x=[x1,x2,...,xn]
·线性模型有一个 n n n维权重和一个标量偏差
w = [ w 1 , w 2 , , w n ] , b w=[w_1,w_2,,w_n],b w=[w1,w2,,wn],b
·输出是输入的加权和
y = w 1 x 1 + w 2 x 2 + . . . + w n x n + b y=w_1x_1+w_2x_2+...+w_nx_n+b y=w1x1+w2
扫一扫
2570
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
