动手学深度学习(PyTorch)笔记二、深度学习基础——线性回归

最新推荐文章于 2024-08-15 15:18:24 发布
最新推荐文章于 2024-08-15 15:18:24 发布
阅读量339 收藏
点赞数
CC 4.0 BY-SA版权
分类专栏： PyTorch 文章标签： python 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/liuwp5/article/details/107550780
本文是动手学深度学习(PyTorch)的笔记，主要讲解线性回归的基础知识，包括模型定义、训练过程（损失函数、优化算法）、模型预测，以及线性回归的神经网络图和矢量计算表达式的表示方法。还介绍了线性回归的代码实现，包括数据集生成和使用PyTorch中的工具和优化算法。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

动手学深度学习(PyTorch)代码笔记

记录pytorch用于深度学习的学习过程。

二、深度学习基础

1、线性回归

线性回归和softmax回归都是单层神经网络，用于解决回归问题。

(1)基本要素
1、模型定义

y^=x1w1+x2w2+b \hat y = x_1w_1 + x_2w_2 + b y^​=x1​w1​+x2​w2​+b

2、模型训练
（1）训练数据
（2）损失函数

L=1n∑12(y^(i)−y(i))2 L = \frac 1 n\sum\frac 1 2(\hat y^{(i)} - y^{(i)})^2 L=n1​∑21​(y^​(i)−y(i))2

（3）优化算法

解析解analytical solution：误差最小化问题的解可以直接用公式表达出来。

数值解numerical solution：只能通过优化算法有限次迭代模型参数来尽可能降低损失函数的值。

​ 小批量梯度下降法mini-batch

3、模型预测

经过训练后，得到w1 w2 b。
y^=x1w1+x2w2+b \hat y = x_1w_1 + x_2w_2 + b

最低0.47元/天 解锁文章
动手学习深度学习 DIVE into Deep learning 第三章线性神经网络
weixin_43823175的博客
12-31 934
线性神经网络 3.1. 线性回归 3.1.1. 线性回归的基本元素 线性回归（linear regression）可以追溯到19世纪初， 它在回归的各种标准工具中最简单而且最流行。 线性回归基于几个简单的假设： 首先，假设自变量x和因变量y之间的关系是线性的， 即y可以表示为x中元素的加权和，这里通常允许包含观测值的一些噪声； 其次，我们假设任何噪声都比较正常，如噪声遵循正态分布。 在机器学习的术语中，该数据集称为训练数据集（training data set） 或训练集（training set）。 每行
动手学深度学习 PyTorch版 李沐 视频笔记
weixin_45729566的博客
08-06 409
04 数据操作+数据预处理。
3 线性神经网络-代码详解
小王同学
08-11 361
"""线性回归模型y=wx+b""""""损失函数0.5*(y_hat-y)^2 预测值y_hat 真实值y""""""小批量随机梯度下降法"""def sgd(params, lr, batch_size): #params是【w】，【b】with torch.no_grad(): #停止对梯度计算和存储，减少内存消耗，不会进行反向传播param.grad.zero_() #清除param的梯度值# nn是神经网络的缩写# nn.Linear设置全连接层，输入张量大小为2，输出张量大小为1。
动手学深度学习之如何理解param.grad / batch_size（详细讲解）
我有明珠一颗的博客
02-09 2878
动手学深度学习之如何理解param.grad / batch_size（详细讲解）从上图计算过程可以看出，params.grad 其实是batch中所有样本的grad总和，所以这个时候除以batch_size就是相当于取一个平均值，这样就算下一次传入的batch_size改变了，最后也不会影响得到的平均数。
深度学习与神经网络学习笔记(四)---线性回归
GodWeiJia的博客
08-10 1114
关于深度学习与神经网络的一些学习笔记
【Pytorch神经网络基础理论篇】 07 线性回归 + 基础优化算法
小李的研究生学习日记
03-29 3128
一、视频截图 d2l包可以直接在conda的prompt里面输入命令 pip install -U d2l 来安装
动手学深度学习3.7 softmax回归的简洁实现-笔记&练习（PyTorch）
scdifsn的博客
05-06 1559
李沐老师《动手学深度学习（PyTorch版）》3.7 softmax回归的简洁实现-笔记&练习详解
【李沐 动手学深度学习】视频课程笔记与重点总结 01-18，从线性回归到pytorch代码
最新发布
qq_52589927的博客
08-15 1332
本文介绍了：线性回归、多层感知机、pytorch代码等等。其中包含有梯度下降、激活函数、dropout、正则化、pytorch模型构建与参数管理的部分。
机器学习-动手学深度学习pytorch版1-3章笔记
weixin_45562632的博客
08-25 528
机器学习+动手学深度学习pytorch版1-3章笔记1.深度学习简介1.1 起源1.2 发展1.3 成果案例1.4 特点2.预备知识2.1 环境配置2.2 数据操作2.3 自动求梯度 1.深度学习简介 1.1 起源 雅各比·伯努利（1655–1705）：伯努利分布 卡尔·弗里德里希·高斯（1777–1855）：最小二乘法 罗纳德·费雪（1890–1962）：统计学理论 克劳德·香农（1916–2001）的信息论 阿兰·图灵 （1912–1954）的计算理论 唐纳德·赫布（1904–1985）：赫布理论 亚历
动手学深度学习——线性回归的从零开始实现
橙子的博客
11-22 3039
我们将从零开始实现整个方法，包括流水线、模型、损失函数和小批量随机梯度下降优化器。 import os import matplotlib.pyplot as plt #其中matplotlib包可用于作图，且设置成嵌入式 import torch from IPython import display from matplotlib import pyplot as plt import numpy as np import random 我们构造⼀个简单的⼈⼯训练数据集，给定随机⽣成的批量样本特.
Pytorch学习笔记（I）——预训练模型（五）：VGG16网络结构
lockonlxf的博客
05-21 3391
VGG( (features): Sequential( (0): Conv2d(3, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1)) (1): ReLU(inplace) (2): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1...
从头学pytorch(四)　softmax回归实现
山有山的高度，海有海的胸怀。
12-26 1531
FashionMNIST数据集共70000个样本,60000个train,10000个test．共计10种类别. 通过如下方式下载． mnist_train = torchvision.datasets.FashionMNIST(root='/home/sc/disk/keepgoing/learn_pytorch/Datasets/FashionMNIST', ...
pytorch 学习笔记 part 1线性回归
kkx2218813的博客
02-14 400
一、线性回归 1.从零开始实现线性回归模型 In[1]: # import packages and modules %matplotlib inline import torch from IPython import display from matplotlib import pyplot as plt import numpy as np import random print(torc...
【深度学习】线性回归（二）小批量随机梯度下降及其python实现
qq_28869927的博客
12-11 3575
文章目录概述小批量随机梯度下降解析解和数值解小批量随机梯度下降python实现需要的先验知识代码和实验 概述 本文在我的前一篇博客（【深度学习】线性回归（一）原理及python从0开始实现）的基础上，介绍一下深度学习中的小批量随机梯度下降方法（mini-batch stochastic gradient descent），将其应用在线性回归中。在不使用深度学习框架的前提下，使用Python进行了实...
SET_Matplotlib
weixin_34007020的博客
09-06 898
fig.tight_layout() 调整子图间距 legend 图例分开显示 转载于:https://www.cnblogs.com/JueJi-2017/p/7487372.html
Pytorch实现线性回归
方寸想法，编码宇宙
03-20 2035
1.引入包 import torch from IPython import display from matplotlib import pyplot as plt import numpy as np import random #random模块用于生成随机数 %matplotlib inline 在使用jupyter notebook 或者 jupyter qtconsole的时候，才...
《动手学深度学习》Day1:线性回归
ch18328071580的博客
02-13 532
本文是14天学习《动手学深度学习》的第一天，主要学习和时间了先行回归，对比了使用pytorch和不用pytorch框架的代码。
【深度学习】线性回归实现（pyTorch）
Bryce-HJ
07-13 423
3.1 线性回归 import torch from time import time a = torch.ones(1000) b = torch.ones(1000) c = torch.zeros(1000) start = time() for i in range(1000): c[i] = a[i] + b[i] print(time()-start) start = time() d = a + b print(time()-start) 0.01695466041564941
PyTorch学习笔记2——线性回归
murphlaw的博客
05-30 546
2.1 线性回归 线性回归输出主要可以用于解决回归问题，比如预测房屋价格、气温、销售额等连续值问题； 与回归问题不同的分类问题，分类问题的模型最终输出是一个离散值，比如图像分类，垃圾分类、疾病监测，softmax回归用于解决分类问题 线性回归和softmax回归都是单层神经网络，我们首先学习线性回归 2.1.1线性回归基本要素 我们以一个简单的房屋价格预测做一个例子来解释线性回归的基本要素，假设房屋价格只取决于两个因素（实际肯定是许多因素，之后可以推广），即面积和房龄，我们希望探讨价格和这两个因素的关系 2
机器学习深度解析：JupyterNotebook学习笔记
7. 深度学习基础：如果资源内容包含深度学习部分，可能还会包含神经网络的结构、前向传播、反向传播、激活函数、损失函数等基础知识。 8. 深度学习进阶：涵盖更高级的深度学习主题，如卷积神经网络(CNN)、循环神经...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值