《动手学深度学习》(Pytorch版)——预备知识学习

跟着李沐学AI(动手学深度学习 PyTorch版)学习笔记——03安装(环境配置d2l、pytorch)(python3.7版本+Windows+各种问题解决措施) 跟着李沐学AI(动手学深度学习 PyTorch版)学习笔记——03安装(python3.7版本+Windows+各种问题解决措施) 阅读详情

接下来一段时间要好好学习深度学习 和 Pytorch的基础知识。

《动手学深度学习》(Pytorch版)

今天刚刚了解到这份在线教程,迫不及待的赶紧食用了。

地址:https://tangshusen.me/Dive-into-DL-PyTorch/#/

环境配置什么的就不说了,对于Anaconda,Pycharm,Pytorch的安装,以前都学习过也写过相关的博客:
这里贴上链接:
Windows10下Anaconda环境的安装与配置

Windows10系统下Anaconda的虚拟环境的创建与pytorch环境的安装

好了,进入今天的学习内容。

今天学习tensor的数据操作。

如何创建tensor?

创建tensor的方法有很多,Pytorch官方文档里面有详细描述过。

在这里插入图片描述

如 torch.ones() 创建一个元素都为1的tensor;

torch.empty() 创建一个未初始化的tensor;

torch.zeros() 创建一个元素值都为0的tensor;

torch.rand()创建一个元素值随机的tensor;

最简单的是通过torch.Tensor()来创建一个tensor;

比如torch.Tensor(3,256,256)就创建了一个3 * 256 * 256 的一个tensor

在这里插入图片描述

如何改变tensor的形状?

首先得知道如何获取tensor的形状,也就是size

import torch

x = torch.Tensor(3,256,256)
print(x.size())
print(x.shape)
"""
torch.Size([3, 256, 256])
torch.Size([3, 256, 256])
"""

注意:返回的torch.Size其实就是一个tuple, 支持所有tuple的操作。

知道如何获取tensor的size了,那么如何改变tensor的size呢?

view()和reshape()函数,不过官方不推荐使用reshape函数

import torch
x = torch.Tensor(5, 3)
y = x.view(15)
z = x.view(-1, 5)  # -1所指的维度可以根据其他维度的值推出来
print(x.size(), y.size(), z.size())
# torch.Size([5, 3]) torch.Size([15]) torch.Size([3, 5])

注意view()返回的新Tensor与源Tensor虽然可能有不同的size,但是是共享data的,也即更改其中的一个,另外一个也会跟着改变。(顾名思义,view仅仅是改变了对这个张量的观察角度,内部数据并未改变)

如何对tensor进行运算?

两个torch 加减法;

import torch

x = torch.ones(3,2)
y = torch.zeros(3,2)

print(x + y)
"""
tensor([[1., 1.],
        [1., 1.],
        [1., 1.]])
"""


z = torch.empty(3,2)
torch.add(x,y,out = z)
print(z)
"""
tensor([[1., 1.],
        [1., 1.],
        [1., 1.]])
"""
x += y
print(x)
"""
tensor([[1., 1.],
        [1., 1.],
        [1., 1.]])
"""

索引

还可以使用类似NumPy的索引操作来访问Tensor的一部分。

其实在Pytorch代码中,最头疼的就是各种tensor的通过切片索引维度变来变去,每个tensor表达的数据意义得明白。

需要注意的是:索引出来的结果与原数据共享内存,也即修改一个,另一个会跟着修改。

乘法 和除法以后遇到了以后再来补充

pytorch有个重要的广播机制。

如何在Tensor与numpy之间互相转换?

很容易用numpy()和from_numpy()将Tensor和NumPy中的数组相互转换。

但是需要注意的一点是: 这两个函数所产生的的Tensor和NumPy中的数组共享相同的内存(所以他们之间的转换很快),改变其中一个时另一个也会改变!!!

import torch

a = torch.ones(5)
b = a.numpy()  # 将a 转换成一个对应的numpy数组,b与a共享内存
print(a, b)

a += 1
print(a, b)
b += 1
print(a, b)
"""
tensor([1., 1., 1., 1., 1.]) [1. 1. 1. 1. 1.]
tensor([2., 2., 2., 2., 2.]) [2. 2. 2. 2. 2.]
tensor([3., 3., 3., 3., 3.]) [3. 3. 3. 3. 3.]
"""
import numpy as np
a = np.ones(5)
b = torch.from_numpy(a) # 将一个numpy数组a 转换成对应的tensor,两者共享内存
print(a, b)

a += 1
print(a, b)
b += 1
print(a, b)
"""
[1. 1. 1. 1. 1.] tensor([1., 1., 1., 1., 1.], dtype=torch.float64)
[2. 2. 2. 2. 2.] tensor([2., 2., 2., 2., 2.], dtype=torch.float64)
[3. 3. 3. 3. 3.] tensor([3., 3., 3., 3., 3.], dtype=torch.float64)
"""

还有一个常用的将NumPy中的array转换成Tensor的方法就是torch.tensor(), 需要注意的是,此方法总是会进行数据拷贝(就会消耗更多的时间和空间),所以返回的Tensor和原来的数据不再共享内存。

即

import torch
import numpy as np
a = np.ones(5)
b = torch.Tensor(a)
print(a,b)
# [1. 1. 1. 1. 1.] tensor([1., 1., 1., 1., 1.])

如何在CPU和GPU之间互相转换tensor?

跑深度学习代码中,tensor必须全部加载到GPU中,但是有时候,有些运算又不得不在CPU中运行。

所以tensor在两者中如何转换必须学会。

最简单的操作就是x.to(“cuda”)

x.to(“cpu”)

用方法to()可以将Tensor在CPU和GPU(需要硬件支持)之间相互移动。

# 以下代码只有在PyTorch GPU版本上才会执行
if torch.cuda.is_available():
    device = torch.device("cuda")          # GPU
    y = torch.ones_like(x, device=device)  # 直接创建一个在GPU上的Tensor
    x = x.to(device)                       # 等价于 .to("cuda")
    z = x + y
    print(z)
    print(z.to("cpu", torch.double))       # to()还可以同时更改数据类型

自动求梯度

Tensor是Pytorch的核心类,如果将其属性.requires_grad设置为True,它将开始追踪(track)在其上的所有操作(这样就可以利用链式法则进行梯度传播了)。完成计算后,可以调用.backward()来完成所有梯度计算。此Tensor的梯度将累积到.grad属性中。

链接:https://tangshusen.me/Dive-into-DL-PyTorch/#/chapter02_prerequisite/2.3_autograd

PyTorch官网关于tensor的博客讲解,很值得学习

https://pytorch.org/tutorials/beginner/basics/tensor_tutorial.html

《动手学深度学习》学习笔记 本文首先介绍了深度学习的基础知识,包括线性回归、多层感知机、卷积神经网络、循环神经网络的基本原理,在其基础上讲解网络优化算法进一步优化网络和自定义网络实现自己的网络。然后介绍深度学习的应用,具体包括单发多框目标检测、语义分割、风格迁移、中英文翻译系统。最后总结我对本课程学习的心得体会和建议。 阅读详情

相关推荐

个人学习笔记1:动手学深度学习pytorch版-李沐

主要记录学习笔记,学习书目为李沐老师的《动手学习深度学习》 重预备知识开始记录。 开源书籍地址:https://zh-v2.d2l.ai/chapter_preface/index.htmll 李沐老师B站视频:https://space.bilibili.com/1567748478/channel/seriesdetail?sid=358497

浪子L的博客 1947

动手学深度学习

感知机 给定输入x,权重w,偏移b,感知机输出: 就是一个二分类问题,对比线性回归,线性回归输出实数,感知机输出离散的类;对比softmax,它有n个类的话,输出n个元素,可以是多分类,回归输出的是概率 initialize w=0 and b=0 repeat if yi[<w,xi>+b]<=0 then #两者异号说明分类错误 w <- w+yixi and b <- b+yi end if until all classified corre

xiaoyuia的博客 1517

《动手学深度学习》PyTorch版本

本项目对中文版《动手学深度学习》中的代码进行整理,并参考一些优秀的GitHub项目给出基于PyTorch的实现方法。为了方便阅读,本项目给出全书PyTorch版的PDF版本。欢迎大家Download,Star,Fork。除了原书内容外,我们还为每一章增加了本章附录,用于对该章节中用到的函数以及数学计算加以说明,除此之外还增加了语义分割网络(U-Net)的实现。

wzy628810的博客 9441

动手学深度学习(一)深度学习介绍1

时至今日,人们常用的计算机程序几乎都是软件开发人员从零编写的。比如,现在开发人员要编写一个程序来管理网上商城。经过思考,开发人员可能提出如下一个解决方案: 首先,用户通过Web浏览器(或移动应用程序)与应用程序进行交互;紧接着,应用程序与数据库引擎进行交互,以保存交易历史记录并跟踪每个用户的动态;其中,这个应用程序的核心——“业务逻辑”,详细说明了应用程序在各种情况下进行的操作。为了完善业务逻辑,开发人员必须细致地考虑应用程序所有可能遇到的边界情况,并为这些边界情况设计合适的规则。

Shining0596_Limcy 2340

《动手学深度学习》(PyTorch版)

《动手学深度学习》PyTorch版深度学习简介起源发展成功案例特点小结练习参考文献 深度学习简介 你可能已经接触过编程,并开发过一两款程序。同时你可能读过关于深度学习或者机器学习的铺天盖地的报道,尽管很多时候它们被赋予了更广义的名字:人工智能。 实际上,或者说幸运的是,大部分程序并不需要深度学习或者是更广义上的人工智能技术。例如,如果我们要为一台微波炉编写一个用户界面,只需要一点儿工夫我们便能设计出十几个按钮以及一系列能精确描述微波炉在各种情况下的表现的规则。 再比如,假设我们要编写一个电子邮件客户端。这样

全网粉丝30W+,优快云、稀土掘金人工智能领域签约作者,人工智能、大模型、Python 爬虫,商务合作,请私信沟通。 7524

《动手学深度学习》PyTorch版实战指南:从环境配置到代码跑通

深度学习作为人工智能的核心技术,正在改变图像识别、自然语言处理等众多领域的开发方式。对于初学者而言,选择一个合适的框架至关重要,PyTorch凭借其动态计算图和灵活的调试体验,已成为研究和工业界的主流选择。然而,从理论到实践之间往往存在一条鸿沟——环境配置、依赖管理、GPU加速等问题常常让新手望而却步。掌握Anaconda虚拟环境、CUDA版本对应关系等基础工程技能,是顺利运行深度学习代码的前提。当环境就绪,通过可交互的Notebook边看原理边跑代码,将理论转化为可观测的训练过程,能够极大提升学习效率。《

weixin_42565865的博客 356

《动手学深度学习》Pytorch 版学习笔记一:从预备知识到现代卷积神经网络

笔者有一定的机器学习和深度学习理论基础,对 Pytorch 的实战还不够熟悉,打算入职前专项突击一下 本文内容为笔者学习《动手学深度学习》一书的学习笔记 主要记录了代码的实现和实现过程遇到的问题

andrew_1219的博客 1531

【SLAM】探索explore_lite在移动机器人自主建图中的高效边界检测策略

本文深入解析了explore_lite在移动机器人自主建图中的应用,重点探讨了其高效的贪婪边界检测策略。该工具包专为资源受限平台设计,通过直接利用SLAM生成的地图信息,以极低的计算开销实现快速、稳定的未知区域探索,并与move_base导航框架无缝协作,是轻量级机器人自主探索的优选方案。

purple的博客 1067

【李沐:动手学深度学习pytorch版】第2章:预备知识

第2章 预备知识 2.1 数据操作 2.1.1 入门 导入的是torch而不是pytorch import torch 一个数叫标量 一个轴叫向量 两个轴叫矩阵 arange # 生成行向量 x = torch.arange(12) x tensor([ 0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11]) shape x.shape #访问张量的形状 torch.Size([12]) numel() #访问张量中元素的个数 x.numel() 12

zdb 1471

echarts如何实现3D饼图(环形图)?

自定义修改3D饼图的宽高和legend

i-cat的博客 1万+

ESP32开发环境与微信小程序通信的完整示例

通过搭建稳定的esp32开发环境,实现其与微信小程序间的双向通信,涵盖Wi-Fi连接、数据收发与协议设计,为物联网应用提供低成本解决方案。

weixin_42126677的博客 1135

动手学深度学习(PyTorch版)笔记 02 预备知识

范数是一种用来度量向量或矩阵的大小的函数。在数学中,范数是对向量空间中的元素进行度量的一种方式,它将向量的长度或大小映射到非负实数上。使用自动微分的一个好处是: 即使构建函数的计算图需要通过Python控制流(例如,条件、循环或任意函数调用),我们仍然可以计算得到的变量的梯度。函数的输出是该张量的第一个维度的大小(即张量的长度)。反向:从相反的方向执行图,利用正向计算的中间结果以及链式法则,直接得出梯度值。导数可以被解释为函数相对于其变量的瞬时变化率,它也是函数曲线的切线的斜率。,其输入输出都是标量。

u011326152的博客 269

ABP框架实战:从零搭建多租户应用(含完整代码示例)

本文详细介绍了如何使用ABP框架从零构建多租户SaaS应用,涵盖多租户架构设计、数据隔离实现、租户管理及性能优化等核心内容。通过完整的代码示例,帮助开发者快速掌握企业级数据隔离系统的开发技巧,提升SaaS应用开发效率。

weixin_29247219的博客 264

《动手学深度学习(Pytorch版)》Task02:预备知识——4.25打卡

《动手学深度学习(Pytorch版)》Task02:预备知识——4.25打卡数据操作N维数组——张量创建数组访问元素入门初始化矩阵运算符广播机制索引和切片节省内存转换为其他Python对象转换为NumPy张量`ndarray`张量转换为Python标量数据预处理安装pandas读取数据集处理缺失值转换为张量格式删除缺失值最多的列线性代数标量向量长度、维度和形状矩阵范数特殊矩阵特征向量和特征值张量降维非降维求和点积(Dot Product)——标量矩阵-向量积矩阵-矩阵乘法范数微积分导数和微分亚倒数偏导数梯度

无名小秃瓢的博客 1085

在SAP系统中,公司间关联交易(Intercompany Transactions)或内部往来主要有三种经典的实现模式。这些模式的选择取决于企业的业务复杂度、自动化需求以及对实时性的要求

SAP系统中公司间关联交易的三种实现模式分析:1)手工记账模式(FB60/FB70)适用于低频交易,灵活性高但易出错;2)SD/MM跨公司销售采购模式(VA01/VF01/ME21N)适用于真实业务流转,业务财务集成度高;3)自动清算模式(F.13/ICR)适合高频交易集团企业,支持实时自动对账。关键成功要素包括正确配置贸易伙伴字段、统驭科目及专用凭证类型。建议根据企业规模、业务复杂度及自动化需求选择合适模式,其中大型集团优先考虑自动对账方案以确保合并报表准确性。

金牌架构师 563

智能车图像处理20-进阶篇12--正入十字补线1

这篇文章主要讲述基本的正入十字补线方法。

taiyuezyh的博客 6951

动手学深度学习pytorch版----2预备知识

机器学习通常需要处理大型数据集,我们可以将某些视为一个表,表的行对应,列对应。n维数组,也称为张量tensor,深度学习框架比Numpy中的ndarray多一些重要的功能:首先GPU很好地支持加速计算,而Numpy仅支持cpu计算;其次张量支持。

qq_56915427的博客 620

热力学仿真软件:COMSOL Heat Transfer_(18).案例研究:工业加热炉优化

工业加热炉的优化设计和操作参数调整是提高制造过程效率和产品质量的关键。通过仿真软件如COMSOL Multiphysics,可以精确地分析炉内的温度分布、能耗和热损失,从而提出有效的优化方案。本文通过一个实际应用案例,展示了如何利用仿真技术进行工业加热炉的综合优化,并通过实验验证了优化方案的有效性。希望这些方法和案例可以为其他制造企业提供参考,帮助他们在实际生产中提高加热炉的性能和效率。

kkchenjj的博客 1011

【学习笔记(二):《动手学深度学习 Pytorch版》预备知识】

《动手学深度学习 Pytorch版》预备知识

qq_31514061的博客 229

YOLO11改进|注意力机制篇|引入ELA注意力机制

YOLO11添加ELA注意力机制

A1983Z的博客 3651

visio安装包

Microsoft Office Visio 是一款专业的制图软件。利用经过更新的形状、协作工具和数据链接图表,创建专业级图表以简化复杂的信息。

《动手学深度学习(PyTorch版)》第2章 预备知识 读书笔记

本章作为深度学习“工具箱”,系统讲解PyTorch基础操作:张量创建与运算、广播机制、索引切片、内存优化及类型转换。结合数据预处理流程,演示如何用pandas读取、清洗含缺失值的CSV数据,通过均值填充与one-hot编码处理,并最终转化为张量。强调基础操作的重要性——80%的深度学习问题源于张量维度、索引或梯度管理失误,建议动手实践以夯实编程根基。

2302_80961196的博客 467

计算机控制技术及应用

《计算机控制技术及应用》通过总结作者的科研成果和吸收国内外的先进理论、方法和技术,以计算机控制系统的网络化、开放化、智能化和集成化发展趋势为主线索,主要介绍计算机控制系统的基本概念和计算机控制系统的典型形式,计算机控制系统的数学描述与基本分析方法,以及数字PID控制器、最少拍控制系统、达林算法、状态变量设计法等设计方法及其各种改进算法。重点突出计算机控制系统输入输出通道接口的设计方法和典型控制系统的设计案例与实现方法等。

【动手学深度学习pytorch版笔记NO.1】2. 预备知识 数据操作+自动求梯度

2.2 数据操作 在PyTorch中,torch.Tensor是存储和变换数据的主要工具。Tensor和NumPy的多维数组非常类似。然而,Tensor提供GPU计算和自动求梯度等更多功能,这些使Tensor更加适合深度学习。 "tensor"这个单词一般可译作“张量”,张量可以看作是一个多维数组。标量可以看作是0维张量,向量可以看作1维张量,矩阵可以看作是二维张量。 2.2.1 创建Tens...

dadapongi6的博客 594

老版QQ原生表情gif动态

这是老版的QQ表情,不过全是动态的的,Windows照片查看器是不会动的,可以右击用浏览器打开查看,再说一遍是老版的,只是分享给宁愿用老版也要动态的人。

蓝牙模块HM-10手册

蓝牙模块HM-10手册,该手册对蓝牙模块HM-10进行了详细的介绍和使用方法以及一些AT指令。

动手学深度学习pytorch版练习解答——2.2预备知识/数据预处理

我在jupyter notebook完成的练习,花的时间有点多毕竟是新学的,像是判断数字、判断数值是否为空、删除指定列这些,给新看这本书的朋友们一个参考。先贴出整体运行结果,后面放代码 以下是代码部分: import os os.makedirs(os.path.join('..','practice'),exist_ok=True) practice_file=os.path.join('..','practice','student_scores.csv') with open(practice_fi

qq_43853021的博客 595

动手学深度学习pytorch版(李沐)(1-4章)

这是AI深度学习读的第二本书,本书被评价为适合入门,不过个人评价还是斋藤康毅书更适合入门,斋藤的书帮你解释数学原理并且教你用直觉理解数学原理,在机器学习中,建立直觉很重要,尤其越往后越重要。李沐的书,写的细但是没有深入数学原理建立不起直觉,本人不推荐作为入门教材。我读这本书是因为了解pytorch架构,不是入门。

weixin_44555637的博客 1166

动手学深度学习-(李沐)PyTorch版本

《动手学深度学习》PyTorch版本和TendorFlow版本(内有所有代码和PDF版下载地址)

weixin_64338372的博客 1万+

【李沐】动手学深度学习 学习笔记

你好!这是【李沐】动手学深度学习v2-基于pytorch版本的学习笔记教材源代码安装教程(安装pytorch不要用pip,改成conda,pip太慢了,下载不下来)个人推荐学习学习笔记本节代码文件在源代码文件的chapter_deep-learning-computation/custom-layer.ipynb中不带参数的层下面的CenteredLayer类要从其输入中减去均值。要构建它,我们只需继承基础层类并实现前向传播功能。让我们向该层提供一些数据,验证它是否能按预期工作。带参数的层。

chenxiaowai_的博客 3万+
上一篇: SKnet:Selective Kernel Networks学习笔记+Pytorch代码实现
下一篇: 2021年3月第四周论文学习:Libra R-CNN、Dual Path Networks、ECANet、M2Det、
practical_sharp
博客等级 码龄8年 500粉丝 148原创
评论 1
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值