PyTorch入门教程

Pytorch入门教程 Pytorch学习总结:1.张量Tensor 张量是一种特殊的数据结构,与数组和矩阵非常相似。在PyTorch中,我们使用张量对模型的输入和输出以及模型的参数进行编码。 张量类似于NumPy的ndarray,除了张量可以在 GPU 或其他硬件加速器上运行。事实上,张量和NumPy数组通常可以共享相同的底层内存,从而无需复制数据。... 阅读详情

PyTorch教程

1.PyTorch与其他框架的对比

PyTorch:动态计算图Dynamic Computation Graph;

TensorFlow:静态计算图Static Computation Graph。

PyTorch代码通俗易懂,非常接近Python原生代码。

2.什么是PyTorch?

类似于Numpy,但是它可以使用GPU;

可以用它定义深度学习模型,可以灵活地进行深度学习模型的训练和使用。

3.PyTorch代码训练

3.1构造一个未初始化的5×3矩阵

>>> import torch

>>> x=torch.empty(5,3)

>>> x

tensor([[9.1834e-41, 0.0000e+00, 0.0000e+00],

        [0.0000e+00, 0.0000e+00, 0.0000e+00],

        [0.0000e+00, 0.0000e+00, 0.0000e+00],

        [0.0000e+00, 5.9415e-43, 0.0000e+00],

        [0.0000e+00, 0.0000e+00, 0.0000e+00]])

3.2构造一个随机初始化的矩阵

>>> torch.rand(5,3)

tensor([[0.2936, 0.7109, 0.6839],

        [0.9778, 0.2583, 0.6170],

        [0.9016, 0.3895, 0.2596],

        [0.0357, 0.9415, 0.0640],

        [0.9949, 0.1010, 0.8019]])

3.3构建一个全部为0,类型为long的矩阵

>>> x=torch.zeros(5,3,dtype=torch.long)

>>> x

tensor([[0, 0, 0],

        [0, 0, 0],

        [0, 0, 0],

        [0, 0, 0],

        [0, 0, 0]])

>>> x.dtype

torch.int64

3.4从数据直接构建tensor

>>> x=torch.tensor([5.5,3])

>>> x

tensor([5.5000, 3.0000])

 

3.5也可以从一个已有的tensor构件一个tensor,这些方法会重用原来tensor的特征,例如,数据类型,除非提供新的数据。

>>> x=x.new_ones(5,3)

>>> x

tensor([[1., 1., 1.],

        [1., 1., 1.],

        [1., 1., 1.],

        [1., 1., 1.],

        [1., 1., 1.]])

>>> x=x.new_ones(5,3,dtype=torch.double)

>>> x

tensor([[1., 1., 1.],

        [1., 1., 1.],

        [1., 1., 1.],

        [1., 1., 1.],

        [1., 1., 1.]], dtype=torch.float64)

>>> x=torch.randn_like(x,dtype=torch.float)

>>> x

tensor([[ 1.0381,  0.1043,  1.5760],

        [-0.6895,  0.3802,  1.3165],

        [ 0.5803,  0.8689, -0.7618],

        [-0.9795,  0.5561, -0.3179],

        [-0.7121,  1.0454, -0.6295]])

3.6得到tensor的形状

>>> x.shape

torch.Size([5, 3])

3.7运算

3.7.1加法

>>> y=torch.rand(5,3)

>>> y

tensor([[0.0149, 0.7933, 0.0335],

        [0.7218, 0.8258, 0.4340],

        [0.7336, 0.6049, 0.3085],

        [0.1247, 0.2118, 0.9186],

        [0.0502, 0.6861, 0.9377]])

>>> x

tensor([[ 1.0381,  0.1043,  1.5760],

        [-0.6895,  0.3802,  1.3165],

        [ 0.5803,  0.8689, -0.7618],

        [-0.9795,  0.5561, -0.3179],

        [-0.7121,  1.0454, -0.6295]])

>>> x+y

tensor([[ 1.0530,  0.8976,  1.6095],

        [ 0.0323,  1.2060,  1.7505],

        [ 1.3138,  1.4738, -0.4533],

        [-0.8549,  0.7679,  0.6007],

        [-0.6619,  1.7315,  0.3082]])

另一种加法的写法

>>> torch.add(x,y)

tensor([[ 1.0530,  0.8976,  1.6095],

        [ 0.0323,  1.2060,  1.7505],

        [ 1.3138,  1.4738, -0.4533],

        [-0.8549,  0.7679,  0.6007],

        [-0.6619,  1.7315,  0.3082]])

加法:把输出作为一个变量

>>> result=torch.empty(5,3)

>>> torch.add(x,y,out=result)

tensor([[ 1.0530,  0.8976,  1.6095],

        [ 0.0323,  1.2060,  1.7505],

        [ 1.3138,  1.4738, -0.4533],

        [-0.8549,  0.7679,  0.6007],

        [-0.6619,  1.7315,  0.3082]])

In-place加法

>>> y.add_(x)

tensor([[ 1.0530,  0.8976,  1.6095],

        [ 0.0323,  1.2060,  1.7505],

        [ 1.3138,  1.4738, -0.4533],

        [-0.8549,  0.7679,  0.6007],

        [-0.6619,  1.7315,  0.3082]])

3.8各种类似NumPy的indexing都可以在PyTorch tensor上面使用。

>>> x[1:,1:]

tensor([[ 0.3802,  1.3165],

        [ 0.8689, -0.7618],

        [ 0.5561, -0.3179],

        [ 1.0454, -0.6295]])

3.9Resizing:如果希望resize/reshape一个tensor,可以使用torch.view

 

>>> x=torch.randn(4,4)

>>> x

tensor([[ 2.6453, -1.1685, -0.0857,  1.1225],

        [ 0.1149,  0.2192,  0.9528, -0.2612],

        [-0.8304, -0.5425,  0.3017, -1.3451],

        [ 0.5863,  1.0294,  0.0201,  0.4943]])

>>> y=x.view(16)

>>> y

tensor([ 2.6453, -1.1685, -0.0857,  1.1225,  0.1149,  0.2192,  0.9528, -0.2612,

        -0.8304, -0.5425,  0.3017, -1.3451,  0.5863,  1.0294,  0.0201,  0.4943])

>>> z=x.view(2,-1)

>>> z

tensor([[ 2.6453, -1.1685, -0.0857,  1.1225,  0.1149,  0.2192,  0.9528, -0.2612],

        [-0.8304, -0.5425,  0.3017, -1.3451,  0.5863,  1.0294,  0.0201,  0.4943]])

如果只有一个元素的tensor,使用.item()方法可以把里面的value变成Python数值

>>> x=torch.randn(1)

>>> x

tensor([-1.5002])

>>> x.item()

-1.500231146812439

>>> z.transpose(1,0)

tensor([[ 2.6453, -0.8304],

        [-1.1685, -0.5425],

        [-0.0857,  0.3017],

        [ 1.1225, -1.3451],

        [ 0.1149,  0.5863],

        [ 0.2192,  1.0294],

        [ 0.9528,  0.0201],

        [-0.2612,  0.4943]])

查看PyTorch文件网址:https://pytorch.org/docs/stable/torch.html

4.Numpy和Tensor之间的转化

在Torch Tensor和Numpy array之间相互转化非常容易。

Torch Tensor和Numpy array会共享内存,所以改变其中一项也会改变另一项。

把Torch Tensor转变成Numpy Array

>>> a=torch.ones(5)

>>> a

tensor([1., 1., 1., 1., 1.])

>>> b=a.numpy()

>>> b

array([1., 1., 1., 1., 1.], dtype=float32)

改变Numpy array里面的值。

>>> b[1]=2

>>> b

array([1., 2., 1., 1., 1.], dtype=float32)

>>> a

tensor([1., 2., 1., 1., 1.])

把NUmpy Array转变成Torch Tensor

>>> import numpy as np

>>> a=np.ones(5)

>>> b=torch.from_numpy(a)

>>> np.add(a,1,out=a)

array([2., 2., 2., 2., 2.])

>>> b

tensor([2., 2., 2., 2., 2.], dtype=torch.float64)

5.热身:用Numpy实现两层神经网络

一个全连接ReLU神经网络,一个隐藏层,没有bias。用来从x预测y,使用L2Loss。

·h=W1X+b1

·a=max(0,h)

·yhat=w2a+b2

这一实现完全使用Numpy来计算钱箱神经网络,loss,和反向传播。

·forward pass

·loss

·backward pass

Numpy ndarray是一个普通的n维array,他不知道任何关于深度学习或者梯度(gradient)的知识,也不知道计算图(computation graph),只是一种用来计算数学运算的数据结构。

import numpy as np

N,D_in,H,D_out=64,1000,100,10#N是数据集个数,D_in是输入数据维数,H是中间神经元的维数,D_out是输出神经元的维数

#随机创建一些训练数据

x=np.random.randn(N,D_in)

y=np.random.randn(N,D_out)

 

w1=np.random.randn(D_in,H)

w2=np.random.randn(H,D_out)

 

learning_rate=1e-6

for it in range(500):

#Forward pass

h=x.dot(w1)#N*H

h_relu=np.maximum(h,0)#N*H

y_pred=h_relu.dot(w2)#N*D_out

 

#compute loss

loss=np.square(y_pred-y).sum()

print(it,loss)

 

#backward pass

#compute the gradient

grad_y_pred=2.0*(y_pred-y)

grad_w2=h_relu.T.dot(grad_y_pred)

grad_h_relu=grad_y_pred.dot(w2.T)

grad_h=grad_h_relu.copy()

grad_h[h<0]=0

grad_w1=x.T.dot(grad_h)

 

#update weights of w1 and w2

w1=learning_rate*grad_w1

w2=learning_rate*grad_w2

 

 

【超详细】Pytorch 入门教程(一) Pytorch 入门教程1. Pytorch基本语法1.1 认识Pytorch1.2 Pytorch的基本元素操作1.3 Pytorch的基本运算操作1.4 关于Torch Tensor和Numpy array之间的相互转换1.5 小节总结 1. Pytorch基本语法 1.1 认识Pytorch 什么是Pytorch? Pytorch是一个基于Numpy的科学计算包, 向它的使用者提供了两大功能. 作为Numpy的替代者, 向用户提供使用GPU强大功能的能力. 做为一款深度学习的平台, 向用户提供最 阅读详情

相关推荐

【超详细】Pytorch 入门教程(二)

Pytorch 入门教程(二)Pytorch 入门教程(一)1. 张量Tensor2. Pytorch中创建张量3. Pytorch中tensor的常用方法4. tensor的数据类型5. tensor的其他操作 Pytorch 入门教程(一) 请参考:【超详细】Pytorch 入门教程(一) 学习目标: 知道张量和Pytorch中的张量 知道pytorch中如何创建张量 知道pytorch中tensor的常见方法 知道pytorch中tensor的数据类型 知道pytorch中如何实现tensor在cp

全网粉丝30W+,优快云、稀土掘金人工智能领域签约作者,人工智能、大模型、Python 爬虫,商务合作,请私信沟通。 1059

pytorch官方教程(详细版)

(一)构建神经网络BUILD THE NEURAL NETWORK 使用pytorch构建神经网络进行FashionMNIST数据集中的图像分类

weixin_45526117的博客 3万+

【Pytorch】2024 Pytorch基础入门教程(完整详细版)

Pytorch是torch的python版本,是由Facebook开源的神经网络框架,专门针对 GPU 加速的深度神经网络(DNN)编程。Torch 是一个经典的对多维矩阵数据进行操作的张量(tensor )库,在机器学习和其他数学密集型应用有广泛应用。与Tensorflow的静态计算图不同,pytorch的计算图是动态的,可以根据计算需要实时改变计算图。但由于Torch语言采用 Lua,导致在国内一直很小众,并逐渐被支持 Python 的 Tensorflow 抢走用户。

优快云已停更,感兴趣关注https://aaronzijingcai.github.io/ 27万+

PyTorch详细教程

为了加速计算,一些框架会使用对神经网络“先编译,后执行”的静态图来描述网络。静态图的缺点是难以描述控制流(比如 if-else 分支语句和 for 循环语句),直接对其引入控制语句会导致产生不同的计算图。比如循环执行 n 次 a=a+b,对于不同的 n,会生成不同的计算图。

IT菜鸟 1万+

prometheus 从入门到精通(史上最全)

Prometheus(由go语言开发)是一套开源的监控&报警&时间序列(按照时间排序)数据库的组合。因为kubernetes(俗称k8s)的流行带动了prometheus的发展。它可以监控主机,服务,容器,支持多种exporter采集数据,还支持pushgateway进行数据上报,Prometheus性能足够支撑上万台规模的集群。原文链接:https://blog.youkuaiyun.com/qq_45277554/article/details/130917620时间序列数据。

流水_鱼鱼的博客 1万+

通过EMIF接口实现FPGA与DSP的高速连接(方法)

请注意,具体的连接细节和步骤可能会根据所使用的FPGA和DSP型号以及特定的应用需求而有所不同。开发DSP和FPGA上的软件,以实现数据交换和处理。根据系统的具体需求,对FPGA和DSP的接口逻辑进行优化,以减少延迟、提高数据吞吐量或降低资源消耗。它通常支持多种类型的存储器,如SRAM、DRAM、ROM等,以及通过特定的接口与FPGA连接。对于FPGA,需要编程来实现与DSP的接口逻辑,包括地址译码、数据传输、时序控制等。在连接完成后,进行详细的调试和测试,以确保数据能够在DSP和FPGA之间正确传输。

AigcFox的博客 4591

Pytorch 入门

我们首先定义一个Pytorch实现的神经网络#导入若干工具包importtorchimporttorch.nnasnnimporttorch.nn.functionalasF#定义一个简单的网络类classNet(nn.Module)模型中所有的可训练参数,可以通过net.parameters()来获得.假设图像的输入尺寸为32*32input=torch.randn(1,1,32,32)#4个维度依次为注意维度。...

mengxianglong123的博客 1万+

5.2.4_标志位的生成

计算机组成原理之标志位的生成

人生得意须尽欢 7641

pytorch基础入门教程/一小时学会pytorch

Pytorch一小时教程 pytorch是什么 它是一个基于python的科学计算库,致力于为两类用户提供服务: 一些想要找到Numpy搭建神经网络替代品的用户; 寻找一个可提供极强的可拓展性和运行速度的深度学习研究平台; 让我们开始干活吧! 1. 张量的概念和生成     张量和Numpy中ndarrays的概念很相似,有了这个作为基础,张量也可以被运行在GPU上来加速计算,下面介绍如何创...

weixin_41070748的博客 8万+

【用unity实现100个游戏之15】开发一个类保卫萝卜的Unity2D塔防游戏5(附项目源码,完结)

本期是本项目的最后一篇,主要内容是配置环境、生成不同敌人、结束重开。

向宇的博客,专注php/web全栈 unity游戏开发,欢迎大家评论纠错 2576

Android SystemUI——初始化流程(三)

1、Android 系统在启动之后,首先会Zygote进程,Zygote进程又会进一步启动 SystemServer进程,它会启动各种系统所需要的服务,在监听AMS启动完毕之后,还会启动SystemUIService。2、在启动SystemUIService服务之前,系统首先会创建SystemUI对应的进程,获取SystemUIAppComponentFactory实例对象,调用instantiateApplicationCompat创建SystemUIApplication实例对象并设置回调方法。

小旭的专栏 1161

Pytorch入门教程下载

Pytorch入门教程下载 【下载地址】Pytorch入门教程下载 本开源项目提供了一份Pytorch入门教程的中文PDF资源,内容源自pytorch.org官网的英文教程,经过精心翻译,适合中文用户学习。教程从Pytorch的基础概念入手,逐步深入,帮助读者在实践中掌握Pytorch的使用技巧。无论您是深度学习的新手,...

gitblog_06781的博客 375

AUTOSAR进阶图解==>AUTOSAR_SWS_COM

AUTOSAR COM模块是AUTOSAR通信堆栈的核心组件,提供信号导向的通信服务。该模块位于通信服务层,连接RTE与PDU Router,主要功能包括信号封装/提取、传输模式管理、信号路由、超时监控和字节序转换等。COM模块架构分为应用层、通信服务层和通信抽象层,包含信号管理、I-PDU处理、传输模式管理等组件。其配置结构包括顶层容器、I-PDU组、I-PDU和信号等多层次配置对象,支持丰富的参数设置。模块采用严格的状态管理机制,包括模块状态和I-PDU组状态转换,确保通信可靠性。

一名留德华的,康德的信徒的,专注于汽车电子领域的博客 1245

【PyTorch入门教程】1. 基础知识

这是一个面向初学者的PyTorch教程。 PyTorch项目的基本流程,与每个步骤相关的重要模块 张量是PyTorch中使用的核心数据结构。

youcans的博客 2182

【知识分享】高速印刷电路板(PCB)寄生参数计算指南

对于高速PCB设计而言,寄生参数一直是令人讨厌的问题,它们会悄悄潜入PCB并在电路中造成严重的破坏,具体来说,它们是渗透到高速电路中的隐藏杂散电容器和电感器,包括由封装引线和长走线形成的电感器、PCB焊盘对金属平面形成的电容器、走线之间形成的电容器等等。

一只豌豆象的博客 1785

路径跟踪 | 图解路径跟踪PID算法(附ROS C++/Python/Matlab仿真)

PID控制是一种经典的控制算法,广泛应用于各种工业场景。在基于PID的局部路径规划中,希望机器人能快速跟踪上预设的轨迹。本文介绍PID控制的基本原理,并基于PID控制律设计路径跟踪算法,最后通过ROS C++/Python/Matlab进行仿真实现,加深理解

FRIGIDWINTER的博客 1万+

pytorch基础入门教程

pytorch入门基础教程

feichangyanse的博客 1145

win10 跳过U8环境检测的IE WebControls.rar

win10 安装u8的时候 提示IE WebControls 不通过,这个工具可以欺骗u8的检查。 跳过U8环境检测的IE WebControls。提示导入失败后,重新检测通过。

【Pytorch】2025 Pytorch基础入门教程

PyTorch已成为深度学习核心工具,从科研到工业广泛应用。本文介绍PyTorch安装和基础语法,包括张量创建、形状调整等关键操作。与TensorFlow、PaddlePaddle对比,PyTorch凭借动态图调试和Pythonic设计优势,2023年工业界使用率达36.8%。通过10分钟快速入门指南,读者可掌握PyTorch核心技能,轻松上手深度学习开发。

Larry的博客 1768

VC中sqlite的使用

在VC中对sqlite的使用,实现数据库大批数据的快速插入,读取数据库中的数据在ListCtrl中显示

NTscan扫描工具

ntscan是一个扫描器,可以扫描没有密码和弱密码的共享,先到配置文件中填写猜测的用户名和密码,扫描过程中右侧出现的是扫描日志。

【Pytorch】Pytorch基础入门教程

Torch 自称为神经网络界的 Numpy, 因为他能将 torch 产生的 tensor 放在 GPU 中加速运算 (前提是你有合适的 GPU), 就像 Numpy 会把 array 放在 CPU 中加速运算. 所以神经网络的话, 当然是用 Torch 的 tensor 形式数据最好咯. 就像 Tensorflow 当中的 tensor 一样. numpy array 和 torch tensor 是可以自由地转换的。

zzqingyun的博客 1万+

RU DOS版、EFI版32bit/64bit BIOS常用工具

DOS版、EFI版的RU工具,可用来查看IO、MEM、PCI、SMBIOS等资源。亲测在EFI SHELL下可用。

PyTorch Geometric (PyG) 入门教程

PyTorch Geometric (PyG) 入门教程

诸神缄默不语的博客 2万+

【Pytorch】官方入门教程摘记(更新中~)

是一种专门的数据结构,用于在GPU或其他硬件加速器上运行。

Qiansuia的博客,记录走过的点点滴滴~ 302

【Pytorch入门】小土堆PyTorch入门教程完整学习笔记(详细笔记并附练习代码 ipynb文件)

【Pytorch入门】小土堆PyTorch入门教程完整学习笔记(详细笔记 文末附练习代码 ipynb文件)

几度热忱的博客 3万+

Pytorch入门教程下载:轻松掌握深度学习利器

Pytorch入门教程下载:轻松掌握深度学习利器 【下载地址】Pytorch入门教程下载 本开源项目提供了一份Pytorch入门教程的中文PDF资源,内容源自pytorch.org官网的英文教程,经过精心翻译,适合中文用户学习。教程从Pytorch的基础概念入手,逐步深入,帮助读者在实践中掌握Pytorch的使用技巧。无...

gitblog_06792的博客 352

人工智能入门:深度学习框架 PyTorch 的快速入门教程

本文为初学者提供了一份详细的PyTorch快速入门教程,帮助读者从零开始搭建并训练第一个神经网络。首先介绍了PyTorch的核心特性,包括动态图、自动求导、丰富的API和强大的社区支持。接着,详细说明了环境准备步骤,包括Python和PyTorch的安装与验证。然后,讲解了PyTorch的基本概念,如张量、自动求导、模型构建和优化器。随后,通过一个简单的MNIST数据集示例,展示了如何构建、训练和评估一个神经网络模型,并提供了完整的代码示例。最后,鼓励读者进行扩展实验,如增加隐藏层、调整神经元数量、使用不同

2501_91624122的博客 923

机器学习到深度学习(pytorch)绝对的入门教程

最近开始学习深度学习,由于以前是做通信的,所以对机器学习、深度学习完全零基础,看了很多视频,对新手小白都不是太友好,近期发现几个对新手小白绝对友好的入门视频,分享出来,供大家参考! 1、机器学习入门教程: https://www.iqiyi.com/v_19rqt7gt3o.html#curid=1744319800_f3a64c420751d7fa7147fdbf5942c967 黑马教程,相信大家都听过,确实讲的不错! 2、pytorch教程: https://www.bilibili.com/vide

Carrie526的博客 1151
上一篇: 新冠疫情对AI技术发展的影响
下一篇: TypeError: unsupported operand type(s) for &: ‘float‘ and ‘float‘解决方案
Caoyy686868
博客等级 码龄8年 5742粉丝 57原创
评论 4
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Caoyy686868

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值