理解pytorch系列:transpose是怎么实现的

文章详细介绍了PyTorch中的transpose()函数,它通过改变张量的尺寸和步长实现维度交换,无需实际移动数据,提高性能。示例展示了如何在PyTorch中使用transpose()创建新的张量视图,且底层C++实现依赖于ATen库优化内存操作。

在PyTorch中,transpose()是一种操作,它交换张量中两个指定维度的位置。实现这一点的关键在于不实际移动数据,而是通过改变张量的元数据(包括步长(stride)和尺寸(size))来达到效果。

举例来说,假设我们有一个形状为(3, 4)的二维张量,其内存布局为行优先(row-major)即C风格的。当我们对这个张量执行transpose(0, 1)操作时,我们期望该张量行变成列,列变成行,即得到一个形状为(4,3)的新视图。

这是通过以下步骤完成的:

  1. 改变尺寸:改变size元数据,使得原本第一个维度(行)的大小与第二个维度(列)的大小交换。

  2. 改变步长:步长(stride)是一个数组,指示了在每个维度上移动一个元素需要跳过的内存位置数。执行transpose()时,交换了两个维度的步长。在行优先存储的张量中,行的步长通常比列的步长大。

  3. 不移动数据:实际上数据并没有在内存中移动,只是改变了在这块内存空间上的解释方式。

以下是一个简单的示例:

import torch

# 创建一个 3x4 的张量
x = torch.arange(12
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值