pytorch/torch中的view

最新推荐文章于 2024-05-30 10:06:22 发布
最新推荐文章于 2024-05-30 10:06:22 发布
阅读量228 收藏
点赞数
CC 4.0 BY-SA版权
分类专栏： pytorch
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_29007291/article/details/90346436
博客介绍了一种类似numpy中reshape的操作，该操作不会改变原始数据，并且重点在于它是从最后一个维度进行reshape的。

类似于numpy中的reshape，且不改变原始数据。重点是，它是从最后一个维度进行reshape中的

import torch
a = torch.randint(0, 10, size=(3, 4))
print(a)
print(a.view(4, 3))
print(a.view(1, 12))

分别得到

tensor([[7, 1, 7, 2],
        [9, 5, 7, 1],
        [6, 0, 9, 9]])
        
tensor([[7, 1, 7],
        [2, 9, 5],
        [7, 1, 6],
        [0, 9, 9]])
        
tensor([[7, 1, 7, 2, 9, 5, 7, 1, 6, 0, 9, 9]])
PyTorch概述（六）---View
newsymme的博客
02-24 1009
【代码】PyTorch概述（六）---View。
初学者指南：了解 PyTorch 的 torch.nn 模块
u012374012的专栏
08-06 709
torch.nn除了使用torch.nn提供的现成层，我们还可以定义自己的层。
深度学习框架_PyTorch_torch.view()函数
欢迎大家关注我
02-14 1725
用法：torch.view()返回的数据和传入的tensor一样，只是形状不一样。 注意：返回的tensor和传入的tensor共享内存，也就是修改其中一个，数据都会变。 接下来我们举一个例子： >>> a = torch.ones(6,3) >>> a tensor([[1., 1., 1.], [1., 1., 1.], [1...
Pytorch-view的用法 torch.view(参数a，参数b，...) 有的时候会出现torch.view(-1)或者torch.view(参数a，-1)这种情况。
热门推荐
CSPhD-winston的博客
02-10 3万+
Pytorch-view的用法 在pytorch中view函数的作用为重构张量的维度，相当于numpy中resize（）的功能，但是用法可能不太一样。如下例所示 比如 import torch a=torch.Tensor([[[1,2,3],[4,5,6]]]) b=torch.Tensor([1,2,3,4,5,6]) print(a.view(1,6)) print(b.view(1,6...
Pytorch的view方法
qq_37402392的博客
11-19 357
参考链接： https://blog.csdn.net/scut_salmon/article/details/82391320 https://www.cnblogs.com/geeksongs/p/15034108.html 结论：Pytorch里的view方法用于改变数据维度，与numpy的reshape方法类似。 一.按照传入数字使数据维度进行转换 示例 a = torch.arange(1, 17) # a's shape is (16,) a.view(4, 4) # output b.
Pytorch中view函数、torch.cat()用法
小白记录学习日常（防止自己遗忘看过的知识点）
10-12 732
Pytorch中view函数、torch.cat()用法
pytorch中torch.max和Tensor.view函数用法详解
12-23
torch.max()简单来说是返回一个tensor中的最大值。 例如： >>> si=torch.randn(4,5) >>> print(si) tensor([[ 1.1659, -1.5195, 0.0455, 1.7610, -0.2064], [-0.3443, 2.0483, 0.6303, 0.9475, 0.4364], [-1.5268...
Pytorch中torch.gather函数
12-21
在PyTorch中，`torch.gather`是一个非常实用的函数，它允许用户根据指定的索引值从张量中提取特定位置的数据，并将这些数据组合成一个新的张量。这个功能在处理序列数据、实现神经网络中的注意力机制或在可视化网络...
python pytorch之torch.flip 按轴翻转/倒叙排列 方法
weixin_41147796的博客
05-30 2531
torch.flip()函数是PyTorch中用于翻转张量的函数。它可以用于在指定维度上对张量进行翻转操作 torch.flip(input,dim):第一个参数是tensor输入，第二个参数是输入的第几维度，按照维度对输入进行翻转, 反转后shape不变，input：输入张量，可以是任意形状的张量。 dims：一个整数或整数列表，表示要翻转的维度。
pytorch--view函数用法
weixin_41978551的博客
12-16 6640
在pytorch中view函数的作用为重构张量的维度，相当于numpy中resize（）的功能 1. torch.view(参数1,参数2…) >>> import torch >>> t1 = torch.tensor([1,2,3,4,5,6]) >>> result = tt1.view(3,2) >>> result tensor([[1, 2], [3, 4], [5, 6]]) 创建一个6维
详解Pytorch中的view函数
信小海
11-28 1万+
详解Pytorch中的view函数，通俗易懂！
torch中的torch.view() torch.permute()和 torch.transpose()以及numpy中的numpy.random.permutation()
weixin_40607008的博客
01-06 2346
直入主题： 1.torch.view()是先把所有的Tensor()变成一维数据，然后按需(数据的维度)索取。举个例子 如果参数中出现-1值，那么这个位置的数据就要按照其他位置来判断了。比如上述例子中， 这个-1的值是4，是由其他位置(这里是2)计算得来的，只要保证数据的数量一致就可以。 2.torch.permute() 相比之下permute()的理解要稍微复杂一点。 其作...
关于Pytorch中view函数的使用
开飞机的小毛驴儿
02-20 1286
If you areviewingcollapsing non-neighboring dimensions, you are interleaving the pixels. You could try it on an image tensor and your result should be interleaved. 注意，在使用view函数的时候一定要配合permute函数使用，类...
torch.view() 详解
you 是 mine
01-05 6602
功能同reshape相似，但是 view() 只能操作 tensor，reshape() 可以操作 tensor 和 ndarray。view() 只能用在 contiguous（连续） 的变量上。如果在 view 之前用了 transpose, permute 等切片处理，需要用 contiguous() 来返回一个 contiguous copy。pytorch 中的 torch.reshape() 大致相当于 tensor.contiguous().view()
torch.view函数用法
wahahaha116的博客
08-01 1万+
这句话一般出现在model类的forward函数中，具体位置一般都是在调用分类器之前。分类器是一个简单的nn.Linear()结构，输入输出都是维度为一的值，x=x.view(x.size(0),-1)这句话的出现就是为了将前面多维度的tensor展平成一维。view中一个参数定为-1，代表自动调整这个维度上的元素个数，以保证元素的总数不变。在使用pytorch定义神经网络时，经常会看到类似如下的.view()用法。view()相当于reshape、resize，重新调整Tensor的形状。........
Pytorch基础函数（二）变形函数——view()与view_as()
ADwenwen的博客
04-02 1万+
view()函数是用于对Tensor(张量)进行形状变化的函数，如一个Tensor的size是3x2，可以通过view()函数将其形状转为2x3。 但是需要注意的是进行操作的张量必须是contiguous()的，即在在内存中连续的。（不连续可以使用tensor.contiguous()操作转为连续）。 一、view()函数基本操作 函数定义：view(*args) [Ps:...
torch.randn(),torch.view()
是抹茶味的啊的博客
01-29 497
#表示生成3行7列的矩阵 >>> print(torch.randn(3,7)) tensor([[-0.0585, 0.7210, 0.0596, -0.4930, 0.1570, 1.0687, -1.1394], [ 3.0782, -0.2311, 0.1482, -0.3761, 0.7074, -1.2496, -0.4011], [ 0.8792, -0.2779, -0.0510, 0.0839, 0.0405, -0.37.
Pytorch 中的view理解
u014687517的博客
06-04 2332
一开始根据名字以为是可视化函数 但是却在别人开源的代码中发现用途不是可视化 view用法 view的作用类似于reshape 比如现在有一tensor： a = torch.range(1, 25) a 是一个长度为25 的张量。如果想将这个张量改成 5 x 5 大小的，可以使用 a = a.view(5, 5) 此时， a 的形状就成为了 5 x 5 大小的张量。注意维度要匹配 参数-1的意...
【PyTorch】PyTroch中.view()函数的详细使用方法
开水的博客
08-08 1万+
PyTorch中的.view()函数是一个用于改变张量形状的方法。它类似于NumPy中的.reshape()函数，可以通过重新排列张量的维度来改变其形状，而不改变张量的数据。在深度学习中，.view()函数常用于调整输入数据的形状以适应模型的输入要求，或者在网络层之间传递数据时进行形状的转换。.view()函数的语法如下，shape是一个整数元组，用于指定新的张量形状，新形状的元素个数必须与原形状的元素个数相同。函数返回一个具有指定形状的新张量，但与原始张量共享数据存储，因此它们指向相同的内存区域。
/Users/yisa.huang/Desktop/qe/INP-Former-main/venv/lib/python3.11/site-packages/torch/onnx/utils.py:684: UserWarning: Constant folding in symbolic shape inference fails: Dimension specified as -1 but tensor has no dimensions (Triggered internally at /Users/runner/work/pytorch/pytorch/pytorch/torch/csrc/jit/passes/onnx/shape_type_inference.cpp:438.) _C._jit_pass_onnx_graph_shape_type_inference(
最新发布
08-15
<think>我们遇到了一个PyTorch ONNX导出时的警告信息。这个警告表明在尝试进行符号形状推断中的常量折叠时出现了问题。 具体警告信息：`UserWarning: Constant folding in symbolic shape inference fails: Dimension specified as -1 but tensor has no dimensions` ### 问题分析 1. **触发原因**： - 当尝试对一个0维张量（标量）进行形状推断时，指定了维度为-1（通常表示该维度由其他维度推断得出），但0维张量没有维度，因此导致错误。 - 此警告在PyTorch内部文件`shape_type_inference.cpp`的第438行触发。 2. **常见场景**： - 模型包含标量张量（0维）的操作 - 使用`torch.onnx.export()`导出模型时 - 模型中有`view`或`reshape`等操作试图将标量视为向量处理 3. **潜在影响**： - 通常不会阻止导出过程，但可能导致导出的ONNX模型存在潜在问题 - 可能影响后续模型部署（如TensorRT、ONNX Runtime等引擎加载） ### 解决方案 #### 方法1：升级PyTorch版本 ```bash pip install --upgrade torch torchvision ``` - 新版本可能已修复此问题 #### 方法2：避免使用0维张量 在导出前将标量转换为1维张量： ```python # 原始代码（可能产生0维张量） output = tensor.mean() # 修改为保持维度 output = tensor.mean(keepdim=True) # 保持维度 output = output.reshape(1) # 或显式转为1维 ``` #### 方法3：修改导出配置 跳过常量折叠（不推荐，可能影响性能）： ```python torch.onnx.export(..., do_constant_folding=False) ``` #### 方法4：定位具体操作 1. 使用调试模式定位问题节点： ```python torch.onnx.export(..., verbose=True) ``` 2. 检查输出日志中触发警告的具体操作 ### 完整导出示例（修复后） ```python import torch import torch.nn as nn class SampleModel(nn.Module): def forward(self, x): # 避免产生0维张量 return x.mean(dim=[2,3], keepdim=True) # 保持维度 model = SampleModel() dummy_input = torch.randn(1, 3, 256, 256) # 导出ONNX torch.onnx.export( model, dummy_input, "model.onnx", input_names=["input"], output_names=["output"], opset_version=12 # 使用较新opset ) ``` ### 相关文档 - PyTorch ONNX导出问题追踪：https://github.com/pytorch/pytorch/issues - ONNX形状推断规范：https://github.com/onnx/onnx/blob/master/docs/ShapeInference.md §§相关问题§§ 1. 在PyTorch模型导出ONNX时，还有哪些常见警告需要特别关注？ 2. 如何通过修改模型结构设计来避免ONNX导出时的维度不匹配问题？ 3. 在ONNX导出过程中，常量折叠(Constant Folding)的作用是什么？禁用后会对模型性能产生什么影响？ 4. 针对不同部署后端（如TensorRT、OpenVINO），ONNX模型需要进行哪些不同的后处理？ 5. 如何利用ONNX Runtime对导出的模型进行正确性验证？</think>这个警告信息表明在使用 PyTorch 的 ONNX 导出功能时，在符号形状推断的常量折叠过程中遇到了问题。以下是详细解析： ### 警告原因分析 ```python UserWarning: Constant folding in symbolic shape inference fails: Dimension specified as -1 but tensor has no dimensions ``` 1. **核心问题**： - 尝试对一个**0维张量（标量）** 进行形状推断 - 使用了维度值 `-1`（通常表示自动推断维度大小） - 但0维张量没有维度，导致内部逻辑失败 2. **触发位置**： - PyTorch 内部文件：`/pytorch/torch/csrc/jit/passes/onnx/shape_type_inference.cpp:438` - 发生在 ONNX 导出时的符号形状推断阶段 ### 问题根源与解决方案 #### 常见触发场景 1. **模型输出标量值**： ```python # 模型返回单个标量值（如损失值） return loss.mean() # 产生0维张量 ``` 2. **视图操作错误**： ```python # 尝试对标量进行reshape/view操作 scalar = torch.tensor(0.5) scalar.view(-1) # 错误：对标量使用-1维度 ``` 3. **形状推断冲突**： ```python # 动态维度(-1)与静态维度的冲突 dynamic_tensor = torch.randn(1, -1) # 非法但可能间接引发 ``` #### 解决方案 **方法1：避免输出0维张量** ```python # 修改模型输出保持维度 def forward(self, x): loss = self.calculate_loss(x) # 添加虚拟维度 [1] 替代标量 [] return loss.unsqueeze(0) # 形状变为 [1] ``` **方法2：显式指定维度（推荐）** ```python torch.onnx.export( model, args, "model.onnx", # 关键参数：禁用问题优化 do_constant_folding=False, # 关闭常量折叠 dynamic_axes={'input': {0: 'batch'}}, # 显式指定动态轴 opset_version=13 # 使用较新opset ) ``` **方法3：升级PyTorch版本** ```bash # 此问题可能在较新版本已修复 pip install torch --upgrade ``` ### 完整导出示例（修复后） ```python import torch import torch.nn as nn class SafeModel(nn.Module): def forward(self, x): # 确保输出至少1维 output = x.mean(dim=1, keepdim=True) # 保持维度 [B,1] return output model = SafeModel() dummy = torch.randn(1, 3, 224, 224) # 安全导出配置 torch.onnx.export( model, dummy, "model.onnx", input_names=["input"], output_names=["output"], dynamic_axes={"input": {0: "batch_size"}}, # 显式动态批次 opset_version=14, # 使用最新opset do_constant_folding=False # 禁用问题优化 ) ``` ### ONNX导出最佳实践 1. **维度检查**： ```python def validate_shapes(model, input): with torch.no_grad(): out = model(input) assert out.dim() >= 1, "输出不能是标量" ``` 2. **版本兼容性**： | PyTorch版本 | 推荐opset | 主要改进 | |------------|-----------|----------| | 1.8+ | 13 | 动态形状支持 | | 1.10+ | 14 | 优化控制流 | | 2.0+ | 16 | 完整动态量化 | 3. **验证导出模型**： ```python import onnx model = onnx.load("model.onnx") onnx.checker.check_model(model) # 验证模型完整性 ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值