Pytorch第四课：package-torch.Storage类详解

最新推荐文章于 2025-07-16 07:30:03 发布

原创

最新推荐文章于 2025-07-16 07:30:03 发布 · 3.6k 阅读

11 ·

CC 4.0 BY-SA版权

文章标签：

#人工智能 #python #pytorch

本文详细介绍了PyTorch中的torch.Storage类，包括其类型、构造方法以及各种操作，如类型转化、复制、与Tensor的相互转换等，是理解PyTorch底层数据存储的重要参考资料。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

一个torch.Storage是一个单一数据类型的连续一维数组。

每个torch.Tensor都有一个对应的、相同数据类型的存储：class torch.FloatStorage

1 torch.Storage类型

import torch

torch.FloatStorage([1,2,3,4,5])
torch.ByteStorage([1,2,3,4,5])
torch.ShortStorage([1,2,3,4,5])
torch.IntStorage([1,2

最低0.47元/天解锁文章

200万优质内容无限畅学

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

王小小小草

关注关注

0
点赞
踩
11

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

专栏目录

Torch教程(2)-Storage

南有乔木NTU的博客

01-05

2123

StorageStorage是lua访存的基本方式，类似c语言的数组，除了可以保存定义的数值，还可以直接把文件映射到内存中进行操作。 Storage主要有以下几种类型： ByteStorage：无符号char数组 CharStorage: 有符号的char数组 ShortStorage: short类型的数组 IntStorage: int 类型的数组 LongStorage: Long 类型数

torch.Storage

Mr_JP的博客

08-21

691

torch.Storge 官方解释：A torch.Storage is a contiguous, one-dimensional array of a single data type. Every torch.Tensor has a corresponding storage of the same data type. 有道君：torch.Storage 是一个连续的，一维的，单一...

参与评论您还未登录，请先登录后发表或查看评论

Pytorch之torch.Storage()语法、参数和实际应用案例

最新发布

王国平的博客

07-16

808

`torch.Storage`是PyTorch中存储张量数据的底层结构，所有`torch.Tensor`都依赖Storage来存储实际数据。

pytorch torch.Storage学习

weixin_33726943的博客

03-31

225

tensor分为头信息区（Tensor）和存储区（Storage）信息区主要保存着tensor的形状（size）、步长（stride）、数据类型（type）等信息，而真正的数据则保存成连续数组，存储在存储区因为数据动辄成千上万，因此信息区元素占用内存较少，主要内存占用取决于tensor中元素的数目，即存储区的大小一般来说，一个tensor有着与之相对应的storage，...

pytorch torch.Stroage();torch.cuda()

weixin_30915951的博客

06-10

173

转自：https://ptorch.com/news/52.html torch.Storage是单个数据类型的连续的一维数组，每个torch.Tensor都具有相同数据类型的相应存储。他是torch.tensor底层数据结构,他除了像Tensor一样定义数值，还可以直接把文件映射到内存中进行操作，如果你使用的是pytorch神经网络，你不需要直接使用它们。中文文档地址：https://w...

【Pytorch小知识】torch.Storage学习

小苏打的学习博客

06-16

1528

tensor分为头信息区（Tensor）和存储区（Storage）。信息区主要保存着tensor的形状（size）、步长（stride）、数据类型（type）等信息，而真正的数据则保存成连续数组，存储在存储区。因为数据动辄成千上万，因此信息区元素占用内存较少，主要内存占用取决于tensor中元素的数目，即存储区的大小。一般来说，一个tensor有着与之相对应的storage，storage...

pytorch每日一学2(torch.is_storage(obj))

Fluid_ray的博客

10-31

1834

2.第二个方法 torch.is_storage(obj) 其实这个方法很明显，看名字就知道它的功能，就是测试obj是不是storage类型，如果是的话就返回True，否则返回False。什么是Storage？ Storage类型是pytorch中的一个类型，它与tensor是对应的。 tensor 分为头信息区(Tensor)和存储区(Storage)。信息区(Tensor)主要存储tensor的形状(size)、步长(stride)、数据类型(type)等信息，其真正的数据保存为连续数组，存

torch.is_storage()

tao355667

11-19

358

torch.is_storage()简介

pytorch用法记录(torch.Storage与detach)

snowsnowsnow1991的博客

03-23

591

1.torch.Storage类使用storage()函数把Tensor数据转换为float类型的Storage数据，再使用tolist() 返回一个包含此存储中元素的列表。 2.detach 计算图截断 detach 的意思是，这个数据和生成它的计算图“脱钩”了，即detach就是截断反向传播的梯度流。GAN中，Train D on fake，G生成的数据会传入D，然...

torch.Storage()是什么？和torch.Tensor()有什么区别？

xian0710830114的专栏

09-15

944

torch.Tensor()大家都很熟悉，torch中操作的数据类型都是Tensor。Storage在实际使用中却很少接触，但它却非常重要，因为Tensor真正的数据存储在Storage中，接下来我将结合代码简单的介绍一下Storage。

Pytorch-1.3 认识tensor【1】storage()和storage.offset()、shape和size()、stride()、t()和transpose()

weixin_42524838的博客

01-12

1782

tensor张量是指将向量和矩阵推广到任意维数的一种数据结构，它存储使用索引可以单独访问的数字集合，并且可以使用多个索引进行索引。Python中的列表或数字元组是在内存中单独分配的Python对象的集合；而PyTorch张量或NumPy数组是分配在连续的内存块中。本篇介绍了《deep learning with pytorch》书中第一章第三篇，主要介绍了以下内容：storage()和storage.offset()、shape和size()、stride()、t()和transpose(）。

PyTorch数据保存和读取的学习笔记（tensor, model）

墨门

06-17

959

Keywords: 序列化 Map_location用于指定读取数据的映射设备，可以是 a function, torch.device, string or a dict. 可以使用函数来表示，我们来看看 doc 中给出的例子：当使用函数来指定映射方式时，其格式为：其中 storage: 为初始存储对象（initial deserialization of the storage, residing on the CPU），为序列化时对象的存储位置............

pytorch实战-1张量

peter6768的博客

03-28

999

torch是python的一个深度学习库，torch使用张量进行计算。

Pytorch学习笔记---3：张量存储视图

m0_64007201的博客

10-11

860

对张量存储视图的总结

Pytorch使用之图像的预处理（1）

猫猫与橙子的博客

01-16

5484

最近使用pytorch训练人脸属性分类，关注到训练时的图像增强方法，常规使用方法是transform，之前没有特别留意过transform的使用。今天看了几篇帖子，稍微总结一下pytorch是怎样对数据进行预处理。直接上源码，还是放最后吧（因为我也讨厌直接看有源码的博客，呵呵呵），先讲一下调用流程：目录一、pytorch框架加载数据的调用函数解析二、数据在哪里正式对数据进行预处理 ...

DETR纯代码分享（四）misc.py(util)

sinat_41942180的博客

09-15

1017

以下是函数的主要步骤：创建一个空列表。

PyTorch学习笔记(5)——论一个torch.Tensor是如何构建完成的？

g11d111的博客

07-27

6976

最近在准备学习PyTorch源代码，在看到网上的一些博文和分析后，发现他们发的PyTorch的Tensor源码剖析基本上是0.4.0版本以前的。比如说：在0.4.0版本中，你是无法找到a = torch.FloatTensor()中FloatTensor的usage的，只能找到a = torch.FloatStorage()。这是因为在PyTorch中，将基本的底层THTensor.h TH...

PyTorch常用函数(5)

weixin_43229348的博客

09-15

1440

1. torch.Storage 一个 torch.Storage 是一个单一数据类型的连续一维数组。每个 torch.Tensor 都有一个对应的、相同数据类型的存储。 byte()：将此存储转为byte类型 char()：将此存储转为char类型 clone()：返回此存储的一个副本 cpu()：如果当前此存储不在 CPU 上，则返回一个它的 CPU 副本 cuda(device=None, async=False)：返回此对象在 CUDA 内存中的一个副本。如果此对象已在 CUDA 内存中且在正确的

torch.shortage

weixin_36670529的博客

05-04

382

torch.Storage是单个数据类型的一维数组。每个torch.Tensor都有一个对应的相同数据类型的存储。 class torch.FloatStorage[source] bfloat16() 将这个存储变为bfloat16类型。 bool() 将这个存储变为bool类型 byte() 将这个存储变为byte类型 char() 将这个存储变为char类型 clone() 返回这个存储的拷贝份 complex_double() 将这个存储变为复杂的double类型 com

r""" The torch package contains data structures for multi-dimensional tensors and defines mathematical operations over these tensors. Additionally, it provides many utilities for efficient serialization of Tensors and arbitrary types, and other useful utilities. It has a CUDA counterpart, that enables you to run your tensor computations on an NVIDIA GPU with compute capability >= 3.0. """ import math import os import sys import platform import textwrap import ctypes import inspect import threading # multipy/deploy is setting this import before importing torch, this is the most # reliable way we have to detect if we're running within deploy. # https://github.com/pytorch/multipy/blob/d60f34ad38c371e441fe7ffdb77a3c3dda5a5d19/multipy/runtime/interpreter/interpreter_impl.cpp#L134-L137 def _running_with_deploy(): return sys.modules.get("torch._meta_registrations", None) is object from ._utils import _import_dotted_name, classproperty from ._utils import _functionalize_sync as _sync from ._utils_internal import get_file_path, prepare_multiprocessing_environment, \ USE_RTLD_GLOBAL_WITH_LIBTORCH, USE_GLOBAL_DEPS # TODO(torch_deploy) figure out how to freeze version.py in fbcode build if _running_with_deploy(): __version__ = "torch-deploy-1.8" else: from .torch_version import __version__ as __version__ from typing import Any, Callable, Dict, Optional, Set, Tuple, Type, TYPE_CHECKING, Union, List import builtins __all__ = [ 'typename', 'is_tensor', 'is_storage', 'set_default_tensor_type', 'set_default_device', 'get_default_device', 'set_rng_state', 'get_rng_state', 'manual_seed', 'initial_seed', 'seed', 'save', 'load', 'set_printoptions', 'chunk', 'split', 'stack', 'matmul', 'no_grad', 'enable_grad', 'rand', 'randn', 'inference_mode', 'DoubleStorage', 'FloatStorage', 'LongStorage', 'IntStorage', 'ShortStorage', 'CharStorage', 'ByteStorage', 'BoolStorage', 'TypedStorage', 'UntypedStorage', 'DoubleTensor', 'FloatTensor'

03-18

<think>好的，用户想了解PyTorch包的功能及其CUDA支持的相关细节。首先，我需要整理PyTorch的核心功能，包括多维张量、数学运算、序列化和部署环境，以及CUDA的支持情况。首先，多维张量是PyTorch的基础数据结构，类似于NumPy数组，但支持GPU加速和自动微分。例如，用户可能需要知道如何创建张量，进行转置操作，引用中的例子transpose可以说明这一点[^4]。另外，张量的自动微分是关键功能，引用中的例子使用了torchviz来可视化计算图，这能帮助用户理解梯度计算[^3]。接下来是数学运算部分，PyTorch提供了丰富的运算函数，如矩阵乘法和卷积操作。用户可能关心这些运算如何在GPU上加速，特别是深度学习中的卷积层，引用提到序列并行在Transformer中的应用[^2]，这可能与数学运算的高效执行有关。然后是序列化，用户需要知道如何保存和加载模型。这部分相对直接，但需要强调模型在不同环境中的移植性，可能涉及部署环境的内容。部署环境方面，PyTorch支持移动端和服务器部署，如TorchServe和ONNX格式转换。用户可能对生产环境的模型部署感兴趣，需要提到这些工具。 CUDA支持是重点，PyTorch通过CUDA和cuDNN实现GPU加速。需要说明如何将张量移动到GPU，混合精度训练，以及分布式训练。引用中的自动微分部分提到张量支持梯度计算[^1]，这与CUDA的使用密切相关，因为梯度计算可以在GPU上高效执行。此外，用户可能想知道PyTorch与其他框架的区别，比如自动微分和动态计算图。引用中的自动微分对比了NumPy和PyTorch张量[^1]，需要强调这一点。还需要考虑用户可能的隐藏需求，比如性能优化、实际应用中的问题解决，或者如何利用CUDA提升训练速度。相关问题需要覆盖这些方面，比如CUDA加速原理、自动微分实现、模型部署工具、序列并行的应用，以及性能优化方法。最后，确保回答结构清晰，分点说明，并引用正确的资料。例如，在CUDA支持部分，引用自动微分和序列并行的内容[^1]，在张量操作部分引用转置的例子[^4]。</think>### PyTorch 包功能与CUDA支持详解 --- #### **1. PyTorch 核心功能** **（1）多维张量（Tensor）** PyTorch 的核心数据结构是多维张量，支持高效数学运算和自动微分。例如： - 创建张量：`x = torch.Tensor(2,3,4,5)`，其维度为 `[2,3,4,5]` - 张量转置：通过 `transpose` 方法调整维度顺序，例如 `x.transpose(0,1).transpose(3,2)` - **自动微分**：张量可通过 `requires_grad=True` 启用梯度跟踪，支持反向传播 **（2）数学运算** - **基础运算**：加减乘除、矩阵乘法（`torch.matmul`）、卷积（`torch.nn.Conv2d`） - **高级运算**：傅里叶变换、线性代数函数（如 SVD、QR 分解） - **序列并行**：在分布式训练中，通过 `SequenceParallel` 对序列维度分片，优化长序列处理效率 **（3）序列化与模型保存** - 使用 `torch.save()` 和 `torch.load()` 保存/加载模型或张量 - 支持导出为 ONNX 格式，实现跨框架部署 **（4）部署环境** - **移动端**：通过 TorchScript 转换为轻量级模型 - **服务器端**：集成 TorchServe 实现高性能推理 - **跨平台**：支持 CUDA、ROCm（AMD GPU）和 CPU --- #### **2. CUDA 支持细节** **（1）GPU 加速计算** - **张量迁移**：通过 `.to('cuda')` 将张量/模型移至 GPU，例如： ```python x = torch.randn(2,3).cuda() # 张量分配至 GPU ``` - **混合精度训练**：使用 `torch.cuda.amp` 自动混合精度，提升训练速度 - **cuDNN 优化**：深度整合 NVIDIA cuDNN 库，加速卷积、循环神经网络等操作 **（2）分布式训练** - **数据并行**：`torch.nn.DataParallel` 实现单机多卡并行 - **模型并行**：通过 `DTensor` 分片策略（如 `Shard(1)`）优化显存占用 - **通信优化**：支持 NCCL 后端，降低多 GPU 通信开销 **（3）动态计算图** - **即时执行（Eager Mode）**：动态构建计算图，便于调试 - **静态图优化**：通过 `torch.jit.trace` 或 `torch.jit.script` 生成静态图提升性能 --- #### **3. 与其他框架的对比** | 特性 | PyTorch | NumPy | |-------------------|----------------------------------|--------------------| | **自动微分** | 原生支持（`requires_grad=True`） | 不支持 | | **GPU 加速** | 通过 CUDA 实现 | 无原生支持 | | **动态计算图** | 支持 | 无计算图概念 | ---