pytorch基础

1. 生涩的简介

PyTorch是一个基于Python的深度学习框架，它提供了一种灵活、高效、易于学习的方式来实现深度学习模型。PyTorch最初由Facebook开发，被广泛应用于计算机视觉、自然语言处理、语音识别等领域。

PyTorch使用张量（tensor）来表示数据，可以轻松地处理大规模数据集，且可以在GPU上加速。

PyTorch提供了许多高级功能，如自动微分（automatic differentiation）、自动求导（automatic gradients）等，这些功能可以帮助我们更好地理解模型的训练过程，并提高模型训练效率。

2、Tensor概述

PyTorch会将数据封装成张量（Tensor）进行计算，所谓张量就是元素为相同类型的多维矩阵。

张量可以在 GPU 上加速运行。

 

1. 概念

张量是一个多维数组，通俗来说可以看作是扩展了标量、向量、矩阵的更高维度的数组。张量的维度决定了它的形状（Shape），例如：

• 标量 是 0 维张量，如 a = torch.tensor(5)

• 向量 是 1 维张量，如 b = torch.tensor([1, 2, 3])

• 矩阵 是 2 维张量，如 c = torch.tensor([[1, 2], [3, 4]])

• 更高维度的张量，如3维、4维等，通常用于表示图像、视频数据等复杂结构。

2. 特点

• 动态计算图：PyTorch 支持动态计算图，这意味着在每一次前向传播时，计算图是即时创建的。

• GPU 支持：PyTorch 张量可以通过 .to('cuda') 移动到 GPU 上进行加速计算。

• 自动微分：通过 autograd 模块，PyTorch 可以自动计算张量运算的梯度，这对深度学习中的反向传播算法非常重要。

3. 数据类型

PyTorch中有3种数据类型：浮点数、整数、布尔。其中，浮点数和整数又分为8位、16位、32位、64位，加起来共9种。

为什么要分为8位、16位、32位、64位呢？

场景不同，对数据的精度和速度要求不同。通常，移动或嵌入式设备追求速度，对精度要求相对低一些。精度越高，往往效果也越好，自然硬件开销就比较高。

import torch
import numpy as np


def tensor_creat():
    # 标量创建tensor
    t1 = torch.randn(1)
    print(t1)

    # 使用numpy创建
    t2 = torch.tensor(np.random.randn(3, 5))
    print(t2)
    print(t1.shape)

    # 根据list创建
    t3 = torch.tensor([1, 2, 3])
    print(t3)
    print(t3.shape)
    print(type(t3))

 

def torch_Tensor():
    # 根据形状创建
    t1 = torch.Tensor(3,5)
    print(t1)

    # 也可以是具体的值
    t2 = torch.Tensor([1, 2, 3])

    print(t2)
    print(t2.dtype)
    # 指定tensor数据类型
    t3 = torch.randn(3, 5).short()
    print(t3)
    t3