《Pytorch深度学习实践》P5 用Pytorch实现线性回归 代码+笔记+作业：标量、向量、矩阵、张量、维度、轴概念区分、8个优化器介绍

b站的up主刘二大人的《PyTorch深度学习实践》P5 用Pytorch实现线性回归 代码＋笔记+作业，视频链接。需要一定的Python基础，关于面向对象编程（OOP）的基础，没有基础的可以看b站上黑马的Python课程，视频链接。

目录

一、区分一下标量、向量、矩阵、张量的概念，维度和轴的概念

1、维度和轴的概念

2、标量、向量、矩阵、张量的概念

二、PPT中基于Pytorch的线性回归代码+流程总结

1、流程总结

2、代码 

三、作业：尝试使用不同的优化器，进行对比

1、优化器介绍SGD、Adagrad、Adam、Adamax、ASGD、LBFGS、RMSproo、Rprop

2、代码及损失图像绘制、总结

---

一、区分一下标量、向量、矩阵、张量的概念，维度和轴的概念

1、维度和轴的概念

• 维度（dimension）: 代表数据结构的空间的数量。0 维表示单一值，1 维表示一组值，2 维表示一个平面，3 维表示一个体积，以此类推。
• 轴（axis）: 指在张量中数据的排列方向。例如，矩阵有两个轴：轴 0 表示行，轴 1 表示列。对于 3 维张量，轴 0 可能表示深度，轴 1 表示行，轴 2 表示列。

2、标量、向量、矩阵、张量的概念

①. 标量（Scalar）

• 定义: 标量是一个单一的数值，没有方向和其他复杂结构。
• 维度: 0 维。它只有一个值，没有长度、宽度或高度。
• 示例: s=7，这是一个简单的数值。
• 轴: 没有轴，因为它是一个单一的值。

②. 向量（Vector）

• 定义: 向量是由一组数值按顺序排列的列表，可以理解为一维的数组。
• 维度: 1 维。向量表示长度的一维数据，没有宽度或高度。
• 示例: v=[1,2,3]是一个一维向量，包含 3 个元素。
• 轴: 1 个轴，称为“轴 0”（axis 0），表示沿着这一维度排列的元素。

③. 矩阵（Matrix）

• 定义: 矩阵是二维的数值表格，可以看作是多个向量的组合。
• 维度: 2 维。矩阵具有行和列（即长度和宽度）。
• 示例: 这是一个  的矩阵，有 2 行和 3 列。
• 轴: 2 个轴，分别是“轴 0”（axis 0，沿行方向）和“轴 1”（axis 1，沿列方向）。

④. 张量（Tensor）

• 定义: 张量是任意维度的数组。张量可以是标量、向量、矩阵的扩展形式。当维度超过二维时，我们称之为高阶张量。
• 维度: 张量可以具有任意维度。例如，三维张量表示长、宽和高；四维张量则可能表示图像数据，其中还包括通道信息等。
• 示例:
  • 0 维张量：标量，例如 s=7。
  • 1 维张量：向量，例如 v=[1,2,3]。
  • 2 维张量：矩阵，例如 。
  • 3 维张量：可以是一个堆叠的矩阵集合，例如RGB图像，张量表示为[3,H,W]，分别表示通道数、图像高度和图像宽度。
• 轴: 张量的轴数等于其维度数。一个 3 维张量有 3 个轴，一个 4 维张量有 4 个轴，以此类推。

---