Ethan_Rich的博客

【代码】Pytorch：加载断点(pth)权重参数。

将生成一个包含 5 个等间隔数值的张量，范围从 1 到 2。是 PyTorch 提供的一个用于生成等间隔数值的函数。会在指定的区间内生成指定数量的等间隔数值。这些数值是在指定范围内均匀分布的。

Dropout 阻止神经网络对某些特定输入值过度依赖，从而提高模型的泛化能力。通过随机地失活神经元（将其输出设为零），模型在训练期间不会过度依赖于任何一个神经元，减少了复杂模型在训练数据上的过拟合风险。此外，默认是在dim=1维度上进行抑制，如果有问题可自行定义失活的维度，或者检查自己的维度转换是否有问题。Dropout 是一种用于深度学习模型的正则化技术，旨在减少模型对特定训练样本的过度拟合。Dropout 可以使模型对输入的微小变化更加鲁棒，因为模型不会过分依赖于特定的输入特征。

查看本地或服务器上可用GPU数量。

是 PyTorch 中的一个函数，用于从张量（tensor）中选取最大的 k 个值及其对应的索引。这个函数对于需要找到最大值或者对数据进行排序的场景非常有用。

双线性插值上采样是通过函数实现的。这个函数用于对输入张量进行插值，支持多种插值方法，其中包括双线性插值。

是 PyTorch 中用于执行矩阵乘法的函数。它的设计目的是为了处理广泛的输入形状和操作，包括矩阵乘法、向量内积、批量矩阵乘法等。

torch.bmm函数是 PyTorch 中用于执行批量矩阵乘法（Batch Matrix-Matrix Multiplication）的函数。它的名字 "bmm" 表示 "batch matrix multiplication"。注意：torch.bmm()是不带广播机制的，也就说需按照矩阵运算机制。比如:[B,3,4]*[B,4,5]是可以的，而[B,3,2]*[B,8,5]是不可以的。

在 PyTorch 中，是torch.nn模块提供的一个类，用于将张量包装成可训练的参数。是的子类，但它与普通的张量有一些特殊的属性，使其在神经网络的参数优化过程中更为方便。记住一句话：放在nn.Parameter才可反向传播并更新。

是一个可变数量的参数，用于指定张量在每个维度上重复的次数。返回一个新的张量，其形状由输入张量和指定的重复次数决定。函数用于在指定的维度上复制张量的元素。

是PyTorch中的一个函数，用于从给定的矩阵中提取对角线元素，或者构造一个以给定对角线元素为值的对角矩阵。这个函数对于矩阵分解和转换等操作非常重要。会返回一个以该向量为对角线元素的2D方阵。如果输入是一个矩阵（2D张量），则返回一个包含输入矩阵对角线元素的1D张量。，则为位于主对角线之上的对角线；还允许你指定对角线的位置，通过参数。如果输入是一个向量（1D张量），，则为位于主对角线之下的对角线。

在PyTorch中，你可以使用函数来设置设备（device）。这个函数接受一个字符串作为参数，该字符串可以是 "cpu" 或 "cuda"，它指定了要在哪个设备上运行张量计算。

在PyTorch中，state_dict是一个非常重要的概念，它是一个包含模型参数的字典对象。每个模型的state_dict都包含了该模型的所有参数（权重和偏置等），用于在训练和推理过程中重现模型的内部状态.