pytorch损失函数、反向传播、优化器【小土堆】

最新推荐文章于 2025-10-08 11:55:10 发布

原创

最新推荐文章于 2025-10-08 11:55:10 发布 · 1.9k 阅读

32 ·

CC 4.0 BY-SA版权

文章标签：

#pytorch #人工智能 #python

本文介绍了PyTorch中的损失函数（如L1Loss、MSELoss和CrossEntropyLoss），展示了如何在代码中使用这些函数进行模型训练，包括反向传播的原理和优化器（如SGD）的应用。作者通过实例演示了如何在CIFAR10数据集上实现一个简单的神经网络并进行参数优化。

自己学习的总结，有不对的地方欢迎指正，感谢各位

一、损失函数：

1.简介：

Loss Function ： torch.nn — PyTorch 2.2 documentationhttps://pytorch.org/docs/stable/nn.html#loss-functions

本节中主要讲了：

nn.L1Loss、nn.MSELoss、 nn.CrossEntropyLoss（链接可以直接跳转）

2.代码：

# 损失函数与反向传播
import torch
from torch.nn import L1Loss
from torch import nn
inputs = torch.tensor([1, 2, 3], dtype=torch.float32)
targets = torch.tensor([1, 2, 5], dtype=torch.float32)
print("inputs: " + str(inputs.shape))   # 格式显示
print("targets: " + str(targets.shape))

inputs = torch.reshape(inputs, (1, 1, 1, 3))  # batch_size, channel, 行, 列
targets = torch.