PyTorch -- 最常见损失函数 LOSS 的选择

【深度学习训练代码】的核心流程其实就三步：

1. 前向传播：y_pred = model(x)，计算预测
2. 计算损失：loss = loss_fn(y_pred, y)，衡量预测和标签差距【<-- 本文关注点】
3. 反向传播 + 参数更新：
   • 清空旧梯度： optimizer.zero_grad()
   • 反向传播：loss.backward()
   • 更新参数：optimizer.step()

---

• 损失函数：度量模型的预测结果与真实值之间的差异；通过最小化 loss -> 最大化模型表现
• 代码实现框架：设有 模型预测值 f (x), 真实值 y
  • 方法一： 步骤 1. criterion = torch.nn.某个Loss()；步骤 2. loss = criterion(f(x), y)
  • 方法二：直接采用 F.某个_loss(f(x), y)

---

回归损失（Regression Loss）：希望预测值和真实值接近，即 f(x) = y

• 【torch.nn.L1Loss()】平均绝对值误差 MAE（Mean Abs Error）: f (x) 和 y 之间差的绝对值的平均值
  • 具体数学计算公式：$\text{Loss}=\frac{1}{n}{\sum }_{i=0}^n|f$