pytorch学习006- -回归问题的损失函数

原创 已于 2022-03-28 15:44:00 修改 · 738 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#pytorch #深度学习 #python

于 2022-03-06 16:19:52 首次发布
本文详细介绍了深度学习中常用的三种损失函数——L1Loss、MSELoss和SmoothL1Loss。L1Loss计算的是绝对误差的总和，MSELoss则是计算平方误差的平均值，而SmoothL1Loss结合了L1Loss和MSELoss的优点，对小误差采用平方误差，大误差采用绝对误差，降低了梯度爆炸的风险。这些损失函数在图像重建、目标检测等任务中有着广泛应用。

L1Loss

from torch import nn
loss = nn.L1Loss()
  • 首先计算对应位置差值
  • 然后求绝对值
  • 累加
  • 除以总的像素数

MSELoss

from torch import nn
loss = nn.MSELoss()
  • 首先计算对应位置差值
  • 然后求平方值
  • 累加
  • 除以总的像素数

SmoothL1Loss

from torch import nn
loss = nn.SmoothL1Loss()
  • 首先计算对应位置差值
  • 如果差值不小1，则求绝对值后-0.5
  • 如果差值小于1，则求平方值后*0.5
  • 累加
  • 除以总的像素数
Pytorch学习--回归损失函数总结
qq_40379132的博客
06-23 4536
“损失函数”是机器学习优化中至关重要的一部分。机器学习中所有的算法都需要最大化或最小化一个函数，这个函数被称为“目标函数”。其中，我们一般把最小化的一类函数，称为“损失函数”。它能根据预测结果，衡量出模型预测能力的好坏。常见的损失函数例如L1、L2损失函数。除此之外，还有Huber损失、Log-Cosh损失、以及常用于计算预测区间的分位数损失。在实际应用中，选取损失函数会受到诸多因素的制约，比如是否有异常值、机器学习算法的选择、梯度下降的时间复杂度、求导的难易程度以及预测值的置信度等等。因此，不存在一种损失
4.6 PyTorch使用损失函数
【人工智能】王小草的博客
02-15 967
欢迎订阅本专栏：《PyTorch深度学习实践》 订阅地址：https://blog.youkuaiyun.com/sinat_33761963/category_9720080.html 第二章：认识Tensor的类型、创建、存储、api等，打好Tensor的基础，是进行PyTorch深度学习实践的重中之重的基础。 第三章：学习PyTorch如何读入各种外部数据 第四章：利用PyTorch从头到尾创建、训...
序数回归：损失函数：ordinal_regression_loss
最新发布
weixin_36378508的博客
11-26 294
在医疗 AI 领域，很多分类任务具有有序类别的特性，如疾病严重程度（轻度→中度→重度）、肿瘤分级（G1→G2→G3）等。这类任务被称为序数回归（Ordinal Regression），需要特殊的损失函数设计。本文将深入解析序数回归损失函数的原理及其实现代码。
损失函数技术总结
CV技术指南（微信公众号）
06-18 644
前言： 一直想写损失函数的技术总结，但网上已经有诸多关于损失函数综述的文章或博客，考虑到这点就一直拖着没写，直到有一天，我将一个二分类项目修改为多分类，简简单单地修改了损失函数，结果一直有问题，后来才发现是不同函数的标签的设置方式并不相同。 为了避免读者也出现这样的问题，本文中会给出每个损失函数的pytorch使用示例，这也是本文与其它相关综述文章或博客的区别所在。希望读者在阅读本文时，重点关注一下每个损失函数的使用示例中的target的设置问题。 本文对损失函数的类别和应用场景，常...
pytorch模型构建（四）——常用的回归损失函数
热门推荐
weixin_39263657的博客
12-09 1万+
一、简介（占位，待写） 1. 图： 目的： 原则： 方法： 二、数 1.
pytorch框架--网络方面--损失函数基本(回归、分类)
雪剑封心
11-23 375
基础损失函数示例 import torch from torch import nn from torch.nn import L1Loss inputs = torch.tensor([1, 2, 3], dtype=torch.float32) targets = torch.tensor([1, 2, 5], dtype=torch.float32) inputs = torch.reshape(inputs, (1, 1, 1, 3)) targets = torch.reshape(targe
pytorch学习－－线性回归
01-23
本文将详细介绍如何使用PyTorch框架来实现一个线性回归模型，涵盖了从数据生成、模型定义、初始化、损失函数的选择、优化器的配置到模型训练的全过程。 线性回归，作为机器学习中最简单和最基础的算法之一，它的...
Pytorch ----逻辑斯蒂回归 （Sigmoid函数） -----分类问题模型,~~学习笔记
深度不学习！！的博客
10-31 4375
说是回归，实际是在讨论分类问题。 如下的分类图，里面含有0-9 十个数字。 这时候就不能再使用前面几节学过的线性回归模型(y = w * x + b)了，因为图片中的数字并没有对应到实际抽象的数字，我们只做分类，图片类别之间是没有大小的。 也就是我们要算出来 根据输入值，算出其属于某一部分的概率。 例如之前在线性回归中使用的数据模型: x表示学习几个小时，y表示考试中可以得到几分。 而现在的数据模型改为: x依旧是学习几个小时，y变为是否能够通过考试，0不通过，1通过。 此时为明显的分类问题，此处叫二
1.2 pytorch深度学习--softmax回归
fan_g的博客
02-04 1428
分类的基础，softmax
1.1 pytorch深度学习--线性回归
fan_g的博客
01-19 2681
崩溃，写了半天没了。。。。
L1Loss函数的使用————PyTorch
weixin_45947476的博客
10-19 1532
哔哩大学的PyTorch深度学习快速入门教程（绝对通俗易懂！）【小土堆】 的P23讲讲述了L1Loss函数的使用。 import torch from torch.nn import L1Loss inputs = torch.tensor([1, 2, 3], dtype=torch.float32) # 变成浮点数 targets = torch.tensor([1, 2, 5], dtype=torch.float32) inputs = torch.reshape(inputs, (1, 1,
spacecutter:PyTorch中的序数回归模型
05-05
太空切割机 spacecutter是一个用于在PyTorch中实现序数回归模型的库。 该库由模型和损失函数组成。 建议使用打包模型以使其与scikit-learn兼容。 安装 pip install spacecutter 用法 楷模 定义要生成单个标量预测值的任何PyTorch模型。 这将是我们的predictor模型。 然后，可以使用spacecutter.models.OrdinalLogisticModel封装该模型，该模型会将predictor的输出从单个数字转换为序数类概率的数组。 以下示例显示了针对具有三个序数类的问题的两层神经网络predictor如何执行此操作。 import numpy as np import torch from torch import nn from spacecutter . models import OrdinalLogisticMode
pytorch常用损失函数
浩瀚之水的专栏
09-07 2931
L1Loss的公式可以表示为：其中，n 是样本数量，yi​ 是第 i 个样本的真实值，y^​i​ 是第 i 个样本的预测值，∣yi​−y^​i​∣ 是预测值与真实值之间差值的绝对值。MSELoss的数学表达式为：其中，n 是样本数量，yi​ 是第 i 个样本的真实值，y^​i​ 是第 i 个样本的预测值。公式中的求和操作（∑）表示对所有样本的损失进行累加，然后除以样本数量 n 以求得平均损失。SmoothL1Loss的公式可以表示为：其中，x 是预测值与真实值之间的差值。
PyTorch损失函数详解：深入理解神经网络的指导之星
DeepViewInsight的博客
09-15 726
损失函数（Loss Function）是深度学习中的一个关键概念。它是一种用来度量模型输出与真实标签之间差异的函数。损失函数的目标是帮助神经网络调整参数，以使模型的预测尽可能接近实际值。在训练神经网络时，我们的目标是最小化损失函数的值。简单来说，损失函数是神经网络的“指导之星”，它告诉网络它离正确答案有多远，并指导网络朝着更准确的方向前进。
各类损失函数-pytorch
秀呀秀的博客
01-02 1197
转载地址：https://www.jishux.com/p/2a9ae1556486f8be 基类定义 pytorch损失类也是模块的派生，损失类的基类是_Loss,定义如下 class _Loss(Module): def __init__(self, size_average=None, reduce=None, reduction='elementwise_mean'): ...
详解序数回归损失函数ordinal_regression_loss：原理与实现
weixin_64659655的博客
07-15 1249
本文探讨了医疗AI领域中序数回归损失函数的原理与实现。针对具有有序类别特性的任务（如疾病严重程度分级），传统的交叉熵损失无法利用类别间的顺序关系。文章重点解析了累积概率模型的实现方法：通过计算阈值和累积概率，构建概率矩阵并计算负对数似然损失。该方法能更好地保持类别顺序，提升模型对程度差异的敏感性。文中还提供了代码实现细节和医疗应用建议，强调该损失函数在疾病分级等场景中的优势，包括更好的校准性和临床意义。实践时需注意阈值初始化、模型输出设计和评估指标选择。
pytorch学习：逻辑回归代码
xckkcxxck的博客
09-02 1090
# -*- coding: utf-8 -*- """ Created on Sun Sep 2 09:50:01 2018 @author: www """ import torch from torch.autograd import Variable import numpy as np import matplotlib.pyplot as plt #设定随机种子 torch.m...
用于单眼深度估计的深度序数回归网络（论文 2018）
desian
11-16 2517
Deep Ordinal Regression Network for Monocular Depth Estimation 原文下载：http://openaccess.thecvf.com/content_cvpr_2018/papers/Fu_Deep_Ordinal_Regression_CVPR_2018_paper.pdf 寻找大佬交流 1 1 1 1 作者：Huan Fu、 Ming...
PyTorch Toolbelt 0.3.0 - 深度学习Python包下载
2. 损失函数：预定义的一些损失函数，这些损失函数用于训练深度学习模型，并且能够处理不同的机器学习问题，比如分类、回归等。 3. 评估指标：一系列用于衡量模型性能的指标，例如准确率、召回率、F1分数等。 4. 预...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值