损失函数总结（七）：MarginRankingLoss、HingeEmbeddingLoss

最新推荐文章于 2025-03-22 02:08:20 发布
最新推荐文章于 2025-03-22 02:08:20 发布
阅读量1.5k 收藏 5
点赞数 7
CC 4.0 BY-SA版权
分类专栏： 深度学习 文章标签： 机器学习 深度学习 python 损失函数 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_36758270/article/details/134008266
本文深入探讨了两种深度学习中的损失函数——MarginRankingLoss和HingeEmbeddingLoss。MarginRankingLoss常用于Siamese网络，通过比较样本对来优化模型。HingeEmbeddingLoss则适用于训练具有嵌入向量的模型，常见于对比学习任务。文章提供了损失函数的数学公式及PyTorch代码实现，并总结了它们在实际应用中的价值。

损失函数总结（七）：MarginRankingLoss、HingeEmbeddingLoss

1 引言

在前面的文章中已经介绍了介绍了一系列损失函数 (L1Loss、MSELoss、BCELoss、CrossEntropyLoss、NLLLoss、CTCLoss、PoissonNLLLoss、GaussianNLLLoss、KLDivLoss、BCEWithLogitsLoss)。在这篇文章中，会接着上文提到的众多损失函数继续进行介绍，给大家带来更多不常见的损失函数的介绍。这里放一张损失函数的机理图：
在这里插入图片描述

2 损失函数

2.1 MarginRankingLoss

MarginRankingLoss 是一种用于对比学习（Siamese网络）中的损失函数，通常用于训练模型来学习如何区分两个样本或实例。这种损失函数通常用于度量两个样本之间的相似性或距离，以便在训练中推动模型使相似样本更接近，而不相似样本更远<

了解本专栏 订阅专栏 解锁全文 超级会员免费看
torch深入学习之凤飞九天torch.nn.MarginRankingLoss
NLP与推荐算法
08-31 1669
接上一篇水文，这次还得学习模型，源于Chorus模型，自搜可得 For Video Recommendation in Deep learning QQ Group 277356808 For Visual in deep learning QQ Group629530787 I'm here waiting for you 这里学习一个损失函数MarginRankingLoss，如下，如果不知道怎么来的，建议你直接将help出来的math，复制粘贴到公式下 margin默认为0，..
pytorch使用——（十）18种损失函数总结
weixin_37799689的博客
06-02 6540
一、损失函数概念 损失函数：衡量模型输出与真实标签的差异 class _Loss(Module): def __init__(self, size_average=None, reduce=None, reduction='mean'): super(_Loss, self).__init__() if size_average is not None or reduce is not None: self.red
MarginRankingLoss
YJYS_ZHX的博客
01-30 1973
损失函数的定义为： loss = nn.MarginRankingLoss(margin=0.5,reduction='none') #reduction ：[ 'none' | 'mean' | 'sum'] 损失函数的使用： x1 = torch.tensor([1,2,3,4],requires_grad=True, dtype=torch.float32) x2 = torch.tensor([3,4,5,6], requires_grad=True, dtype=torch.float32) .
Contrastive Loss & Margin Ranking Loss
aCuteCat__的博客
03-06 647
对比损失（Contrastive Loss）和 Margin Ranking Loss 都属于用于学习或的损失函数。它们通常在等场景中使用，其中需要之间的关系。
loss函数之MarginRankingLoss
ltochange的博客
07-12 1万+
MarginRankingLoss 排序损失函数 对于包含NNN个样本的batch数据 D(x1,x2,y)D(x1,x2,y)D(x1,x2,y), x1x1x1, x2x2x2是给定的待排序的两个输入，yyy代表真实的标签，属于{1,−1}\{1,-1\}{1,−1}。当y=1y=1y=1是，x1x1x1应该排在x2x2x2之前，y=−1y=-1y=−1是，x1x1x1应该排在x2x2x2之后。第nnn个样本对应的losslossloss计算如下: ln=max⁡(0,−y∗(x1−x2)+margin
Pytorch十九种损失函数的使用详解
12-20
在PyTorch中，损失函数是深度学习模型训练的核心组成部分，它们用于衡量模型预测与实际目标之间的差距。这里我们将详细探讨十九种PyTorch损失函数的使用，主要介绍其中的几种常见类型。 首先，损失函数的基本使用...
TensorFlow2损失函数大全
bigcindy的博客
07-04 5309
本文汇总了TensorFlow2中的所有损失函数： 1. L1范数损失 计算预测值与标签值之间的绝对误差的平均值： tf.keras.losses.MAE(y_true, y_pred) 参数： y_true 标签值 y_pred 预测值 返回值： 绝对误差的平均值。 别名： tf.keras.losses.mae, tf.keras.losses.mean_absolute_error, tf.keras.metrics.MAE, tf.keras.metrics
常用损失函数总结（L1 loss、L2 loss、Negative Log-Likelihood loss、Cross-Entropy loss、Hinge Embedding loss、Margi）
weixin_38353277的博客
05-05 4059
常用损失函数总结（L1 loss、L2 loss、Negative Log-Likelihood loss、Cross-Entropy loss、Hinge Embedding loss、Margi）
边际排名损失函数
最新发布
ZZZZZ_SJ的博客
03-22 870
即 loss = max(0, margin - (input1 - input2))是深度学习框架中一个内置的标准损失函数。
PyTorch学习笔记：nn.MarginRankingLoss——排序损失
qq_50001789的博客
02-10 7665
PyTorch学习笔记：nn.MarginRankingLoss——排序损失
class torch.nn.MarginRankingLoss(margin=0, size_average=True)
qq_38813456的博客
11-24 3772
功能： 计算两个向量之间的相似度，当两个向量之间的距离大于margin，则loss为正，小于margin，loss为0。 y == 1时，x1要比x2大，才不会有loss，反之，y == -1 时，x1要比x2小，才不会有loss。
一文理解Ranking Loss/Contrastive Loss/Margin Loss/Triplet Loss/Hinge Loss
机器学习杂货铺1号店
01-15 2万+
一文理解Ranking Loss/Contrastive Loss/Margin Loss/Triplet Loss/Hinge Loss 翻译自FesianXu， 2020/1/13, 原文链接 https://gombru.github.io/2019/04/03/ranking_loss/ 前言 ranking loss在很多不同的领域，任务和神经网络结构（比如sia...
nn.TripletMarginLoss 和 nn.MarginRankingLoss
weixin_43102043的博客
09-24 986
triplet loss
pytorch损失函数踩坑记：Hinge Embedding Loss并不是HingeLoss
qq_36771396的博客
03-31 2127
今天学习HingeLoss损失函数，看了下其他的博客示例代码，运行得到一个负数的损失函数。百思不得期解，于是仔细的分析了下错误原因。原来是Hinge Embedding Loss和HingeLoss混淆了。Hinge Loss（合页损失）通常用于支持向量机（Support Vector Machine，SVM）等模型中，特别是在二分类问题中。它的目标是使正确类别的分数与错误类别的最高分之间的差异达到一个固定的边界，从而促使模型学会产生更大的间隔。
loss函数之CosineEmbeddingLoss，HingeEmbeddingLoss
热门推荐
ltochange的博客
06-20 3万+
CosineEmbeddingLoss 余弦相似度损失函数，用于判断输入的两个向量是否相似。 常用于非线性词向量学习以及半监督学习。 对于包含NNN个样本的batch数据 D(a,b,y)D(a,b,y)D(a,b,y)。aaa,bbb 代表模型输出，yyy代表真实的类别标签，yyy中元素的值属于{1,−1}\{1,-1\}{1,−1}，分别表示相似与不相似。 第iii个样本对应的losslossloss，如下： li={1−cos⁡(ai,bi), if yi=1max⁡(0,cos⁡
模型损失函数变化曲线图_Day82:对比损失(Contrastive Loss )函数及梯度的计算
weixin_39731682的博客
11-21 3749
Contrastive loss 最初源于 Yann LeCun “Dimensionality Reduction by Learning an Invariant Mapping” CVPR 2006。该损失函数主要是用于降维中，即本来相似的样本，在经过降维(特征提取)后，在特征空间中，两个样本仍旧相似；而原本不相似的样本，在经过降维后，在特征空间中，两个样本仍旧不相似。同样，该损失函数也可以...
的margin函数_人脸识别中的margin损失函数
weixin_36318548的博客
01-12 587
用于人脸识别的损失函数，有Softmax，Contrastive Loss，Triplet Loss，Center Loss，Norm Face，Large-Margin Loss，A-Softmax Loss，InsightFace等等，这篇文章简单聊聊近年的margin损失函数。margin损失函数：Large-margin Softmax(L-Softmax)Sphereface(A-Sof...
整理：TripletMarginLoss、nn.MarginRankingLoss
liupc的学习笔记
03-24 8487
在pytorch中，提供了两个损失函数，都与triplet loss相关。但是使用的方式不一样。 一、TripletMarginLoss 这个就是最正宗的Triplet Loss的实现。它的输入是anchor, positive, negative三个B*C的张量，输出triplet loss的值。 定义为： criterion = torch.nn.TripletMarginLoss(margin=1.0, p=2.0, eps=1e-06, swap=False, size_averag.
"深入学习损失函数：从基础到新进展
在本文中，我们将对损失函数的基本原理进行梳理和总结，并介绍一些比较新的损失函数，如softmax loss、A-softmax、center loss、coco-loss和triple-loss，以及它们的理论推导和应用情况。 在绪论部分，我们首先对...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

sjx_alo

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值