损失函数总结（七）：MarginRankingLoss、HingeEmbeddingLoss

最新推荐文章于 2025-03-22 02:08:20 发布
最新推荐文章于 2025-03-22 02:08:20 发布
阅读量1.3k 收藏 5
点赞数 7
分类专栏： 深度学习 文章标签： 机器学习 深度学习 python 损失函数 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_36758270/article/details/134008266
版权
本文深入探讨了两种深度学习中的损失函数——MarginRankingLoss和HingeEmbeddingLoss。MarginRankingLoss常用于Siamese网络，通过比较样本对来优化模型。HingeEmbeddingLoss则适用于训练具有嵌入向量的模型，常见于对比学习任务。文章提供了损失函数的数学公式及PyTorch代码实现，并总结了它们在实际应用中的价值。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

损失函数总结（七）：MarginRankingLoss、HingeEmbeddingLoss

1 引言

在前面的文章中已经介绍了介绍了一系列损失函数 (L1Loss、MSELoss、BCELoss、CrossEntropyLoss、NLLLoss、CTCLoss、PoissonNLLLoss、GaussianNLLLoss、KLDivLoss、BCEWithLogitsLoss)。在这篇文章中，会接着上文提到的众多损失函数继续进行介绍，给大家带来更多不常见的损失函数的介绍。这里放一张损失函数的机理图：
在这里插入图片描述

2 损失函数

2.1 MarginRankingLoss

MarginRankingLoss 是一种用于对比学习（Siamese网络）中的损失函数，通常用于训练模型来学习如何区分两个样本或实例。这种损失函数通常用于度量两个样本之间的相似性或距离

了解本专栏 订阅专栏 解锁全文 超级会员免费看
torch深入学习之凤飞九天torch.nn.MarginRankingLoss
NLP与推荐算法
08-31 1619
接上一篇水文，这次还得学习模型，源于Chorus模型，自搜可得 For Video Recommendation in Deep learning QQ Group 277356808 For Visual in deep learning QQ Group629530787 I'm here waiting for you 这里学习一个损失函数MarginRankingLoss，如下，如果不知道怎么来的，建议你直接将help出来的math，复制粘贴到公式下 margin默认为0，..
MarginRankingLoss
YJYS_ZHX的博客
01-30 1920
损失函数的定义为： loss = nn.MarginRankingLoss(margin=0.5,reduction='none') #reduction ：[ 'none' | 'mean' | 'sum'] 损失函数的使用： x1 = torch.tensor([1,2,3,4],requires_grad=True, dtype=torch.float32) x2 = torch.tensor([3,4,5,6], requires_grad=True, dtype=torch.float32) .
边际排名损失函数
最新发布
ZZZZZ_SJ的博客
03-22 694
即 loss = max(0, margin - (input1 - input2))是深度学习框架中一个内置的标准损失函数。
loss函数之MarginRankingLoss
ltochange的博客
07-12 1万+
MarginRankingLoss 排序损失函数 对于包含NNN个样本的batch数据 D(x1,x2,y)D(x1,x2,y)D(x1,x2,y), x1x1x1, x2x2x2是给定的待排序的两个输入，yyy代表真实的标签，属于{1,−1}\{1,-1\}{1,−1}。当y=1y=1y=1是，x1x1x1应该排在x2x2x2之前，y=−1y=-1y=−1是，x1x1x1应该排在x2x2x2之后。第nnn个样本对应的losslossloss计算如下: ln=max⁡(0,−y∗(x1−x2)+margin
PyTorch学习笔记：nn.MarginRankingLoss——排序损失
qq_50001789的博客
02-10 7006
PyTorch学习笔记：nn.MarginRankingLoss——排序损失
Pytorch十九种损失函数的使用详解
12-20
在PyTorch中，损失函数是深度学习模型训练的核心组成部分，它们用于衡量模型预测与实际目标之间的差距。这里我们将详细探讨十九种PyTorch损失函数的使用，主要介绍其中的几种常见类型。 首先，损失函数的基本使用...
pytorch使用——（十）18种损失函数总结
weixin_37799689的博客
06-02 6422
一、损失函数概念 损失函数：衡量模型输出与真实标签的差异 class _Loss(Module): def __init__(self, size_average=None, reduce=None, reduction='mean'): super(_Loss, self).__init__() if size_average is not None or reduce is not None: self.red
python画损失函数图_Pytorch十九种损失函数的使用详解
weixin_39947812的博客
12-08 3027
损失函数通过torch.nn包实现，1 基本用法criterion = LossCriterion() #构造函数有自己的参数loss = criterion(x, y) #调用标准时也有参数2 损失函数2-1 L1范数损失 L1Loss计算 output 和 target 之差的绝对值。torch.nn.L1Loss(reduction='mean')参数：reduction-三个值，none:...
TensorFlow2损失函数大全
bigcindy的博客
07-04 5219
本文汇总了TensorFlow2中的所有损失函数： 1. L1范数损失 计算预测值与标签值之间的绝对误差的平均值： tf.keras.losses.MAE(y_true, y_pred) 参数： y_true 标签值 y_pred 预测值 返回值： 绝对误差的平均值。 别名： tf.keras.losses.mae, tf.keras.losses.mean_absolute_error, tf.keras.metrics.MAE, tf.keras.metrics
class torch.nn.MarginRankingLoss(margin=0, size_average=True)
qq_38813456的博客
11-24 3703
功能： 计算两个向量之间的相似度，当两个向量之间的距离大于margin，则loss为正，小于margin，loss为0。 y == 1时，x1要比x2大，才不会有loss，反之，y == -1 时，x1要比x2小，才不会有loss。
一文理解Ranking Loss/Contrastive Loss/Margin Loss/Triplet Loss/Hinge Loss
机器学习杂货铺1号店
01-15 2万+
一文理解Ranking Loss/Contrastive Loss/Margin Loss/Triplet Loss/Hinge Loss 翻译自FesianXu， 2020/1/13, 原文链接 https://gombru.github.io/2019/04/03/ranking_loss/ 前言 ranking loss在很多不同的领域，任务和神经网络结构（比如sia...
nn.TripletMarginLoss 和 nn.MarginRankingLoss
weixin_43102043的博客
09-24 911
triplet loss
pytorch损失函数踩坑记：Hinge Embedding Loss并不是HingeLoss
qq_36771396的博客
03-31 1853
今天学习HingeLoss损失函数，看了下其他的博客示例代码，运行得到一个负数的损失函数。百思不得期解，于是仔细的分析了下错误原因。原来是Hinge Embedding Loss和HingeLoss混淆了。Hinge Loss（合页损失）通常用于支持向量机（Support Vector Machine，SVM）等模型中，特别是在二分类问题中。它的目标是使正确类别的分数与错误类别的最高分之间的差异达到一个固定的边界，从而促使模型学会产生更大的间隔。
Contrastive Loss & Margin Ranking Loss
aCuteCat__的博客
03-06 561
对比损失（Contrastive Loss）和 Margin Ranking Loss 都属于用于学习或的损失函数。它们通常在等场景中使用，其中需要之间的关系。
loss函数之CosineEmbeddingLoss，HingeEmbeddingLoss
热门推荐
ltochange的博客
06-20 3万+
CosineEmbeddingLoss 余弦相似度损失函数，用于判断输入的两个向量是否相似。 常用于非线性词向量学习以及半监督学习。 对于包含NNN个样本的batch数据 D(a,b,y)D(a,b,y)D(a,b,y)。aaa,bbb 代表模型输出，yyy代表真实的类别标签，yyy中元素的值属于{1,−1}\{1,-1\}{1,−1}，分别表示相似与不相似。 第iii个样本对应的losslossloss，如下： li={1−cos⁡(ai,bi), if yi=1max⁡(0,cos⁡
模型损失函数变化曲线图_Day82:对比损失(Contrastive Loss )函数及梯度的计算
weixin_39731682的博客
11-21 3626
Contrastive loss 最初源于 Yann LeCun “Dimensionality Reduction by Learning an Invariant Mapping” CVPR 2006。该损失函数主要是用于降维中，即本来相似的样本，在经过降维(特征提取)后，在特征空间中，两个样本仍旧相似；而原本不相似的样本，在经过降维后，在特征空间中，两个样本仍旧不相似。同样，该损失函数也可以...
的margin函数_人脸识别中的margin损失函数
weixin_36318548的博客
01-12 552
用于人脸识别的损失函数，有Softmax，Contrastive Loss，Triplet Loss，Center Loss，Norm Face，Large-Margin Loss，A-Softmax Loss，InsightFace等等，这篇文章简单聊聊近年的margin损失函数。margin损失函数：Large-margin Softmax(L-Softmax)Sphereface(A-Sof...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

sjx_alo

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值