度量学习（meritc learning）思考

最新推荐文章于 2025-07-18 15:15:06 发布
原创 最新推荐文章于 2025-07-18 15:15:06 发布 · 6.4k 阅读 · 13 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

度量学习旨在学习一个嵌入空间，使同类物体间的距离更近，不同类物体间的距离更远，适用于大量类别且每类样本较少的情况。与传统分类任务不同，度量学习能学习到距离概念，适用于人脸识别、验证和聚类。关键在于训练样本的组合方式和损失函数设计，如FaceNet中的Triplet Loss，通过最大化正样本与负样本之间的距离来优化目标函数。

经典论文：

FaceNet: A Unified Embedding for Face Recognition and Clustering

Deep Metric Learning via Lifted Structured Feature Embedding

简单总结下个人对mertic learning的认知：

        ①本质是学习一个embedding space，也可以理解为映射空间，使得同类的物体距离更近，不同类物体距离更远。
        ②应用场景：a.大量的类别，如人脸；b.每类训练样本较少的情况
        ③与传统分类任务相比，度量学习能学习到距离度量的一般概念；在学习到的度量空间与近邻推理兼容。
      ④学习重点：训练样本的组合方式及损失函数的定义。样本有两两组合，三元组合，也有下面论文的lifted structured embedding结构；

得到embedding space，可当作特征向量进行人脸验证（k-NN分类）、识别（和哪个emdedding距离最近）、聚类。

 

例如在《FaceNet: A Unified Embedding for Face Recognition and Clustering》中

这里写图片描述

如上图所示，t

最低0.47元/天 解锁文章

200万优质内容无限畅学
【AI知识点】度量学习（Metric Learning）
AI完全体
10-01 1302
度量学习（Metric Learning）是一种机器学习方法，目标是通过学习一个距离度量函数，使得在特征空间中，相似的样本距离更近，不相似的样本距离更远。简单来说，它是在特征空间中定义一种适当的距离度量，使得模型能够更好地区分不同的类别或判断相似性。
度量学习Metric Learning
邦戈邦戈栗子的博客
01-14 3327
度量学习 (Metric Learning) == 距离度量学习 (Distance Metric Learning，DML) == 相似度学习  度量学习 是指 距离度量学习，Distance Metric Learning，简称为 DML，是人脸识别中常用传统机器学习方法，由Eric Xing在NIPS 2002提出。 度量学习（Metric Learning）也就是常说的相似度学习。如果...
机器学习: Metric Learning (度量学习) 学习笔记
04-01
目前，机器学习中的K近邻(KNN)分类算法和支持向量机(SVM)算法被认为是处理文本分类的最好方法。但KNN分类算法有以下的缺陷： KNN是基于近邻度量的一种模式分类算法，它高度依赖于数据间的相似度度量，简单的欧式距离在实际应用时，由于不考虑不同维度之间对分类的影响以及输入数据数据维数高的问题，往往不能取得良好的分类效果。 KNN 分类算法虽然可以一定情况下克服数据偏斜带来的分类误差，但是这也是造成它对样本密度分布敏感的主要原因，当类间密度高度分布不均时，分类效果会有较大的影响。
度量学习---综述
热门推荐
xys430381_1的专栏
05-30 1万+
度量函数 metric learning 摘自：《Multi-Attention Multi-Class Constraint for Fine-grained Image Recognition》 Apart from the techniques above, deep metric learning aims at the learning of appropriate similarity...
度量学习：让机器学会“距离”的奥秘
最新发布
weixin_31841431的博客
07-18 34
度量学习是一种强大的机器学习技术，它通过学习合适的距离度量函数，帮助我们更好地处理和理解数据。从传统的线性方法到基于深度学习的复杂模型，度量学习在分类、聚类、图像检索等众多领域都发挥着重要作用。通过合理设计损失函数、选择网络架构和采样策略，我们可以实现更精准的度量学习模型，从而提升各种机器学习任务的效果。通过让机器自主学习"数据世界的测量法则"，度量学习为各类机器学习任务提供了更灵活的特征空间建模能力。理解数据的内在关系，有时比堆砌复杂模型更重要。原创作者: wang_yb。
全连接层的作用
yaleyalee的博客
06-07 7372
而卷积神经网络中conv+relu(早期为sigmoid)+pooling(以下称三剑客)的组合，不仅可以替代手工设计特征算子的繁琐，而且局部感受野+权值共享的设计思想也能避免全连接网络中的种种弊端。此时人们将三剑客的组合视为特征提取的过程，如果按照早期人们特征提取+分类的设计思路，那么分类使用全连接的设计方式，就可以刚好实现了一个end-to-end的架构，也即早起卷积神经网络的原型。在实际使用中，全连接层可由卷积操作实现：对前层是全连接的全连接层可以转化为卷积核为1x1的卷积；全连接层的作用是什么？
度量学习的优点、缺点、以及使用度量学习时，需要注意以下问题！！
qlkaicx的博客
02-04 1389
度量学习1. 度量学习的优点包括：2. 度量学习也存在一些缺点：3. 使用度量学习时，需要注意以下问题： 1. 度量学习的优点包括： 相似性识别：度量学习主要用于识别相似对象或模式。例如，在人脸识别或物体识别任务中，度量学习可以帮助模型更好地理解图像内容，提高识别准确率。 无监督学习：度量学习可以在没有标签数据的情况下进行训练，这使得它在某些情况下可以避免手工标注数据的困难和成本。 强大的表示能力：度量学习可以让模型学习到更强大的表示能力，从而更好地泛化到新任务和数据。 2. 度量学习也存在一些缺点：
相似性度量——机器学习
Horace Ho的博客
03-24 2289
相似性度量：给定数值的对象就可以看作一个n 维坐标系下的点，并通过点与点之间的距离来度量。例如：向量v1 = （01， 小明， 男， 175， 北京大学， 软件与微电子学院，软件工程）向量v2 = （02， 小红， 女，  165， 中山大学，医学院，临床医学）个人理解：比较小明和小红的相似度，即对象1和对象2的相似度。可以将其转换为向量v1和向量v2，通过计算其距离，得出相似性。范数向量的范数可...
pytorch-metric-learning度量学习工具官方文档翻译
胖胖大海的博客
01-27 2273
损失函数可以使用距离、规约方法和正则化方法来进行定制化。在下面的图表中，miner在批量中找到难训练的样本对的索引，这些索引被索引到距离矩阵。
论文笔记: 度量学习基本理解
minfanphd的博客
08-28 578
摘要: 度量学习的基本思想是将数据映射到一个新空间, 使得同一类别的数据更相近, 不同类别的数据更容易区分.
论文笔记: 度量学习之 LMNN
minfanphd的博客
08-28 914
摘要: 分享对论文的理解. 原文见 Kilian Q. Weinberger, John Blitzer and Lawrence K. Saul, Distance Metric Learning for Large Margin Nearest Neighbor Classification, NIPS 2005.
论文 基于度量学习的小样本学习研究 阅读心得
m0_37929824的博客
02-19 7365
论文主要工作： 本文提出带间隔的小样本学习， 提升了所学习嵌入表示的质量。 为引入间隔， 本文根据小样本场景特点提出了多路对比损失， 使得小样本学习模型可以学习到一个更加具有判别性的度量空间，同时泛化误差可以减小。带间隔的小样本学习是一个通用的框架，可以同各种基于度量的小样本学习模型结合。 本文将带间隔的小样本学习引入到两种已有模型中，分别是原型网络和匹配网络。 另外， 数据的分布往往都有内在结...
深度度量学习－论文简评
bnuwangxun的博客
10-24 981
缘起： 有人说起深度度量学习，就会觉得这里面水文多，或者觉得鱼龙混杂，参见曾经上了知乎热榜的一个问题： 如何看待研究人员声称近13年来在 deep metric learning 领域的进展实际并不存在？ 作为在这个坑里摸爬了一段时间，也发了两三篇顶会的从业人员．我的看法是，有的文章确实是纯粹的水文，有些文章还是挤挤的话，还是有些营养的．与其去嘲笑别人，不如从别人的亮点中获得启发．这里我以随笔的形式，不定时的分享我对这个领域的一些文章的思考，破开文章的层层包装，直达本质，让读者不被它们的层..
度量学习
糖糖糖豆的博客
01-16 472
Wikipedia:http://www.cs.cornell.edu/~kilian/research/metric/metric.html CMU的Liu Yang总结的关于DML的综述页面。对DML的经典算法进行了分类总结，其中她总结的论文非常有价值，入门读物。:http://www.cs.cmu.edu/~liuy/distlearn.htm ECCV 2010的turorial。 htt
Multi-Scale Metric Learning for Few-Shot Learning(用于小样本学习的多尺度度量学习)
breeze21的博客
10-04 4842
Abstract 本文提出了一种新的小样本学习方法，名字叫多尺度度量学习(multi-scale metric learning, MSML)，能提取多尺度特征，学习样本间的多尺度关系，进行少镜头学习分类。提出了一种基于特征金字塔结构的多尺度特征嵌入方法，旨在将高级(high-level)语义特征与低级丰富的视觉特征相结合。在此基础上，提出了一种用于层次(hierarchical)度量学习的多尺度关系生成网络(MRGN)，其中高级特征对应于深度(deeper)度量学习，低级特征对应于较轻(lighter)度
【论文理解】两篇最新提升度量学习效果的少样本分类论文探讨——QPN和DCAP算法
lijianyi0219的博客
03-31 4190
内容概览前言一、基于度量学习的少样本分类1.算法描述2.缺点二、DCAP算法介绍1.算法流程2.密集分类3.注意力池化（Attentive Pooling）三、QPN算法介绍1.算法流程2.多尺度特征3.特定类特征生成总结 前言 本博文要介绍的两篇论文是2021年3月底挂在arxiv上的新文章，它们都是对基于度量学习的少样本分类算法进行了改进，并且改进点都在构造更优的用于度量的图像特征和类特征上面。 两篇文章的算法其实都不难，并且均采用了注意力以及关注图像小区域的密集特征方法。在本博文中对它们提出的核心技
(CVPR) PointNet++ 深度层次特征学习度量空间中的点集 详细解读 - 附代码
晨的博客
03-13 3055
PointNet++ 解决了两个问题：如何生成点集的划分（Partitioning），以及如何通过局部特征学习器（Local Feature Learner）抽象点集或局部特征。
度量学习——笔记
xjb329859013的博客
10-12 467
度量学习——笔记 本文的目的仅仅是对“度量学习”做一个简单的解释。 1 何为度量学习 度量学习(Metric Learning) 是人脸识别中常用的传统机器学习方法，由Eric Xing在NIPS 2002提出，可以分为两种：一种是通过线性变换的度量学习，另一种是通过非线性变化的度量。其基本原理是***根据不同的任务来自主学习出针对某个特定任务的度量距离函数。***后来度量学习又被迁移至文本分类领...
度量学习（Metric learning、损失函数、triplet、三元组损失、fastreid）
TigerZ*的博客
07-30 1万+
定义 Metric learning 是学习一个度量相似度的距离函数:相似的目标离得近,不相似的离得远. 一般来说,DML包含三个部分，如下图.。 1）特征提取网络：map embedding 2）采样策略：将一个mini-batch里的样本组合成很多个sub-set 3）loss function：在每个sub-set上计算loss. 应用场景 通常是在个体级别的细粒度识别上使用，传统的分类是花鸟狗的大类别的识别，但是有些需求...
最大间隔度量学习算法代码实现
在此基础上发展出的度量学习方法，通常被称为“最大间隔度量学习”（Max-Margin Metric Learning），它借鉴了SVM中最大化分类间隔的思想，通过构造一个度量空间来最大化相似样本和不相似样本间的间隔。 这种度量...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值