TADAM:Task dependent adaptive metric for improved few-shot learning

最新推荐文章于 2024-11-07 11:26:44 发布
原创 最新推荐文章于 2024-11-07 11:26:44 发布 · 3.9k 阅读 · 11 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文提出TADAM，一种任务依赖的度量学习方法，用于优化少样本学习。通过动态调整度量尺度和使用任务依赖的特征提取，TADAM减少了欧式距离和余弦相似度之间的差距，提高了模型的泛化能力。同时，通过辅助任务的协同训练，解决了任务条件学习的困难，提升了模型的训练效果。

本文基于度量学习，发现简单的度量尺度会完全改变少样本学习参数更新的本质，同时提出了一个简单且有效的任务依赖的度量空间学习方法，可以根据不同的任务进行特征提取。通过度量缩放的方式，作者将余弦相似度与欧拉距离在少样本学习上的差距缩小了10%，也就是说度量的选择没有那么重要。另外，还提出了辅助任务协同训练，使得具有任务依赖性的特征提取更容易训练，并且具有很好的泛化能力

背景

考虑episodic形式的K-shot，C-way的分类问题

  • sample(support) set S={ (xi,yi)}i=1KC\mathcal{S}=\{(x_i,y_i)\}_{i=1}^{KC}S={ (xi​,yi​)}i=1KC​，样本集，C类每类K个样本
  • query set Q=(xi,yi)i=1q\mathcal{Q}={(x_i,y_i)}_{i=1}^qQ=(xi​,yi​)i=1q​，待分类样本
  • 相似度度量d：R2Dz→R\mathbb{R}^{2D_z} \rightarrow\mathbb{R}R2Dz​→R，d不需要满足一般度量的性质(非负，对称，可加性)，Dz表示特征提取后的维度，fϕ:RDx→rDzf_{\phi}:\mathbb{R}^{D_x}\rightarrow\mathbb{r}^{D_z}fϕ​:RDx​→rDz​
  • 为属于Sk\mathcal{S_k}Sk​每一个类别k中的所有样本找到一个唯一的特征表示ckc_kck​，ck=1K∑xi∈Skfϕ(xi)c_k=\frac{1}{K}\sum_{x_i\in S_k}f_{\phi}(x_i)ck​=K1​∑xi​∈Sk​​f
最低0.47元/天 解锁文章
TADAM: Task dependent adaptive metric for improved few-shot learning
勤学如春起之苗，不见其增，日有所长
12-17 693
文章的主要贡献 metric scaling 在将距离d输入到softmax层之前，乘以一个系数α\alphaα，这样使得余弦和欧式距离区分度不那么明显，也使得模型的适应性更强；文中将α\alphaα分为两种情况讨论：即α→0\alpha\to0α→0 和α→∞\alpha\to\inftyα→∞，从文中公式（3）（4）可以看出，两种情况的第一项作用相同，都是最小化query 到其相应类别的...
【论文阅读】【元学习/小样本学习】【NeurIPS2018】TADAM: Task dependent adaptive metric for improved few-shot learning
Egg_Hu的博客
02-10 529
【论文阅读】【元学习/小样本学习】【NeurIPS2018】TADAM: Task dependent adaptive metric for improved few-shot learningMetric ScalingTask conditioningArchetectureAuxiliary task co-training Metric Scaling 作者提出了metric scaling来提高小样本算法的性能。Prototypical Networks的文章中指出Euclidean dist
TADAM: Task dependent adaptive metric for improved few-shot learning阅读笔记
a101330107的博客
01-25 3220
人类通过看少数样例甚至是一个样例后，就可以学会识别从未见过的新类别，当然我们希望机器也可以具备这样的能力，所以近些年few-shot learning得到了广泛的关注，它的目标可以概括为构建一个可以从少量标记数据中进行归纳的模型。这里我们举个例子来描述小样本算法中的一个经典任务。在5-way 5-shot任务中，我们有25张图片做为support set，其中包含5张猫类照片，5张狗类张片，5张人...
TADAM：task dependent adaptive metirc for improve few-shot learning论文解读
weixin_43316934的博客
06-19 1013
本文为对TADAM的算法讲解和自己的理解 TADAM的贡献为以下三点： （1）、提出了度量的缩放（metric scaling），文章认为度量函数和损失函数之间有某种关系，通过对距离的缩放，能够减小不同度量函数之间的差距，比如余弦距离和欧式距离。 （2）、提出和任务相关(task conditioning)的嵌入模块，灵感来自于FILM （3）、提出了协同训练(co-train)作为辅助训练的手段。 文章的立足点在于，认为嵌入模块，度量函数，损失函数之间存在某种关系。对于特定的任务，这三者的关系是一定的，揭
【综述翻译】Deep Metric Learning for Few-Shot Image Classification: A Review of Recent Developments
cainiaomyf的博客
10-10 2336
Few-shot 图像分类是一个具有挑战性的问题，旨在仅基于少量的训练图像实现人类级别的识别能力。小样本图像
【论文阅读】Learning dynamic alignment via meta-filter for few-shot learning
cainiaomyf的博客
11-07 1653
小样本学习（Few-shot Learning, FSL）旨在通过极其有限的小样本（支持集）示例，适应已学到的知识来识别新类别，仍然是计算机视觉中的一个重要开放问题。现有的大多数小样本学习中的特征对齐方法仅考虑图像级别或空间级别的对齐，而忽略了通道差异。我们的观点是，这些方法会导致冗余匹配，从而导致适应性差，而利用通道级别的调整是将学到的知识有效适应到新类别的关键。因此，本文提出了一种动态对齐学习方法，可以根据不同的局部支持信息有效地突出查询区域和通道。
论文阅读笔记《TADAM: Task dependent adaptive metric for improved few-shot learning》
深视
06-09 3168
核心思想   本文在基于度量学习的小样本算法的基础上提出了几点改进方案：度量放缩（Metric Scaling），任务条件（Task Conditioning）以及辅助任务合作训练（Auxiliary task co-training）。首先，对于度量函数d(z,ck)d(z,c_k)d(z,ck​)增加一个放缩系数α\alphaα，使得分类概率p(y=k∣x)=softmax(−αd(z,ck))p(y=k|x)=softmax(-\alpha d(z,c_k))p(y=k∣x)=softmax(−αd(
TADAM: Task dependent adaptive metric for improved few-shot learning||论文阅读
VIEO
06-05 1098
元学习论文总结||小样本学习论文总结 2017-2019年计算机视觉顶会文章收录 AAAI2017-2019 CVPR2017-2019 ECCV2018 ICCV2017-2019 ICLR2017-2019 NIPS2017-2019 文章介绍：https://www.colabug.com/3795964.html 这篇文章的idea是在一般metric based few...
TADAM解读
周先森爱吃素的博客
06-19 2361
本文解读最近收录于CVPR2021的一篇MOT的工作，Online Multiple Object Tracking with Cross-Task Synergy，该方法实现了位置预测和关联嵌入之间的跨任务协同作用。
MAML:Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks
Glen_Liu
12-09 5687
元学习的目标是在各种学习任务上训练一个可以仅仅使用少量训练样本就可以解决新任务的模型，在本文中，模型的参数训练很明确，所以从新任务的少量样本做几步梯度下降就可以在新任务上得到好的泛化性。同时，由于模型可应用于一系列使用梯度下降训练的模型，包括分类，回归，强化学习等等，所以也叫作模型无关的模型。 本文的关键思想在于训练模型的初始参数，使得模型的参数在某个新任务上仅适用少量样本经过一步或者几步梯度下降...
论文笔记：Cross-Modulation Networks For Few-Shot Learning
Learn2Learn的博客
12-21 1414
这两天读完的一篇论文,Universitat Autònoma de Barcelona和Google Brain对小样本学习的研究,已被NIPS 2018 Workshop on Meta-Learning接收。其中的研究思路值得mark学习下。论文不长，除去引用和实验表格和图片,内容才3页，所以能很快读完。但里面涉及到许多概念需要补其他论文，所以需要一定时间理解，以下简单总结整理： Abstr...
论文笔记：Prototypical Networks for Few-shot Learning
Learn2Learn的博客
08-14 1万+
Prototypical Networks for Few-shot Learning（用于小样本学习的原型网络） 论文中心思想：通过神经网络学会一个“好的”映射，将各个样本投影到同一空间中，对于每种类型的样本提取他们的中心点(mean)作为原型（prototype）。使用欧几里得距离作为距离度量，训练使得测试样本到自己类别原型的距离越近越好，到其他类别原型的距离越远越好。测试时，通过对到每类原...
CAML: FAST CONTEXT ADAPTATION VIA META-LEARNING
Glen_Liu
12-09 1594
本文同样以MAML为基础，与MAML不同的是，MAML在每个新任务上会更新所有的参数，而CAML将模型的参数分成了两部分，一部分是context parameters，作为模型的额外输入使其适应于单独的任务；另一部分是shared parameters，在任务间共享并通过元学习训练过程优化。CAML在每个新任务上只更新模型的context部分的参数，这样可以在使用更大的网络情况下避免在单一任务上...
NIPS 2018 paper list（论文列表）
人工智能技术学习与分享
12-03 1万+
Efficient Algorithms for Non-convex Isotonic Regression through Submodular Optimization Francis Bach Structure-Aware Convolutional Neural Networks Jianlong Chang, Jie Gu, Lingfeng Wang, GAOFENG MENG, ...
Meta-Learning（0）
ML_amateur的博客
11-17 2978
近一段时间来，元学习（Meta-Learning）在深度学习领域获得了广泛的关注。与大部分其他的机器学习算法相比，元学习最突出的特点是“Learning to Learn”,它是要“学会如何学习”，即用机器学习的方法去学习训练方法。 Meta-Learning已经成为继Reinforcement Learning（增强学习）之后又一个重要的研究分支。对于人工智能的理论研究，呈现出了Artifici...
小样本学习（few-shot learning）之——原形网络（Prototypical Networks）
热门推荐
m0_38031488的博客
12-27 4万+
Prototypical Networks for Few-shot Learning 摘要：该文提出了一种可以用于few-shot learning的原形网络（prototypical networks）。该网络能识别出在训练过程中从未见过的新的类别，并且对于每个类别只需要很少的样例数据。原形网络将每个类别中的样例数据映射到一个空间当中，并且提取他们的“均值”来表示为该类的原形（prototy...
Actionlet-Dependent Contrastive Learning for Unsupervised Skeleton-Based Action Recognition
最新发布
07-09
在基于骨架的动作识别领域，无监督学习方法近年来受到了广泛关注。《Actionlet-Dependent Contrastive Learning for Unsupervised Skeleton-Based Action Recognition》提出了一种新颖的对比学习框架，旨在通过动作依赖的方式增强特征表示，从而提升无监督动作识别的性能。 ### 方法概述 该论文的核心思想是利用对比学习（Contrastive Learning）来构建一种能够区分不同动作类别的特征表示。与传统的对比学习方法不同，本文提出了“动作依赖”机制，即通过引入特定于动作的上下文信息来指导特征学习过程。这种机制能够在特征空间中拉近同一动作实例之间的距离，并推远不同动作实例之间的距离。 具体而言，模型首先从输入的骨架序列中提取局部时空特征，然后将这些特征送入一个基于编码器-解码器结构的网络中进行处理。编码器负责生成隐藏状态下的特征表示，而解码器则用于重构原始输入。在此基础上，作者设计了一个对比损失函数，使得模型能够在无标签的情况下通过最大化正样本对的相似性、最小化负样本对的相似性来优化特征表示[^2]。 ### 实现细节 实现上，该方法采用循环神经网络（RNN）作为基础架构，尤其是长短时记忆网络（LSTM），以捕捉骨架数据中的时间动态信息。对比学习部分通过定义正样本和负样本对来构建损失函数。正样本通常来自同一动作的不同视角或变体，而负样本则来自其他动作类别。为了进一步增强模型的表现力，文中还引入了多尺度策略，使得模型可以在不同的时间尺度上进行特征提取和对比学习。 以下是一个简化的代码示例，展示如何构建一个基于LSTM的对比学习框架： ```python import torch import torch.nn as nn class ContrastiveLSTM(nn.Module): def __init__(self, input_dim, hidden_dim, output_dim): super(ContrastiveLSTM, self).__init__() self.lstm = nn.LSTM(input_dim, hidden_dim, batch_first=True) self.fc = nn.Linear(hidden_dim, output_dim) def forward(self, x): out, (h_n, _) = self.lstm(x) # 取最后一个时间步的隐状态作为特征表示 feature = h_n.squeeze() return self.fc(feature), feature # 对比损失函数 class ContrastiveLoss(nn.Module): def __init__(self, margin=1.0): super(ContrastiveLoss, self).__init__() self.margin = margin def forward(self, output1, output2, label): euclidean_distance = F.pairwise_distance(output1, output2) loss = torch.mean((1 - label) * torch.pow(euclidean_distance, 2) + label * torch.pow(torch.clamp(self.margin - euclidean_distance, min=0), 2)) return loss ``` ### 性能评估 实验结果显示，该方法在多个基准数据集上均取得了优于现有无监督方法的性能表现。特别是在交叉视图测试中，其准确率显著高于基于RGB+D的无监督方法，并且接近有监督方法的水平。此外，由于仅需输入身体关键点，该方法具有良好的通用性和灵活性，适用于2D或3D形式的骨架数据[^2]。
评论 7
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值