小样本学习
关注
分享
扫一扫
few-shot learning
头柱碳只狼
这个作者很懒，什么都没留下…
展开
-
Meta R-CNN : Towards General Solver for Instance-level Low-shot Learning 论文笔记
前言本文提出了一种实现小样本目标检测的通用方法，基于Faster R-CNN生成的RoI feature进行元学习。目前的元学习方法在小样本识别方面非常有用，这主要是因为只需识别单个目标。但如果一张图像中包含多个目标，并且还混合的有背景信息，那么这些元学习方法就不再有用了，因为它不能将这些复杂的信息分开。本文发现，可以通过Faster R-CNN产生的RoI feature对这些混合的目标进行预...原创 2020-05-05 20:51:39 · 5440 阅读 · 1 评论 -
LSTD: A Low-Shot Transfer Detector for Object Detection 论文笔记
前言基于深度学习的目标检测器能够取得成功，很大一部分依赖于完整标注的大规模数据，但实际上，完整标注的数据集是有限的。为了解决这个问题，一种方法是进行迁移学习，源域（source-domain） 中的知识可以作为一种有效的监督，进而泛化到目标域（target-domain） 的学习过程中。但是，小样本目标检测中的迁移学习依然存在以下问题：当目标检测的数据集很小时，使用一般的迁移策略是不太合适的...原创 2020-05-01 11:55:47 · 804 阅读 · 0 评论 -
LaSO: Label-Set Operations networks for multi-label few-shot learning 论文笔记
前言样本合成是解决小样本学习问题的方法之一，所谓样本合成，就是在给定少量训练样本的情况下，在特征空间中利用这些训练样本合成新的样本，然后利用这些合成样本提升小样本学习任务的泛化能力。但是目前的合成方法仅处理的是每个图像中仅有一个类别标签（比如C(Img)=dogC(Img)=dogC(Img)=dog）这样的情况，而多标签的情况还从未被提及过（比如C(Img)={dog,leash,person...原创 2020-04-28 22:13:11 · 1622 阅读 · 1 评论 -
Large-Scale Few-Shot Learning: Knowledge Transfer With Class Hierarchy 论文笔记
前言在大规模小样本学习（large-scale FSL）中，有这样一个baseline：使用所有的源类（source class）训练一个feature embedding模型，然后用这个模型提取出目标类（target class）中样本的特征，以进行最近邻分类。从下图可以看出，仅使用简单的最近邻（NN）方法得到的结果，甚至能与目前最先进的FSL模型相匹配：这就说明了一个问题：在SGM、PP...原创 2020-04-16 10:52:31 · 642 阅读 · 1 评论 -
TAFE-Net: Task-Aware Feature Embeddings for Low Shot Learning 论文笔记
前言在目前一些零样本或小样本学习任务中，通常将图像映射到embedding空间，然后利用feature embedding进行后续的操作。这样就存在一个问题，任务间共享的是通用的feature embedding，那么就会存在feature embedding可能并不适用于某些任务这样的情况，就会导致不好的结果。本文基于这一点，提出了一种task-aware feature embedding...原创 2020-04-15 11:23:27 · 1156 阅读 · 4 评论 -
Improved Few-Shot Visual Classification 论文笔记
前言小样本学习方法主要可以分为两种形式：最近邻方法和embedding方法。在embedding方法中，通常是先将图像通过非线性映射到embedding空间中，然后在embedding空间中根据预设的距离度量来进行最终的最近邻分类，原型网络采用的就是这种方法。人们发现，在经过灵活的非线性映射之后，得到的embedding基本可以适应任何距离度量，因此度量的选择似乎变得无关紧要。然而本文发现，度...原创 2020-04-14 14:34:39 · 4264 阅读 · 1 评论 -
SimpleShot: Revisiting Nearest-Neighbor Classification for Few-Shot Learning 论文笔记
前言目前大多数小样本学习器首先使用一个卷积网络提取图像特征，然后将元学习方法与最近邻分类器结合起来，以进行图像识别。本文探讨了这样一种可能性，即在不使用元学习方法，而仅使用最近邻分类器的情况下，能否很好地处理小样本学习问题。本文发现，对图像特征进行简单的特征转换，然后再进行最近邻分类，也可以产生很好的小样本学习结果。比如，使用DenseNet特征的最近邻分类器，在结合均值相减（mean sub...原创 2020-04-13 21:25:46 · 1624 阅读 · 0 评论 -
Meta-Transfer Learning for Few-Shot Learning 论文笔记
前言元学习（meta-learning）是目前广泛使用的处理小样本学习问题的方法，它的目的是在学习不同任务的过程中积累经验，从而使得模型能够快速适应新任务。比如在MAML（Model-Agnostic Meta- Learning）中，通过搜寻最优初始化状态，使得base-learner能够快速适应新任务。但是这一类元学习方法具有两个缺点：需要大量相似的任务以进行元训练（meta-train...原创 2020-04-13 15:28:29 · 2627 阅读 · 0 评论 -
（AM3）Adaptive Cross-Modal Few-shot Learning 论文笔记
前言本文提出了一种利用跨模式（cross-modal）信息（视觉特征和语义特征）来增强基于度量的小样本学习的方法。一般来说，当来自视觉模式的数据有限时，利用辅助模式的数据（属性，未被标记的文本语料库等）也可以帮助进行图像分类，这种方法在零样本学习中使用的特别多。在训练时，会通过模式对齐（modality-alignment）将视觉模式与辅助模式的数据映射到一块儿，从而迫使它们具有相同的语义结构...原创 2020-04-12 19:58:31 · 883 阅读 · 1 评论 -
Fast and Flexible Multi-Task Classification Using Conditional Neural Adaptive Processes 论文笔记
前言通用图像分类系统设计元学习和小样本学习，现有的一些研究通常会考虑在训练和测试时进行均匀的任务分配，因此网络在处理新任务时只需进行很小的调整。本文设计了一个完全自适应的系统，以应对不同的任务分配情况，该系统需要在模型和训练过程中进行特定的设计选择。现有的用元学习和小样本学习来处理图像分类的方法具有两个基本的trade-off：适应每个任务的参数数量。一种方法仅调整分类器的head中的参数...原创 2020-04-12 12:06:18 · 1784 阅读 · 0 评论 -
Few-Shot Object Detection with Attention-RPN and Multi-Relation Detector 论文笔记
前言小样本目标检测，即给定一个新类的支持集（support set），该支持集中只有少量的样本，需要在测试集（test set）中检测出所有属于该新类的前景目标。如下图所示，左上角和右上角分别是两个不同类别的支持集样本，自行车和头盔，在下面的查询集（query set）图像中检测出所有属于自行车和头盔这两个类的目标。在目前一些小样本目标检测算法中，bbox可能会漏检一些目标，或者在背景中生成...原创 2020-04-03 11:34:05 · 753 阅读 · 0 评论 -
Finding Task-Relevant Features for Few-Shot Learning by Category Traversal 论文笔记
前言在采用度量学习处理小样本学习问题中，通过学习查询样本（query）与支持样本（support）之间的特征相似性比较，来确定query的类别。但是这种方法有一个缺点，就是query在与支持集中的样本进行比较时，是一个类一个类的进行比较的，也就是query与支持集中某个类的样本比较完，再与另一个类进行比较，没有考虑整体的关系。这样造成的后果是，不能辨别哪个维度的特征与当前任务是最相关的。本文对...原创 2020-03-31 21:16:39 · 1268 阅读 · 1 评论 -
Baby Steps Towards Few-Shot Learning with Multiple Semantics 论文笔记
前言本文重点关注额外的语义信息对小样本学习的帮助，作者探索了一种更接近人类的学习模式，即为learner提供多种丰富的语义信息。这些语义信息包括：类别标签，"描述级别"的语义信息（一个或一些句子，对类别的自然语言描述），属性等。本文证明了如何使用这些语义信息来帮助小样本学习。人类婴儿在学习新事物时的一个很重要的因素是，在关注一个新事物的同时还要附带一些相关的语义信息。比如，研究表明婴儿的目标识...原创 2020-03-31 10:05:29 · 567 阅读 · 0 评论 -
Task-Agnostic Meta-Learning for Few-shot Learning 论文笔记
前言最近越来越多的工作使用元学习来处理小样本学习问题。一般来说，元学习模型包括两部分：初始模型和更新策略，其中初始模型是在大量任务上进行训练得到的，更新策略是为了使初始模型能够适应一个只有少量样本的新任务。所以元学习的目标就是，能够自动学习初始模型和更新策略的最优参数，从而使得模型能够泛化到各种其它任务上。然而，现有的元学习方法存在一个普遍问题，就是初始模型在训练时可能对某些任务有偏差，即更偏...原创 2020-03-26 16:18:42 · 1222 阅读 · 0 评论 -
Low-Shot Learning with Imprinted Weights 论文笔记
前言本文提出了一种叫做imprinting的方法，尝试将卷积网络分类器的最佳属性与embedding结合起来，处理小样本学习问题。作者认为，嵌入向量（embedding vector）可以与卷积网络分类器最后一个线性层的权值相当。imprinting方法就是，根据一个训练样本计算一个新类的embedding，然后将这些embedding进行合适的缩放，作为最后一层的权值，也就是作为该新类的权值，...原创 2020-03-25 20:58:03 · 733 阅读 · 0 评论 -
Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks Chelsea 论文笔记
前言本文提出了一种元学习算法，它与模型无关并且通用性很强，可以直接应用到各种由梯度下降训练的模型上，并且适用于很多学习问题，包括分类，回归和强化学习。本文提出的算法的关键思想是训练模型的初始化参数，这样当模型在处理来自一个新任务的少量数据时，通过一次或几次梯度更新后，模型就能在新任务中表现出较好的性能。本文的元学习算法有以下特点：不同于以往的元学习方法需要学习更新函数或更新规则，本文的方法既...原创 2020-03-24 20:13:02 · 429 阅读 · 0 评论 -
Optimization as a model for few-shot learning 论文笔记
前言本文提出了一个基于LSTM的meta-learner模型来学习最优化算法，该算法将用于训练另一个learner分类器（神经网络分类器）。meta-learner捕获了任务中的short-term知识，和所有任务中共有的long-term知识，由meta-learner模型优化的另一个learner分类器在每个任务上都能快速收敛。除此之外，meta-learner模型还学习了适用于其它lea...原创 2020-03-23 18:18:46 · 467 阅读 · 0 评论 -
Learning feed-forward one-shot learners 论文笔记
前言目前使用最广泛的one-shot learning的方法是，先学习一个深度embedding函数，然后再定义一个简单的分类规则，比如在embedding空间中进行最近邻操作。但是，计算embedding和学习适用于新目标的模型还是相去甚远。本文提出了一种与众不同的方法，仅从一个单一的样本，就能得到一个完整的深度判别模型来识别与该样本属于同一类别的其它目标。而且本文提出的方法并不需要一个冗长...原创 2020-03-21 15:03:29 · 1145 阅读 · 0 评论 -
Learning to Compare: Relation Network for Few-Shot Learning 论文笔记
前言近年来深度学习模型在视觉任务上取得了巨大的成功，但这种成功有一部分原因来自于庞大的标记数据以及大量的计算资源，这使得这些模型在处理几乎没有标记数据的新类时显得非常乏力。对于我们人类来说，在识别物体时，仅需少量的图像，或者甚至不需要图像而仅仅根据对物体的描述，就能根据以往的知识来识别物体。这是由于我们人类有先验知识，我们会利用自己的先验知识进行学习。如何让模型能够实现这种快速学习呢？元学习（m...原创 2020-03-19 21:11:20 · 807 阅读 · 1 评论 -
Prototypical Networks for Few-shot Learning 论文笔记
前言本文提出了用于few-shot learning的原型网络（prototypical network），它的基本思想是，在一个embedding空间中，每个类都有一个原型表示（prototypical representation），每个类的点都聚集在这个原型表示周围。具体来说就是，通过一个非线性映射将输入映射到一个embedding空间中，提取每个类别中样本的均值（mean）作为该类在em...原创 2020-03-18 15:23:20 · 947 阅读 · 0 评论 -
Matching Networks for One Shot Learning 论文笔记
前言人类可以从很少的样本中获取新的概念，比如一个小孩儿能从书中的一张图片知道什么是长颈鹿。但是对于深度学习系统来说，要学习一个新的类别需要成百上千的样本。因此对one-shot learning的研究就变得非常重要。什么是one-shot learning呢？也就是让系统能从很小一部分的带标记的样本中学习一个新类别。深度学习一般需要较大型的数据集，当数据集变小时，会产生过拟合问题，数据增强和正...原创 2020-03-17 12:12:49 · 447 阅读 · 0 评论 -
Few-shot Object Detection via Feature Reweighting 论文笔记
前言小样本目标检测解决的问题是，在训练一个检测器时，每个目标类别只有一小部分被标记的样本作为训练数据。本文提出了一个以元学习为基础的框架，如下图所示。这个框架的设计思想是充分探索从一些基础目标中学到的知识，从而通过少量样本从新颖类别中检测目标。作者发现在一些具有丰富样本的基础类别上训练以CNN为基础的检测模型时，可以在这个模型的顶层学到特定于某些目标属性的中间特征，这些特征可以隐式组成不同目标的...原创 2020-03-10 20:47:16 · 1512 阅读 · 1 评论