只需少量数据就能适应网络——《FEW-SHOT ADAPTATION OF GENERATIVE ADVERSARIAL NETWORKS》论文解析

最新推荐文章于 2024-04-27 10:02:06 发布
最新推荐文章于 2024-04-27 10:02:06 发布
阅读量6.8k 收藏 5
点赞数 4
分类专栏： 必读的关于GAN的论文 深度学习 文章标签： 生成对抗网络 计算机视觉 GAN 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/wenqiwenqi123/article/details/110822329
版权
本文介绍了《FEW-SHOT ADAPTATION OF GENERATIVE ADVERSARIAL NETWORKS》论文，该研究探索了如何在仅有少量数据的情况下，利用预训练的StyleGAN2进行有效适应。通过奇异值分解，调整Style和卷积层参数，控制生成图像的不同属性，如年龄、肤色和脸型。尽管实验结果尚存瑕疵，但这一方法展示了在资源有限的场景下，利用先验知识改进GAN性能的潜力。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

今天来看一篇few-shot适应的论文，还挂在arxiv上，同时在github上也有开源的项目：http://www.estherrobb.com/few-shot-gan/

这篇文章叫做FSGAN，全名《FEW-SHOT ADAPTATION OF GENERATIVE ADVERSARIAL NETWORKS》，来自弗吉尼亚理工和谷歌研究院。谷歌研究院就喜欢搞一些开源、video什么的。

那么这篇文章做了一件什么事呢？对于一个生成网络，我们本来需要大量的数据才能训练出一个好的结果，但是在某些情况下，我们只能获得少量的数据。因此合理地利用先验知识，在这个域中只使用少量数据就得到较好的结果就变得有必要了。

那么就来看看是怎么做的吧：

这篇文章也是基于stylegan2，stylegan解析请移步：https://blog.youkuaiyun.com/wenqiwenqi123/article/details/110136887

首先作者发现，针对预训练好的stylegan2，对style和卷积层进行奇异值分解，然后放大排前三的奇异值，可以发现，不同奇异值对于人脸有着不

了解本专栏 订阅专栏 解锁全文
（论文阅读）Few-shot Adaptive Faster R-CNN
RF~or的博客
09-18 3524
要解决的问题：域间差异（domain shift）导致检测性能下降。（域可以理解成区域/不同的场景图像） 补充：域间差异：不同的数据集具有不同的数据分布，一般情况下训练的模型也只能用在与这种训练数据集分布相似的数据集上，而用于与训练数据集分布不同的数据集中时，则会产生具有明显差距的结果。也就是泛化能力。few-shot可以理解为训练样本少。 方法：少镜头自适应方法（few-shot adapt...
深度学习 ❉ 生成对抗网络（Generative Adversarial Networks, GANs）
weixin_43156294的博客
05-28 1788
生成对抗网络（Generative Adversarial Networks, GANs）是一种深度学习模型，由Ian Goodfellow等人在2014年提出。它由两个主要部分组成：生成器（Generator）和判别器（Discriminator）。GANs通过这两个组件的对抗过程来生成新的、与真实数据相似的数据样本。
读文献 Domain-Adaptive Few-Shot Learning 心得
m0_37929824的博客
04-08 1686
这篇文章主要讲的是 域自适应小样本学习。 当前主流的小样本学习有个关键的隐性假设是小样本的类与源类样本具有近似的样本空间。 然而很多情况下，小样本问题的样本空间和源样本空间并不完全一致。 所以提出了域自适应小样本学习。 解决方案是在DAPN中嵌入领域自适应特征学习之前，显式地增强每类的源/目标分离，以减轻领域对齐对FSL的负面影响。大量实验表明，DAPN优于最先进的FSL和DA模型 The go...
[深度学习从入门到女装]Few-shot 3D Multi-modal Medical Image Segmentation using Generative Adversarial Learning
炼丹师
03-20 2215
论文地址：Few-shot 3D Multi-modal Medical Image Segmentation using Generative Adversarial Learning 这是一篇使用GANs进行semi-supervised 3D多模态医学图像分割的论文 对于semi-supervised任务，本文对GANs的loss进行改进： 由于对...
FewShot_GAN-Unet3D：本文的Tensorflow实现：使用生成式对抗学习的少量镜头3D多模式医学图像分割
02-06
使用生成式对抗学习的3D医学图像分割很少 该存储库包含我们在同名论文中提出的模型的tensorflow和pytorch实现： 该代码在tensorflow和pytorch中都可用。 要运行该项目，请参考各个自述文件。 数据集 选择了数据集来证实我们提出的方法。 它包含10个标记的训练对象和13个未标记的测试对象的3D多模式脑MRI数据。 我们将这10个标记的训练数据分为两个模型的训练，验证和测试图像。（例如，2,1和7）13个未标记的测试图像中的其余部分仅用于训练基于GAN的模型。 数据集也用于测试我们提出的模型的鲁棒性。 它包含3种模式（T1加权，T1加权反转恢复和FLAIR）。 原始数据
论文笔记：Few-shot Adaptive Faster R-CNN
weixin_41978493的博客
03-25 379
论文地址：https://ieeexplore.ieee.org/document/8953674 源码地址：尚未开源 1 Background of Paper 只需要很少的目标域图像，且这些图像的bbox标注很有限，用这些数据和源域数据一起实现小样本的域自适应目标检测。（提出疑点：小样本不应该是源域数据也很少吗？）为了解决这个问题，首先用配对的方法，将源域数据和目标域数据弄成一对对，降低数据量少带来的影响；然后提出一个双层的模块，来让源域中预训练的模型，适应到目标域中：1）基于图像级自适应模块..
论文速看 Few-shot Image Generation via Cross-domain Correspondence
weixin_45372906的博客
12-30 1110
Paper Glue: Few-shot Image Generation via Cross-domain Correspondence
Generalizing from a Few Examples: A Survey on Few-Shot Learning
weixin_38654615的博客
01-08 1982
Generalizing from a Few Examples: A Survey on Few-Shot Learning 论文地址：paper 这篇概述很简洁：简介的论文解读 一、 摘要 机器学习在有大量数据支撑的时候的效果很好，但是数据量很少的时候效果很差了。Few shot learning 是针对于这个问题场景下提出的解决办法，他可以迅速自适应到一个新的任务中去。FSL的核心问题是unreliable empirical risk minimizer，基于如何利用先验知识来解决问题，我们可以把
Few-shot Learning survey-详细易懂-小样本综述
mohong96的博客
10-23 4499
目 录 1. 半监督学习 semi-supervised learning 3 1.1 基本概念 3 1.2 半监督学习的应用 4 1.3 半监督学习方法结构 5 1.4 半监督深度学习 6 2. 主动学习（Active Learning） 7 2.1 基本概念 7 2.2 应用领域以及场景 7 2.3 研究现状...
《Few-shot Classifier GAN》一篇不一样的小样本学习方法
xianqin_ma的博客
04-07 1万+
《Few-shot Classifier GAN》一篇不一样的小样本学习方法本博客前言摘要功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图...
探索 FewShot_GAN-Unet3D：高效三维图像生成与学习的新途径
gitblog_00026的博客
04-27 491
探索 FewShot_GAN-Unet3D：高效三维图像生成与学习的新途径 FewShot_GAN-Unet3DTensorflow implementation of our paper: Few-shot 3D Multi-modal Medical Image Segmentation using Generative Adversarial Learning项目地址:https://gi...
【论文翻译】Few-Shot Object Detection via Classification Refinement and Distractor Retreatment
小张好难瘦的博客
04-30 1724
Few-Shot Object Detection via Classification Refinement and Distractor Retreatment 基于分类细化和干扰物再处理的少样本目标检测 论文地址：CVPR 2021 Open Access Repository 1 摘要 We aim to tackle the challenging Few-Shot Object Detection (FSOD), where data-scarce categories are pre.
CVPR 2021 | Few-shot Image Generation via Cross-domain Correspondence 阅读笔记 & 部分翻译
ybacm的博客
12-18 1632
作者使用 cross-domain distance consistency 来维持源域中的多样性（使用相同的 latent code 来做损失）；使用 $D_{img}$ 来对目标训练集中采样的图像做完整的 image-level 损失（通过固定 k 个随机点），使用 $D_{patch}$ 来对目标训练集外采样的图像做 patch-level 损失，这样会减少了对应有的多样性的惩罚，还提升了生成图像的真实度。
（2021，FastGAN）用于高保真 few-shot 图像合成的更快、更稳定的 GAN 训练
qq_44681809的博客
05-31 3223
为了减小 GAN 的 few-shot 图像合成的计算成本，作者提出一种轻量化 GAN 结构（FastGAN），包含：一个跳跃层通道激励，一个作为特征编码器的自监督鉴别器。
Label,Verify,Correct：一种简单的Few Shot 目标检测方法
gzq0723的博客
02-08 3895
关注并星标从此不迷路计算机视觉研究院公众号ID｜ComputerVisionGzq学习群｜扫码在主页获取加入方式论文链接: https://arxiv.org/pdf/2112.05749...
粗学Few-Shot Adversarial Learning
weixin_42057214的博客
10-29 771
元学习 元学习是机器学习的一个子领域，是将自动学习算法应用于机器学习实验的元数据上。是要“学会如何学习”，即利用以往的知识经验来指导新任务的学习，具有学会学习的能力。包括：终生学习，少样本学习，多任务学习，多智能体学习，学会学习，迁移学习。 深度学习 强化学习 是人工智能在训练中得到策略的训练过程，强化学习强调的是一个过程。例如，阿尔法狗围棋学习中，就会用到强化学习这样的自学习过程 ...
CVPR2021-Encoding in Style: a StyleGAN Encoder for Image-to-Image Translation风格编码:用于图像到图像转换
ssshyeong的博客
04-18 1709
一个通用的图像到图像的转换框架pixel2style2pixel (pSp)。我们的pSp框架是基于一种新的编码器网络，它直接生成一系列的风格向量，这些向量被送入一个预先训练的StyleGAN生成器，形成扩展的W+潜在空间。利用我们的编码器直接解决图像到图像的翻译任务，将其定义为从某个输入域到潜在域的编码问题。通过偏离以前StyleGAN编码器使用的标准“先反转，后编辑”方法，我们的方法可以处理各种任务，即使输入图像没有在StyleGAN域中表示。
领域自适应(Domain Adaptation)和多源领域自适应(Multi-source Domain Adaptation)
lihe的博客
03-26 1万+
转载于https://zhuanlan.zhihu.com/p/50710267 《迁移学习》: 领域自适应(Domain Adaptation)的理论分析小蚂蚁曹凯​中国科学院大学 数学与系统科学研究院博士在读774 人赞同了该文章领域自适应即Domain Adaptation是迁移学习中很重要的一部分内容，目的是把分布不同的源域和目标域的数据，映射到一个特征空间中，使其在该空间中的距离尽可能近。于是在特征空间中对source domain训练的目标函数，就可以迁移到target domain上，提高ta
当小样本遇上机器学习 fewshot learning
热门推荐
mao_feng的博客
12-30 10万+
引言深度学习(deeplearning)已经广泛应用于各个领域，解决各类问题，例如在图像分类问题下，如图1，区分这10类目标的准确率目前可以轻松做到94%。然而，deeplearning是一种datahungry的技术，需要大量的标注样本才能发挥作用。图1 现实世界中，有很多问题是没有这么多的标注数据的，获取标注数据的成本也非常大，例如在医疗领域、安全领域等。因此，我们现在讨论的是...
zero-shot adaptation
最新发布
02-25
### 零样本适应的概念 零样本适应（Zero-Shot Adaptation）是指机器学习模型能够在未见过的数据分布上执行任务的能力。这种能力使得模型可以在无需额外训练的情况下应对新环境或领域中的挑战。对比学习是一种强大的技术，在零样本连续提示优化（CoT）中用于提升模型表示学习能力[^1]。 通过最大化正样本之间的相似度并最小化负样本间的相似度，对比学习增强了特征空间内的区分性，从而提高了模型泛化到未知数据上的表现。元学习也是零样本适应的关键组成部分之一，专注于开发能够快速适应新任务或域的算法，并且仅需少量训练即可完成调整[^3]。 ### 应用场景 零样本适应的应用范围广泛，涵盖了多个行业和技术领域： - **图像识别**：即使面对未曾遇到过的类别，经过良好设计的视觉系统也应能正确分类图片。 - **自然语言处理(NLP)**：理解从未见过的语言结构或语义概念对于构建更通用的人工智能至关重要。 - **异常检测**：在一个统一框架下进行多类别的异常探测可以有效提高系统的鲁棒性和灵活性[^2]。 这些应用展示了零样本适应如何帮助解决实际问题，尤其是在缺乏标注数据资源时尤为有用。 ### 实现方法 为了实现有效的零样本适应，通常采用以下几种策略： #### 对比学习增强表征 利用对比损失函数来拉近同类实例的距离，推远异类实例的位置，以此改善深层神经网络提取出来的特征质量。 ```python import torch.nn.functional as F def contrastive_loss(anchor, positive, negative, margin=1.0): pos_dist = F.pairwise_distance(anchor, positive) neg_dist = F.pairwise_distance(anchor, negative) loss = torch.clamp(margin + pos_dist.pow(2) - neg_dist.pow(2), min=0.0).mean() return loss ``` #### 元学习加速迁移 引入特定于任务的学习机制，使模型具备更强的任务间转移能力和更快的知识获取速度。这可以通过优化初始化参数、动态调整超参等方式达成。 ```python from learn2learn.algorithms import MAML maml = MAML(model, lr=fast_lr, first_order=False) for epoch in range(num_epochs): for task in tasks: learner = maml.clone() # Creates a fast-weight copy of the model. # Inner loop (adaptation) for _ in range(adapt_steps): error = compute_error(learner, task.support_set) learner.adapt(error) # Outer loop (meta-update) query_error = compute_error(learner, task.query_set) maml.meta_update(query_error) ```
评论 4
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

哎呦不错的温jay

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值