Reptile:On First-Order Meta-Learning Algorithms

最新推荐文章于 2025-11-17 07:36:53 发布
原创 最新推荐文章于 2025-11-17 07:36:53 发布 · 3.4k 阅读 · 6 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

Reptile是元学习的一种方法，类似于MAML，但计算成本更低，它寻找适合新任务的神经网络初始化参数。与MAML的两次微分不同，Reptile仅用一次SGD更新，减少了计算和内存需求。该算法在每个任务上使用简单的梯度更新，并使用更复杂的优化器如Adam进行优化，提高了泛化能力。

与MAML类似，Reptile是一种寻找神经网络初始化参数的元学习方法，在新任务上只需要少量数据进行 fine-tune。与MAML不同的是，Reptile只需要简单地每个任务上执行SGD而不需要像MAML一样计算两次微分。这使得Reptile消耗的计算量和内存更少。在MAML中，作者也使用了一次微分进行了实验，发现效果是差不多的，虽然看起来是丢失了一些信息，确切的说，本文就是基于FOMAML的。

MAML

在这里插入图片描述
使用训练集优化内层循环，使用测试集优化模型，也就是外层循环
在这里插入图片描述

模型

在这里插入图片描述
Reptile将后面一步替换为了使用 ϕ − W \phi-W ϕ−W作为梯度，并使用更复杂的优化器优化 ϕ \phi ϕ，例如Adam。
同样每次迭代可以使用一个batch的数据进行评估，
ϕ ← ϕ + ϵ 1 n ∑ i = 1 n ( ϕ ~ i − ϕ ) \phi\leftarrow\phi+\epsilon\frac{1}{n}\sum_{i=1}^n(\tilde{\phi}_i-\phi) ϕ←ϕ+ϵn<

最低0.47元/天 解锁文章
元学习之《On First-Order Meta-Learning Algorithms》论文详细解读
seeker的博客
08-08 5360
引言 上一篇博客对论文 MAML 做了详细解读，MAML 是元学习方向 optimization based 的开篇之作，还有一篇和 MAML 很像的论文 On First-Order Meta-Learning Algorithms，该论文是大名鼎鼎的 OpenAI 的杰作，OpenAI 对 MAML 做了简化，但效果却优于 MAML，具体做了什么简化操作，请往下看????。 On First-Order Meta-Learning Algorithms 这篇论文的标题就很针对 MAML，MAML 中有一
Meta Learning：元学习模型MAML和Reptile详解
捡起一束光的博客
01-16 1万+
元学习常见模型MAML要做的事情是学习一个“好”的初始化参数。以前我们是训练一个模型，然后让这个模型的参数\thetaθ最优，而现在我们训练MAML是希望初始化参数\phi最优，这样就可以实现“快速学习”（使用来自新任务的少量数据就能解决学习任务，而且只需要几步梯度下降就能得到好的泛化效果......
Reptile: On First-Order Meta-Learning Algorithms
qq_42192910的博客
02-18 1055
On First-Order Meta-Learning Algorithms Paper:https://arxiv.org/pdf/1803.02999.pdf Code:https://github.com/openai/supervised-reptile Tips：OpenAi的一篇相似MAML的Meta-learning相关的paper。 （阅读笔记） 1.Main idea 目标旨...
[特殊字符]【Reptile Meta-Learning】[特殊字符]——探索高效任务适应的奥秘
最新发布
gitblog_00745的博客
11-17 466
在深度学习领域，如何使模型快速适应当下的特定任务是每一个研究者追求的目标。Meta-learning，又称为学习到学习（Learning to Learn），正是为此而生的一种方法论。在这篇文章中，我们将聚焦于一个名为「supervised-reptile」的开源项目，它不仅是一个高效的元学习算法实现，更是在Omniglot和Mini-ImageNet数据集上展示了卓越的性能。 ## 🔍项目技
论文阅读笔记《On First-Order Meta-Learning Algorithms》
深视
06-06 3864
核心思想   本文是在MAML的思路上进一步改进，提出一种基于参数优化的小样本学习算法Reptile。首先我们一起回忆一下MAML是如何进行元学习的，在之前的文章中，我们有提到MAML的训练可以分为两个层次：内层优化和外层优化，内层优化就与普通的训练一样，假设网络初始参数为θ0\theta^0θ0，在数据集AAA上采用SGD的方式进行训练后得到参数θ′\theta'θ′。如果是普通的训练，那么就会接着采样一个数据集BBB，然后以θ′\theta'θ′作为初始参数继续训练了。MAML同样采集一个数据集BBB，
Meta-RL之Reptile算法
Ton的博客
09-25 7723
Reptile算法和MAML一样，是Meta-Learning在学习一种初始化参数上的算法。MAML有二阶和简化版本——一阶FOMAML(First-order MAML)2种形式，而Reptile类似于FOMAML，是一种新型的一阶Gradient-Based 元学习算法。从实现上来看，Reptile比FOMAML还要简单，并且实验结果和FOMAML、MAML相差无几。 Reptile是一篇2018年的论文，作者是Nichol，发布时间在MAML之后。 参考列表： ①Reptile原论文(On First
Meta Learning 入门：MAML 和 Reptile
csyifanZhang的博客
09-08 3574
本文介绍我最近学习的两个 Meta Learning 的算法：MAML 和 Reptile。原始论文分别见：Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks 和 Reptile: a Scalable Metalearning Algorithm 。文章内容结合了李宏毅老师的课程、toy example，以及我个人的理解，可能文字有点多，但力求通俗易懂。 背景 Meta Learning 中文翻译为“元学习”，它研究的不是如何
OpenAI提出Reptile：可扩展的元学习算法
深度学习世界
03-09 1587
选自OpenAI Blog作者：ALEX NICHOL & JOHN SCHULMAN机器之心编译近日，OpenAI 发布了简单元学习算法 Reptile，该算法对一项任务进行重复采样、执行随机梯度下降、更新初始参数直到习得最终参数。该方法的性能可与 MAML（一种广泛应用的元学习算法）媲美，且比后者更易实现，计算效率更高。元学习是学习如何学习的过程。元学习算法会学习任务的一个分布，每项任务都是学
OpenAI发布可扩展的元学习算法Reptile | 论文+代码+Demo
量子位
03-08 1811
安妮 编译自 OpenAI官方博客量子位 出品 | 公众号 QbitAI昨天，OpenAI发布了一种新型的可扩展元学习算法Reptile，还能在线试玩。何为Reptile？难道是——咳咳严肃一点。据OpenAI官方博客显示，这是通过重复对一个任务进行采样、随机梯度下降并将初始参数更新为从任务中学习到的最终参数的算法。这种方法不禁让人想到去年七月伯克利AI研究所关于未知模型元学习法（MAML）的研究
8.7 Meta learning元学习全面理解、MAML、Reptile
炫云云
06-19 1270
文章目录1、介绍few-shot learningreinforcement learning概念Meta learning 三个步骤定义一组learning algorithm损失函数寻找最好的FMeta Learning实例：OmniglotN-way K-shotMAML目标函数MAML vs transfer learningtaskMAML的训练MAML Toy Example算法梯度数学推导真正的实现MAML 应用：TranslationReptile梯度更新过程训练过程More about M
【meta-learning】经典工作MAML和Reptile（demo理解meta-learning机制）
chadlee
01-21 1520
Meta Learning MAML ICML’17 MAML和模型结构、任务无关，唯一的要求只是模型有参数就可以。 MAML产生一个权重的初始化，其他模型再使用少量的样本就能在其基础上进行fine-tuning。因此MAML的输入和作用和Pre-train是相同的。 算法 MAML可以用这张图来说清楚，左图是算法流程中∣Ti∣=1|\mathcal{T}_{i}|=1∣Ti​∣=1的情况。 首先，模型有一个初始化参数θ\thetaθ： 取一个tasks Ti∼p(T)\mathcal{T}_{i} \
一网打尽元学习算法--MAML，Reptile，MetaSGD元学习算法的区别及联系
qlkaicx的博客
04-24 1662
总的来说，不管什么元学习方法，元学习是一种学习如何学习的技术，元学习可以实现对各种任务的快速适应，用较少的样本学习到更好的推理和泛化能力，但实现方式和性能略有差异，应选择适合具体场景的方法。
深入浅出元学习-拆解MAML和Reptile算法「Meta-learning」「AI核心算法」
九三智能控
11-26 3478
关注：决策智能与机器学习，深耕AI脱水干货作者：郑思座来源：知乎专栏地址：https://www.zhihu.com/column/c_1068928500529958912转载请联...
COLING'22 | MetaPrompting：基于元学习的soft prompt初始化方法
zenRRan的博客
12-15 1455
每天给你送来NLP技术干货！论文名称：MetaPrompting: Learning to Learn Better Prompts论文作者：侯宇泰，董泓源，王兴昊，李博涵，车万翔原创作者：董泓源论文链接：https://aclanthology.org/2022.coling-1.287/转载出处：哈工大SCIR点击这里进群—>加入NLP交流群1. 简介Prompt通过将输入文本填入预设p...
Online Meta-Learning2019||论文阅读
VIEO
05-24 6769
元学习论文总结||小样本学习论文总结 2017-2019年计算机视觉顶会文章收录 AAAI2017-2019 CVPR2017-2019 ECCV2018 ICCV2017-2019 ICLR2017-2019 NIPS2017-2019 先简单介绍在线学习的概念： 在线学习算法的特点是：每来一个训练样本，就用该样本产生的loss和梯度对模型迭代一次，一个一个数据地进行训练，因此...
Online Meta-Learning详解
山里娃的博客
10-28 1793
论文信息 题目： Online Meta-Learning 作者： Chelsea Finn * 1 Aravind Rajeswaran * 2 Sham Kakade 2 Sergey Levine 1 1 University of California, Berkeley 2University of Washington. Correspondence to: Chelsea Finn cbfinn@cs.stanford.edu, Aravind Rajeswaran aravraj@cs
深入浅出Meta Learning - 让机器学会如何去学习
热门推荐
Mlooker的博客
05-21 3万+
主要看点这篇文章力求将我们从那些对AI空洞的幻想以及抽象的预测中带回到这片领域现在的真实情景中：在这里我们将分享这片领域的辉煌之处, 探讨其局限性, 并分析我们离鲁棒的多任务智能还有多远。Meta学习的初衷十分令人着迷：不仅仅构建能够学习的机器, 更重要的是让它学会如何去学习。这也就意味着Meta学习得到的算法能够依据自己表现的反馈信号及时地调整其结构和参数空间, 进而能够在新环境中通过累计经验提...
Meta-Learning（0）
ML_amateur的博客
11-17 2978
近一段时间来，元学习（Meta-Learning）在深度学习领域获得了广泛的关注。与大部分其他的机器学习算法相比，元学习最突出的特点是“Learning to Learn”,它是要“学会如何学习”，即用机器学习的方法去学习训练方法。 Meta-Learning已经成为继Reinforcement Learning（增强学习）之后又一个重要的研究分支。对于人工智能的理论研究，呈现出了Artifici...
REPTILE: 增强子精确位置预测工具的开发与应用
在给定的文件信息中，“REPTILE-master”是压缩包子文件的文件名称列表中唯一出现的内容。这表明REPTILE的代码或文档可以通过查找名为“REPTILE-master”的文件包来获取。通常在编程和软件开发中，“master”是版本...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值