LSTM用于元学习-"Learning to learn by gradient descent by gradient descent"-笔记详解

最新推荐文章于 2023-11-11 11:10:09 发布
原创 最新推荐文章于 2023-11-11 11:10:09 发布 · 4.0k 阅读 · 26 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#Meta-Learning #机器学习 #深度学习 #人工智能 #论文

本文详细解析了Andrychowicz等人的研究，即使用LSTM学习优化算法，代替手动设定超参数。通过LSTM作为optimizer，学习对optimizee（模型）的参数更新方法。实验包括二次函数、Minist数据集等，展示了解决优化问题的新思路。

Andrychowicz, Marcin, et al. “Learning to learn by gradient descent by gradient descent.” Advances in neural information processing systems. 2016.

文章目录

1 简介

这篇文章主要讲用一个额外的LSTM学习出优化算法中以前需要手工设置的超参数。相比于MAML元学习的是模型的初始参数表示，这篇文章则着眼于元学习出一个优化算法。 现在很多方法是针对特定任务来设计优化算法，比如：RMSprop, Adagrad, ADAM等等。但是根据世上没有免费的午餐定律，没有一个特定的优化算法适用于所有的情形。而这篇文章则设计了一个optimizer g g g （本文中使用LSTM）来学习出不同的优化方法。因此参数的更新方法如下：
θ t + 1 = θ t + g t ( ∇ f ( θ t ) , ϕ ) \theta_{t+1}=\theta_t + g_t(\nabla f(\theta_t),\phi) θt+1​=θt​+gt​(∇f(θt​),ϕ)
其中， ϕ \phi ϕ是模型 g g g自身的参数， ∇ f ( θ t ) \nabla f(\theta_t) ∇f(θt​)是optimizee f f

最低0.47元/天 解锁文章
Learning to learn by gradient descent by gradient descent
m0_62673638的博客
02-23 447
1. 网络本身的参数就很多，论文也考虑到了这一点，论文的做法是coordinate-wise也就是每一个参数单独执行图2的处理进行优化，但是所有的参数共享一个网络，利用的是相同的LSTM网络权重/参数，但是每个参数都是独立的中间状态。3.实际上这篇论文是2018的NIPS的，但是大部分用的还是传统的方法，一方面是传统的方法本身已经比较好了，而且本身更加稳定，但是这个论文提出的方法还是感觉不稳定，而且很大的一个问题是带来的计算量很大，我觉得是回报相对于成本来说不是很值得吧。参数：如下图1，介绍下参数，
8.8LSTM作为元学习器学习梯度下降
炫云云
06-22 1136
文章目录1、介绍2、引入 RNNLSTM3、LSTM变换成梯度下降4、LSTM学习梯度下降实验结果5、梯度下降LSTM +动量实验结果参考资料 本节讨论的是“元学习”，我们将讨论用 LSTM 做优化器的方法。我们所指的训练，是指训练优化器 LSTM 的参数。 1、介绍 我们可以把元学习的过程，当然 RNN 来看。首先复习 RNN 。多数时候，我们说 RNN ，其实就是在用 LSTM 。 比较 LSTM 中的运算与 meta-learning 中的更新式，会发现有一些相似之处。 在实际操作中，我们做了非常大
机器学习-46-ML-02-Gradient Descent as LSTM(元学习-用LSTM做Gradient Descen)
迷雾总会解
01-19 1033
上次说到meta learning是在训练一个learning algorithm。使用的方法是梯度下降，这次我们研究如何将这个learning algorithm看作是一个LSTM，我们通过训练这个LSTM网络来实现我们的meta learning。
Meta-RL之Learning to Learn Using Gradient Descent
Ton的博客
09-14 804
Meta-RL是将Meta-Learning结合在强化学习上的学习算法。Meta-RL旨在训练出一个可以泛化到新的task上的学习算法FFF。给定一个新的环境，或者说一个新的MDPMDPMDP，FFF只要在新环境中采样少量样本进行微调，即可快速适应得到最优策略fπ∗f_\pi^*fπ∗​。而fπ∗f_\pi^*fπ∗​就是我们之前用标准RL算法一直在做的一件事。这里以监督学习为例(将分类模型替换成RL中的策略模型πθ\pi_\thetaπθ​就是Meta-RL在做的事)，来理解Meta-RL： Meta-R
Learning to learn by gradient descent by gradient descent - PyTorch实践
热门推荐
senius的博客
11-25 1万+
原创博文，转载请注明来源（csdn or blog） 引言 Learning to learn，即学会学习，是每个人都具备的能力，具体指的是一种在学习的过程中去反思自己的学习行为来进一步提升学习能力的能力。这在日常生活中其实很常见，比如在通过一本书来学习某个陌生专业的领域知识时（如《机器学习》），面对大量的专业术语与陌生的公式符号，初学者很容易看不下去，而比较好的方法就是先浏览目录，掌握一些简...
Learning to learn by gradient descent by gradient descent 笔记
alva_bobo的博客
11-16 2595
转载地址：https://zhuanlan.zhihu.com/p/21362413 什么意思呢？就是用梯度下降的方法学会了梯度下降的学习方法。 用一个神经网络来调控另一个神经网络！ 怎么做？如上图，一个是神经网络优化器，一个是被优化的神经网络，也就是我们平时都用的神经网络。这里我们把数据输入到被优化的神经网络中，然后输出误差，把误差信号传给神经网络优化器，这个优化器就自己计算输出参
Learning to Learn without Gradient Descent by Gradient Descent论文解析（黑箱优化问题）
migue_math
03-28 1492
本篇论文属于元学习和黑箱函数优化的交叉领域，其中将元学习的思想应用于黑箱函数优化。这篇论文发表于2017年。 对于黑箱函数优化方法我了解的不太多，因此本文的不可避免的会有一些理解不到位的地方。 想要了解贝叶斯优化和高斯过程的，可以看我翻译的两篇文章： 高斯过程是什么? 贝叶斯优化如何工作？ 1 Introduction 发展心理学表明婴儿具有多个针对核心知识的分散的系统，通过这些系统，他们可以...
Learning to learn by gradient descent by gradient descent||元学习||自动学习优化器的设计
VIEO
05-05 844
元学习论文总结||小样本学习论文总结 2017-2019年计算机视觉顶会文章收录 AAAI2017-2019 CVPR2017-2019 ECCV2018 ICCV2017-2019 ICLR2017-2019 NIPS2017-2019 参考：Learning to learn by gradient descent by gradient descent - PyTorch实践...
【论文阅读】Learning to learn by gradient descent by gradient descent-通过梯度下降学习如何学习梯度下降
qq_56483157的博客
11-11 555
本文将优化算法的设计视作一个学习问题，通过LSTM实现的学习算法，使得算法能够自动学习如何利用所关注问题中的结构，其表现优于手工设计的算法，并且有很好的泛化能力。
深度学习【10】利用LSTM学习梯度下降法等优化方法：Learning to learn by gradient descent by gradient descent
DCD_LIN的博客
07-04 9945
机器学习 -- Gradient Descent
01-30
Gradient Descent Review: Gradient Descent Tip 1: Tuning your learning rates Adaptive Learning Rates Adagrad Contradiction Intuitive Reason Larger gradient, larger steps
Learning to Learn by Gradient Descent by Gradient Descent网络前向计算图
Keith
08-23 892
Learning to Learn By Gradient Descent by Gradient Descent 前向计算图（黄色线表示梯度流动方向） Optimization as a Model For Few-Shot Learning前向计算图（黄色表示梯度流动方向） ...
论文分享（4）---- OPTIMIZATION AS A MODEL FOR FEW-SHOT LEARNING)----元学习meta-lstm
qq_18838211的博客
05-03 1287
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档 论文分享（4）---- OPTIMIZATION AS A MODEL FOR FEW-SHOT LEARNING摘要一、问题定义二、Model1. 模型定义2. 模型参数共享和预处理3. 梯度更新简化总结 摘要 尽管深度学习在数据量充足的领域已经取得了很大的成功，但是它们很难在数据量匮乏的情况下发挥。这是因为现有的优化策略都是基于梯度进行更新，由于参数量的缘由，这种梯度更新的方式需要更多的step才能达到收敛。针对这一问题，作者提出了.
元学习gradient descent as LSTM（2）--李宏毅老师课程学习笔记
qq_41694504的博客
05-28 491
我们发现meta learning中的结构与RNN比较相似，具体看下面两篇论文是讲这个的。 RNN是用同一个单元去处理很长的句子，因为每次只吃一个单词。 现在基本用LSTM，通过结构发现Ct的特殊，同时由于它改变较慢，因此LSTM能够储存较长之间之前的词。 复习一下LSTM： 这个图和上面的图进行对比，是LSTM的简化版。 如果把sita t-1 的loss用来更新zi，那么可以多样地调整学习率。 实际的时候，一个LSTM用在所有的参数中。 以前的方法都会用以前的梯度，那我们是不是也能这样。
learning to learn using gradient descent-2001||论文阅读
VIEO
05-19 1067
元学习论文总结||小样本学习论文总结 2017-2019年计算机视觉顶会文章收录 AAAI2017-2019 CVPR2017-2019 ECCV2018 ICCV2017-2019 ICLR2017-2019 NIPS2017-2019 2001年，Sepp Hochreiter和AS Younger＆PR Conwell基于Long短期记忆RNN建立了一个成功的监督元学习者。它...
Meta-RL之Learning to Learn by gd by gd
Ton的博客
09-21 1006
这篇文章由DeepMind发表于2016年，比MAML的发表要早一些。2001年发表了一篇Learning to Learn Using Gradient Descent，这篇是其进一步的改进与优化。论文标题中就可以看出文章的目的：针对不同的需要用到梯度下降优化的模型，用梯度下降来优化的元学习算法去学习一种对应的梯度下降算法。可能听起来有点难以理解，但看过MAML这篇论文的，就可以把它和MAML放一起看，只不过MAML是通过元学习算法去学习初始化参数，而这篇使用元学习算法去学习一种优化算法。 参考列表： ①
Gradient Descent学习笔记
snorlaxx的博客
03-05 263
今日网课初步学习了 Gradient Descent，特此把笔记记下，以后有空看看。 （同专业的发现不要抄我作业 TAT） 定义出损失函数loss function，若该函数可微分，则可以使用梯度下降法。设变量为X={Xa，Xb……}，损失函数为L（X）。为了找到损失函数的最小值（即目标的最优解），通过任意取一个初始值{Xa0，Xb0，……}，然后根据函数的性质迭代n次，找出较优的X解，迭代的方法...
（2017 ICML）Learning to learn without gradient descent by gradient descent笔记
alva_bobo的博客
11-16 1328
无需梯度下降的梯度下降，学会一个会学习的模型 论文作者：Yutian Chen, Matthew Hoffman, Sergio Gomez, Misha Denil, Timothy Lillicrap, Matthew Botvinick , Nando de Freitas（全部都是 DeepMind 英国团队成员） 论文简介：借助梯度下降的方法，可以用简单的生成函数训练
在 CNN-LSTM 模型中应用 GradientDescent 优化器
最新发布
04-01
### CNN-LSTM模型中的GradientDescent优化器配置 在深度学习领域，CNN-LSTM是一种结合卷积神经网络（Convolutional Neural Network, CNN）和长短期记忆网络（Long Short-Term Memory, LSTM）的混合架构。它通常用于处理具有时空特征的数据集，例如视频分析或时间序列图像数据[^2]。 #### GradientDescent优化器的作用 梯度下降（Gradient Descent）是一类常用的优化算法，旨在通过最小化损失函数来调整模型参数。对于复杂的深度学习模型如CNN-LSTM，可以采用其变体之一——随机梯度下降（Stochastic Gradient Descent, SGD），以提高训练效率并防止过拟合[^3]。 以下是具体实现方法： 1. **定义模型结构** 首先构建CNN-LSTM模型。CNN部分负责提取空间特征，而LSTM则捕捉时间依赖关系。以下是一个简单的Keras代码示例： ```python from tensorflow.keras.models import Sequential from tensorflow.keras.layers import Conv2D, MaxPooling2D, TimeDistributed, LSTM, Dense model = Sequential() # 添加CNN层，TimeDistributed表示对每个时间步执行相同操作 model.add(TimeDistributed(Conv2D(32, (3, 3), activation='relu'), input_shape=(None, 64, 64, 1))) model.add(TimeDistributed(MaxPooling2D(pool_size=(2, 2)))) model.add(TimeDistributed(Flatten())) # 添加LSTM层 model.add(LSTM(50)) # 输出层 model.add(Dense(1, activation='sigmoid')) ``` 2. **配置SGD优化器** 使用`tensorflow.keras.optimizers.SGD`作为优化器，并设置必要的超参数，例如学习率（learning rate）、动量（momentum）以及是否启用Nesterov加速梯度（nesterov momentum）。这些参数直接影响收敛速度和稳定性。 ```python from tensorflow.keras.optimizers import SGD sgd_optimizer = SGD(lr=0.01, momentum=0.9, nesterov=True) model.compile(optimizer=sgd_optimizer, loss='binary_crossentropy', metrics=['accuracy']) ``` 3. **注意事项** - 学习率的选择至关重要。过高可能导致不稳定的训练过程甚至发散；过低会延长训练时间且容易陷入局部最优解[^4]。 - 动量项有助于克服鞍点问题，加快平坦区域内的移动速度。 - 对于复杂任务，建议尝试更先进的优化策略，比如Adam或RMSprop，它们能自适应调节每一轮迭代的学习速率。 4. **训练模型** 完成上述步骤后即可调用`.fit()`方法开始训练流程。确保输入数据形状匹配所设计的时间维度与通道数要求。 --- ###
评论 3
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值