文章介绍了一种名为TAIL的方法，利用大型预训练模型结合强化学习，通过自适应参数微调来快速适应新任务。该方法包括BC优化智能体策略，使用CLIP进行指令编码和空间编码，以及Transformer架构的adapter进行微调。关键组件如LoRA、SequentialIntegration和PrefixTokenIntegration有助于增强模型对特定任务的响应能力。
ICLR 2024 poster
paper
Intro
大型预训练模型结合强化学习，通过自适应参数微调实现对new-task的快速适应。
Method
演示数据由K个不同Task构成的集合 { T 1 , … , T K } . Each task T k = ( μ k 0 , g k ) \{\mathcal{T}_{1},\ldots,\mathcal{T}_{K}\}.\text{ Each task }\mathcal{T}_{k}=(\mu_{k}^{0},g_{k}) {
T1,…,TK}. Each task Tk=(μk0,gk)。 μ k 0 \mu_{k}^{0} μk
最低0.47元/天 解锁文章
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
