Finetuned Language Models Are Zero-Shot Learners

最新推荐文章于 2024-08-27 14:40:33 发布
最新推荐文章于 2024-08-27 14:40:33 发布
阅读量620 收藏
点赞数
CC 4.0 BY-SA版权
分类专栏： NLP Papers 文章标签： 语言模型 人工智能 自然语言处理
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/chansonzhang/article/details/135028984
本文提出指令微调方法，通过在多样化的自然语言指令上微调137B参数的模型，显著提高了其在未见NLP任务的零样本性能。FLAN模型在多项任务上超越了零样本和少量样本的GPT-3，证明了指令微调的有效性。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

Abstract

本文探索了一种简单的方法来提升语言模型的零样本（zero-shot）学习能力。我们发现 指令微调（instruction tuning） 显著提高了未见任务的零样本性能。

  • 指令微调：即在一组通过指令描述的数据集上对模型进行微调

我们对一个 137B 参数的预训练模型在 60 个 NLP 任务上进行指令微调。这些任务通过自然语言指令模板进行表述。我们将指令微调后的模型称为 FLAN。

我们在未见任务上进行评估，发现

  • FLAN 显著好于微调前的版本
  • 在 20/25 个任务上超过 zero-shot 175B GPT-3
  • FLAN 在 ANLI, RTE, BoolQ, AI2-ARC, OpenbookQA, StoryCloze 等任务上甚至超时 few-shot GPT-3

消融实验显示，微调数据集的大小、模型的规模、自然语言指令都是指令微调成功的关键。

1 INTRODUCTION

GPT-3 为代表的大语言模型在 few-shot 情况表现很好，但是在 zero-shot 上效果差多了。一个可能的原因是在没有 few-shot 样本时，模型很难在与预训练数据格式不相似的 Prompt 上表现良好。

针对以上问题，本文利用了 NLP 任务可以使用自然语言指令描述这一直觉，例如

  • “Is the sentiment of this movie
了解本专栏 订阅专栏 解锁全文 超级会员免费看
Language Models are Few-Shot Learners
Young, Simple, Naive
10-16 1096
通过超大规模自回归语言模型实现 Few-shot Learning
【论文阅读】Finetuned Language Models Are Zero-Shot Learners
qq_52852138的博客
10-01 4231
【论文阅读 ICLR2022】Finetuned Language Models Are Zero-Shot Learners
论文解读：Finetuned Language Models Are Zero-shot Learners
夏栀的博客
12-31 4014
论文解读：Finetuned Language Models Are Zero-shot Learners 简要信息： 序号 属性 值 1 模型名称 Instruction-tuning 2 发表位置 2021 3 所属领域 自然语言处理、预训练语言模型 4 研究内容 预训练语言模型、多任务学习 5 核心内容 instruction, prompt 6 GitHub源码 https://github.com/google-research/flan 7 论文PDF h
文献阅读：Finetuned Language Models Are Zero-Shot Learners
codename_cys的博客
02-12 733
文献阅读：Finetuned Language Models Are Zero-Shot Learners
【自然语言处理】【ChatGPT系列】FLAN：微调语言模型是Zero-Shot学习器
bqw的博客
01-02 4149
​ 大语言模型(例如GPT-3GPT-3)已经展现出了非常好的的能力。然而，在上并不成功。例如，GPT-3GPT-3在阅读理解、问答和自然语言推断上的zero-shotzero-shot效果远差于few-shotfew-shot。一个潜在的原因是，不使用few-shotfew-shot样例模型很难在与预训练数据形式不一样的promptsprompts上表现良好。​ 本文探索一种改善大语言模型zero-shotzero-shot效果的简单方法，这将扩大语言模型的受众。NLP。
Re68：读论文 instruction tuning FLAN Finetuned Language Models Are Zero-Shot Learners
诸神缄默不语的博客
04-23 1328
《Finetuned Language Models Are Zero-Shot Learners》论文阅读笔记
FINETUNED LANGUAGE MODELS ARE ZERO-SHOT LEARNERS
06-13
- **概念解释**：Zero-Shot Learning（零样本学习）是指机器学习模型能够在未见过的数据上进行预测的能力，即模型能够应对它在训练阶段未曾接触过的任务类型。 - **研究背景**：传统的深度学习模型往往依赖于大量的...
Finetuned Language Models are Zero-Shot Learners.pdf
05-18
Finetuned Language Models are Zero-Shot Learners.pdf Finetuned Language Models are Zero-Shot Learners（细调语言模型是 Zero-Shot 学习者）是 ICLR 2022 会议论文，作者 Jason Wei 等人探索了一种简单的方法...
大语言模型-GPT3-Language Models are Few-Shot Learners
weixin_42045968的博客
08-27 1317
## 一、背景信息： GPT3是于2020 年由OpenAI 发布的预训练语言模型。 GPT3在自然语言处理（NLP）任务中表现出色，可以生成连贯的文本、回答问题、进行对话等。 GPT3的网络架构继续沿用GPT1、GPT2的是多层Transformer Decoder改的结构。 GPT3出自Language Models are Few-Shot Learners，语言模型是Few-Shot学习者。
[阅读笔记2][FLAN]FINETUNED LANGUAGE MODELS ARE ZERO-SHOT LEARNERS
Cloth的博客
04-15 351
为了测试模型的zero-shot能力，他这里定义了一下没见过的任务，他认为只有任务类中所有数据集都没见过，那这个任务才算是没见过的任务。最后一个消融是考虑指令格式的作用，因为性能提升也可能单纯因为进行了微调，扩大了参与训练的语料。第二个消融是考虑模型大小，对于大模型指令微调才有性能提升的作用，对于小模型反而性能变差了，对于这点可能的解释是对小模型微调会挤占参数空间，造成预训练的通用知识遗忘。左图解释了指令微调，就是把输入转化为指令的格式，然后再去不相关的任务上做微调，最后却能提升没见过任务的性能。
Instruction Tuning：无/少样本学习新范式
Kaiyuan_sjtu的博客
02-17 2804
作者|太子长琴整理|NewBeeNLP大家好，这里是NewBeeNLP。今天分享一种简单的方法来提升语言模型的 Zero-Shot 能力——指示（或指令）微调（instruction tuning） ，在一组通过指示描述的数据集上对语言模型微调，大大提高了在未见过任务上的 Zero-Shot 能力。模型 137B，在超过 60 个使用描述模板描述的数据集上微调。FLAN 在 20/25 ...
别再Prompt了！谷歌提出tuning新方法，强力释放GPT-3潜力！
夕小瑶科技说
09-07 3446
文 | Yimin_饭煲编 | 炼丹学徒如果评选NLP圈的2020年度十大关键词，那么GPT-3（Language Models are Few shot Learners) 一定榜上有名...
预训练语言模型fine-tuning近期进展概述
zenRRan的博客
04-08 1616
近年来，迁移学习改变了自然语言处理领域的范式，对预训练语言模型（PLM）进行微调（fine-tuning）已经成为了新的范式。本文主要梳理了近期的预训练语言模型做fine-tuning的进...
NLP千亿预训练模型的“第四范式”之Prompt Learning介绍分享
weixin_36896856的博客
11-06 2959
点击上方“AI遇见机器学习”，选择“星标”公众号 重磅干货，第一时间送达论文转载自知乎专栏：ai炼丹师作者：避暑山庄梁朝伟一、背景随着GPT-3诞生，最大的版本多达1750亿参数，是BER...
GPT-3：Language Models are Few-Shot Learners 论文解读
热门推荐
weixin_41089007的博客
06-02 2万+
paper链接：https://arxiv.org/abs/2005.14165 github链接：https://github.com/openai/gpt-3 摘要 通过对大量文本进行预训练，然后对特定任务进行微调，最近的工作证明了在许多NLP任务和基准方面的巨大收获。尽管在结构上通常与任务无关，但是此方法仍然需要特定于任务的微调数据集，该数据集包含成千上万个示例。相比之下，人类通常只能通过几个示例或简单的指令来执行新的语言任务——当前的NLP系统在很大程度上仍难以做到这一点。在这里，我们证明了扩
Unsupervised Data Augmentation for Consistency Training
Young, Simple, Naive
03-12 4579
有限的标注数据也能带来很好的性能
Parameter-Efficient Transfer Learning for NLP
Young, Simple, Naive
01-22 2447
对于 N 个下游任务，fine-tuning 需要 N 倍预训练模型的参数量，而 Adapter 可以只用接近 1 倍的参数量实现类似的性能。
BERT: Pre-training of Deep Bidirectional Transformers for Language Understading
Young, Simple, Naive
08-08 1850
BERT 主要是将单向预训练模型扩展到深度**双向**结构，从而刷新 7 项自然语言任务 SOTA.
论文翻译 | Language Models are Few-Shot Learners 语言模型是少样本学习者（下）
最新发布
03-20
### 关于论文 'Language Models are Few-Shot Learners' 下半部分的翻译与解析 #### 2.4 评估 在这一章节中，作者详细探讨了如何对大规模语言模型（如 GPT-3）进行性能评估。具体而言，该章节讨论了几种不同的配置及其对应的实验设计。 1. **Zero-shot、One-shot 和 Few-shot 设置** 论文定义了三种主要的评估场景：zero-shot、one-shot 和 few-shot。这些设置分别对应于模型在没有任何额外示例、一个示例或少量示例的情况下完成任务的能力[^3]。这种设定允许研究人员分析模型在未见过的任务中的泛化能力，同时也揭示了其内在的知识存储方式。 2. **实验设计** 实验涵盖了多种自然语言处理任务，包括但不限于问答、文本补全、分类和逻辑推理等。对于每种任务，作者提供了详细的提示模板，并确保所有任务描述、示例和提示的具体措辞均记录在附录 G 中。这种方法不仅提高了实验的可重复性，还使得结果更具可信度。 3. **模型表现分析** 结果表明，在某些情况下，GPT-3 即使是在 zero-shot 或 one-shot 场景下的表现也能媲美甚至超越经过 fine-tuning 的专用模型[^1]。这进一步证明了超大语言模型具备强大的上下文学习能力和潜在的通用性。 4. **技术实现细节** 在实际训练过程中，为了应对计算资源的挑战，作者采用了模型并行性和分布式训练策略。此外，他们通过监控梯度噪声尺度动态调整批量大小和学习率，从而优化了训练效率[^4]。所有的训练过程和技术细节都被详尽地记录在附录 B 中。 以下是代码片段的一个简化版本，用于演示如何加载预训练的语言模型： ```python from transformers import AutoTokenizer, AutoModelForCausalLM tokenizer = AutoTokenizer.from_pretrained("gpt3-model-name") model = AutoModelForCausalLM.from_pretrained("gpt3-model-name") def generate_text(prompt, max_length=50): inputs = tokenizer.encode(prompt, return_tensors="pt") outputs = model.generate(inputs, max_length=max_length) text = tokenizer.decode(outputs[0], skip_special_tokens=True) return text ``` --- #### 解读与总结 通过对这篇论文下半部分内容的研究可以看出，GPT-3 不仅是一个强大的生成工具，更是一种全新的范式转变。它展示了无需大量标注数据即可解决复杂任务的可能性，为未来的 NLP 应用开辟了新的方向。然而，尽管取得了显著进展，仍需注意的是，few-shot learning 是否真正代表了一种新型的认知机制仍有待验证[^2]。 ---
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值