Pre-train, Prompt, and Predict A Systematic Survey of Prompting Methods in Natural Language Process

预训练与提示学习：自然语言处理的系统综述
已于 2023-06-06 15:16:58 修改
阅读量535 收藏 2
点赞数
CC 4.0 BY-SA版权
分类专栏： Survey Paper 文章标签： 人工智能 深度学习
于 2023-06-05 18:59:49 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/c_cpp_csharp/article/details/131012664

这是Prompt系列文章的第一篇，对《Pre-train, Prompt, and Predict: A Systematic Survey of Prompting Methods in Natural Language Processing》的翻译。

预训练、提示与预测:自然语言处理中提示方法的系统综述

摘要

本文以自然语言处理的一种新范式综述和组织研究工作，我们称之为“基于提示的学习”。与传统的监督学习不同，传统的监督学习训练模型接受输入 x x x并将输出y预测为 P ( y ∣ x ) P(y|x) P(y∣

了解本专栏 订阅专栏 解锁全文 超级会员免费看
Pre-train, Prompt, and Predict: A Systematic Survey of Prompting Methods in Natural Language Process
Young, Simple, Naive
03-05 375
prompt-based learning 综述
【论文笔记】Pre-train, Prompt, and Predict: A Systematic Survey of Prompting Methods in NLP
gjh1716718326的博客
10-19 6678
摘要 Unlike traditional supervised learning, which trains a model to take in an input x and predict an output y as P(y|x), prompt-based learning is based on language models that model the probability of text directly. To use these models to perform predicti
NLP之Prompt：《Pre-train, Prompt, and Predict: A Systematic Survey of Prompting Methods in Natural Lang
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
10-12 9021
​ NLP之Prompt：《Pre-train, Prompt, and Predict: A Systematic Survey of Prompting Methods in Natural Language Processing预训练、提示和预测：自然语言处理中提示方法的系统调查》翻译与解读 目录 《Pre-train, Prompt, and Predict: A Systematic Survey of Prompting Methods in Natural Language Process
Re33：读论文 Pre-train, Prompt, and Predict: A Systematic Survey of Prompting Methods in Natural Languag
诸神缄默不语的博客
10-09 1786
论文阅读笔记：Pre-train, Prompt, and Predict: A Systematic Survey of Prompting Methods in Natural Language Processing
The Prompt Report- A Systematic Survey of Prompting Techniques(2024)-翻译《Prompt报告：Prompt技术的系统综述》
最新发布
ajian005的专栏
12-22 2116
生成式人工智能（GenAI）系统正日益广泛地应用于各行各业和研究领域。开发人员和最终用户通过提示或提示工程与这些系统进行交互。尽管提示是一个广泛应用且研究深入的概念，但由于这一领域的较新性，存在着术语上的冲突和对提示本质的本体论理解不足。本文通过建立提示的结构化理解，提出了提示技术的分类法并分析其应用。我们提供了一个全面的词汇表，包含33个术语，一个包含58种仅文本提示技术的分类法，以及40种适用于其他模态的技术。此外，我们还对关于自然语言前缀提示的所有文献进行了元分析。
CMU预训练模型最新综述：自然语言处理新范式—预训练、Prompt和预测
Paper weekly
08-02 3060
©PaperWeekly 原创 ·作者|王馨月学校|四川大学本科生研究方向|自然语言处理概要本文针对自然语言处理的新范式——我们称之为“prompt-based 学习”，进行...
prompt综述论文阅读：Pre-train, Prompt, and Predict: A Systematic Survey of Prompting Methods in Natural La
开心的火龙果的博客
02-14 1855
prompt综述论文阅读：Pre-train, Prompt, and Predict: A Systematic Survey of Prompting Methods in Natural Language Processing
预训练、提示和预测：NLP中提示的系统综述
qq_45331246的博客
09-28 2118
提示（Prompt）综述
NLP新宠——浅谈Prompt的前世今生
08-13
本文目标是对近期火爆异常的Prompt相关研究作一些追溯和展望，内容主要参考论文《Pre-train, Prompt, and Predict: A Systematic Survey of Prompting Methods in Natural Language Processing》，并掺杂了笔者的一些个人见解，欢迎大家积极讨论。
预训练、提示和预测：NLP提示方法的综述
yorkhunter的博客
06-28 620
23年1月来自CMU和国立新加坡大学ACM Computing Surveys发表的综述论文“Pre-train, Prompt, and Predict: A Systematic Survey of Prompting Methods in Natural Language Processing“。
【论文笔记】Pre-train, Prompt, and Predict
volcano_66的博客
02-13 1162
语言模型的参数不进行改变，添加提示，并在提示部分引入额外参数。仅对提示部分的参数进行训练。语言模型的参数参与训练，提示部分的参数固定，与上一种方法相反。
文本prompting综述
weixin_42561936的博客
10-05 963
这里写自定义目录标题欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入 欢迎使用Markdown编辑器 你好！ 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Mar
文献阅读 ——— Pre-train, Prompt, and Predict: A Systematic Survey of Prompting Methods in NLP
weixin_44695049的博客
12-24 640
这篇文章的编写的动机是为了总结NLP的第四范式Prompt Learning
预训练新范式！为什么Prompt会更有效？
Kaiyuan_sjtu的博客
01-17 6367
作者|上杉翔二悠闲会·信息检索整理|NewBeeNLP「Prompt Tuning也许会是深度学习时代的Feature Engineering问题，如何给各大...
一文跟进Prompt进展！综述+15篇最新论文逐一梳理
夕小瑶科技说
11-04 3756
文 | ZenMoore编 | 小轶自从 Dr.Pengfei Liu 的那篇 prompt 综述发表开始，prompt 逐渐红得发紫。近期清华、谷歌等单位你方唱罢我登场，涌现了好多好多 ...
《预训练周刊》第19期：歧义短语的类量子语境性研究、自然语言处理中prompt方法的系统综述...
BAAIBeijing的博客
08-06 800
No.19智源社区预训练组预训练研究观点资源活动关于周刊超大规模预训练模型是当前人工智能领域研究的热点，为了帮助研究与工程人员了解这一领域的进展和资讯，智源社区整理了第19期《预训练周刊》...
什么是Pre-train, Prompt, and Predict
04-21
Pre-train是指在大量的数据上对模型进行预训练，以便让模型理解自然语言的各种规律和语义关系。Prompt是指在使用语言模型进行特定任务时，为模型提供一定的初始提示信息，以便模型更好地理解任务要求。Predict是指在模型得到输入之后，进行推断和预测，输出模型认为最应该出现的下一个单词或短语。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

UnknownBody

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值