A Systematic Survey of Prompt Engineering in Large Language Models: Techniques and Applications

最新推荐文章于 2025-11-24 18:37:40 发布
最新推荐文章于 2025-11-24 18:37:40 发布
阅读量398 收藏
点赞数 2
CC 4.0 BY-SA版权
分类专栏： Survey Paper LLM Prompt 文章标签： prompt 语言模型 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/c_cpp_csharp/article/details/137147793
Survey Paper 同时被 3 个专栏收录
275 篇文章 ¥99.90 ¥299.90
订阅专栏 超级会员免费看
LLM 日更
828 篇文章

已下架不支持订阅

LLM Prompt
40 篇文章
订阅专栏
本文翻译了《A Systematic Survey of Prompt Engineering in Large Language Models: Techniques and Applications》，介绍如何利用提示工程提升大型语言模型在不更新参数情况下的任务表现，涉及问答、常识推理等多个应用领域。论文分析了各种方法的优势和局限，为未来研究提供了方向。

本文是LLM系列文章，针对《A Systematic Survey of Prompt Engineering in Large Language Models: Techniques and Applications》的翻译。

大型语言模型中提示工程的系统综述：技术与应用

摘要

提示工程已经成为扩展大型语言模型（LLM）和视觉语言模型（VLM）功能的一种不可或缺的技术。这种方法利用特定任务的指令，即提示，在不修改核心模型参数的情况下提高模型功效。提示不是更新模型参数，而是通过仅基于给定提示引发所需的模型行为，将预先训练的模型无缝集成到下游任务中。提示可以是提供上下文以指导模型的自然语言指令，也可以是激活相关知识的学习向量表示。这一新兴领域已经在从问答到常识推理的各种应用程序中取得了成功。然而，对各种快速工程方法和技术仍然缺乏系统的组织和理解。这篇调查论文通过按应用领域分类，对提示工程的最新进展进行结构化概述，来解决这一差距。对于每种提示方法，我们都会提供一份摘要，详细说明提示方法、应用程序、所涉及的模型和所使用的数据集。我们还深入研究了每种方法的优势和局限性，并提供了一个分类图和表格，总结了每种提示技术的数据集、模型和关键点。这种系统的分析能够更好地理解这一快速发展的领域，并通过揭示提示工程的公开挑战和机遇，促进未来的研究。

1 引言

2 提示工程

3 结论

在人工智能领域，提示工程已经成为一股变革力量，释放了LLM的巨大潜力。这篇调查论文旨在作为一个基础资源，根据29种不同的提示工程技术的目标功能对其进行系统分类，以激励进一步的研究，并在不断发展的提示工程领域赋予创新者权力。该分析涵盖了应用程序、模型和数据集，揭示了每种方法的优势和局限性。此外，我们还添加了一个图表和一个表格来强调要点。尽管取得了显著的成功，但挑战依然存在，包括偏见、事实不准确和可解释性差距，需要进一步的调查和缓解策略。提

了解本专栏 订阅专栏 解锁全文 超级会员免费看
A SURVEY OF PROMPT ENGINEERING METHODS IN LARGE LANGUAGE MODELS FOR DIFFERENT NLP TASKS
c_cpp_csharp的专栏
10-03 474
大型语言模型 （LLM） 在许多不同的自然语言处理 （NLP） 任务中表现出卓越的性能。提示工程在增加 LLM 的现有功能以在各种 NLP 任务上实现显着的性能提升方面发挥着关键作用。提示工程需要编写称为提示的自然语言指令，以结构化的方式从 LLM 中获取知识。与以前最先进的 （SoTA） 模型不同，提示工程不需要根据给定的 NLP 任务进行广泛的参数重新训练或微调，因此仅根据 LLM 的嵌入式知识进行操作。
Efficient Prompting Methods for Large Language Models: A Survey
c_cpp_csharp的专栏
08-25 357
提示已成为使大型语言模型（LLM）适应特定自然语言处理任务的主流范式。虽然这种方法为LLM的上下文学习打开了大门，但它带来了模型推理的额外计算负担和手动设计提示的人工工作，特别是在使用冗长复杂的提示来指导和控制LLM行为时。因此，LLM领域出现了高效提示方法的显著激增。本文对这些方法进行了全面的概述。从较高的层次上讲，高效的提示方法大致可分为两种：高效计算提示和高效设计提示。前者涉及各种压缩提示的方法，后者采用自动优化提示的技术。我们介绍了激励的基本概念，回顾了高效激励的进展，并强调了未来的研究方向。
论文阅读：A Systematic Survey of Prompt Engineering in Large Language Models: Techniques and Applications
m0_53605808的博客
06-28 839
提示工程已成为扩展大语言模型（LLMs）和视觉语言模型（VLMs）能力的不可或缺的技术。该方法利用称为提示的任务特定指令来提升模型效能，而无需修改核心模型参数。提示无需更新模型参数，仅通过给定提示引导模型产生所需行为，从而实现预训练模型与下游任务的无缝集成。提示可以是提供上下文以引导模型的自然语言指令，也可以是激活相关知识的学习向量表示。这一新兴领域已在从问答到常识推理的各种应用中取得成功。然而，目前缺乏对多样化提示工程方法和技术的系统性组织与理解。
【论文翻译】A Systematic Survey of Prompt Engineering in Large Language Models: Techniques and Application
fanjinglian_的博客
11-22 1554
提示工程（Prompt Engineering）已成为扩展大型语言模型（LLMs）与视觉-语言模型（VLMs）能力的重要技术。通过使用特定任务的说明（即提示），提示工程无需修改模型参数即可提高模型的效果。提示工程利用预训练模型的能力，通过输入适当的提示，激发出所需的模型行为，从而顺利完成下游任务。提示可以是提供上下文的自然语言指令，或是激活相关知识的向量化表示。这一新兴领域在多个应用场景中取得了成功，包括问答和常识推理。然而，目前对各种提示工程方法与技术缺乏系统的组织和理解。
【论文笔记】Pre-train, Prompt, and Predict: A Systematic Survey of Prompting Methods in NLP
gjh1716718326的博客
10-19 6676
摘要 Unlike traditional supervised learning, which trains a model to take in an input x and predict an output y as P(y|x), prompt-based learning is based on language models that model the probability of text directly. To use these models to perform predicti
大语言模型在不同自然语言处理任务中的提示工程方法综述
m0_59164304的博客
09-01 1530
论文标题：A Survey of Prompt Engineering Methods in Large Language Models for Different NLP Tasks论文链接：https://arxiv.org/pdf/2407.12994大型语言模型（LLMs）在众多不同的自然语言处理（NLP）任务上展现出卓越的性能。提示工程在增强LLMs已有的能力方面发挥着关键作用，以在各种NLP任务上实现显著的性能提升。提示工程需要编写称为提示的自然语言指令，以结构化的方式从LLMs中引出知识。
The Prompt Report- A Systematic Survey of Prompting Techniques(2024)-翻译《Prompt报告：Prompt技术的系统综述》
ajian005的专栏
12-22 2116
生成式人工智能（GenAI）系统正日益广泛地应用于各行各业和研究领域。开发人员和最终用户通过提示或提示工程与这些系统进行交互。尽管提示是一个广泛应用且研究深入的概念，但由于这一领域的较新性，存在着术语上的冲突和对提示本质的本体论理解不足。本文通过建立提示的结构化理解，提出了提示技术的分类法并分析其应用。我们提供了一个全面的词汇表，包含33个术语，一个包含58种仅文本提示技术的分类法，以及40种适用于其他模态的技术。此外，我们还对关于自然语言前缀提示的所有文献进行了元分析。
【人工智能】大模型提示工程的完整介绍 | A Complete Introduction to Prompt Engineering For Large Language Models
AI天才研究院
05-04 8951
此外，要获得一系列演示，展示从工作申请信到爸爸笑话的基于提示的一切生成，请查看 Gwern 的文章。这种观察与 LLM 大小（即较大的模型与较小的模型存在相同的问题）和用于演示的示例子集（即提示中的更多示例不会减少方差）无关。相反，人们提出了使用不同格式的输入的变通办法，但很明显需要做更多的工作来防止这些漏洞，特别是如果 LLM 将越来越多地为未来的用例提供更多功能。研究人员进一步证明，他们重新构建的提示显着提高了少样本和零样本设置中的性能，泛化了跨模型类型的性能，甚至能够胜过（更小的）传统监督模型。
【LLM综述】29种大模型Prompt Engineering技术
发现问题，并解决问题，批判性思维
12-28 1838
# note - 从零样本（Zero-shot）提示到最新进展的各种提示技术，包括推理和逻辑链（Chain-of-Thought, CoT）提示、自动链式思考（Auto-CoT）提示、自我一致性（Self-Consistency）提示、逻辑链式思考（LogiCoT）提示等。 - 减少幻觉（Reduce Hallucination）的技术，如检索增强生成（Retrieval Augmented Generation, RAG）和链式验证（Chain-of-Verification, CoVe）提示，以及用户交
Wordflow: Social Prompt Engineering for Large Language Models
步子哥的博客
01-30 1268
论文介绍了Wordflow，这是一个开源的社交文本编辑器，它允许用户在本地和私密地运行LLMs，同时提供了一个易于使用的界面来管理提示，这有助于降低用户在使用LLMs时对隐私泄露的担忧。这使得用户能够根据自己的需求定制提示，并在需要时快速应用。总的来说，论文旨在通过社交提示工程和Wordflow工具，降低非专家用户使用LLMs的门槛，提高他们与LLMs交互的效率和效果。：通过实际的用户研究来评估Wordflow的有效性，包括用户满意度、使用频率、以及用户如何通过社交提示工程改进他们的LLM体验。
NLP深入学习：《A Survey of Large Language Models》详细学习（五）
日常学习与专研的记录
02-08 1536
本文介绍论文《A Survey of Large Language Models》的 prompt 章节。
一文读懂「Prompt Engineering」提示词工程 基础版
热门推荐
女王の专属领地
01-10 2万+
提示工程（Prompt Engingering），也被称为上下文提示（In-Context Prompting），指的是通过结构化文本等方式来完善提示词，引导LLM输出我们期望的结果。通过提示词工程可以在不更新模型权重的情况下，让LLM完成不同类型的任务。其主要依赖于经验，而且提示词工程方法的效果在不同的模型中可能会有很大的差异，因此需要大量的实验和探索。提示工程旨在获取这些提示并帮助模型在其输出中实现高准确度和相关性，掌握提示工程相关技能将有助于用户更好地了解大型语言模型的能力和局限性。
前沿重器[55] | prompt综述的解释和个人思考
AwaysLine
08-29 500
上周手上不太方便，即使后续好了也没有搞定（不过说实话，这篇文章的量似乎没读完也不好搞定）。最近是有3篇prompt的综述非常出名：每篇综述的内容都比较丰富，尤其是第一篇，已经到了76页，然而从综述角度，需要把尽可能完善地把研究领域内的关键文章都给说明白，然而从应用角度或者学习角度，从中能找到适合自己的部分，快速过滤和筛选则更为重要，今天这篇文章，是综合上述3篇综述的内容以及个人在实际应用中的经验，从中抽取可靠的方案和思路总结。
一文跟进Prompt进展！综述+15篇最新论文逐一梳理
夕小瑶科技说
11-04 3755
文 | ZenMoore编 | 小轶自从 Dr.Pengfei Liu 的那篇 prompt 综述发表开始，prompt 逐渐红得发紫。近期清华、谷歌等单位你方唱罢我登场，涌现了好多好多 ...
Build a Large Language Model (From Scratch) 从头开始构建大型语言模型(第一章)学习笔记
专注于全栈开发领域
04-19 6188
LLM 是一种大型语言模型，是一种旨在理解、生成和响应类人文本的神经网络。这些模型是在大量文本数据上训练的深度神经网络，有时涵盖互联网上整个公开文本的大部分。大语言模型中的“大”指的是模型的参数大小和训练它的巨大数据集。像这样的模型通常有数百甚至数千亿个参数，这些参数是网络中的可调整权重，在训练期间进行优化以预测序列中的下一个单词。下一个单词预测是明智的，因为它利用语言固有的顺序性质来训练模型来理解文本中的上下文、结构和关系。
Large Language Models(LLMs) Concepts
爱摸鱼的经济er的博客
09-02 1237
"Large Language Models(LLMs) Concepts" course study notes.
AI Prompt 工程实战：用AI大模型打造英语助手
最新发布
清云逸仙的博客
11-24 468
本文介绍了如何利用大语言模型（如GPT-4）打造初中生英语单词学习助手，通过Prompt Engineering设计专业教学提示词。文章包含完整的Prompt模板设计思路，以单词"home"为例展示结构化输出效果（词性、短语、例句），并提供了基于Flask和OpenAI API的Python实现代码。该方案具有教育场景匹配度高、输出规范、易于扩展等特点，可快速部署为Web应用或集成到学习平台中，助力AI+教育创新实践。
文档翻译prompt
weixin_43848765的博客
11-21 171
按字母顺序处理所有 70 个文件，检查文件， 逐个翻译，已经翻译到了，SPXDialogServiceConnectorActivityReceivedEventArgs 文件了。不翻译：代码标识符、版权信息、导入语句、NS_SWIFT_UNAVAILABLE 等系统消息。不翻译：代码标识符、版权信息、导入语句、NS_SWIFT_UNAVAILABLE 等系统消息。@param、@return、@note 等标签后的说明。@param、@return 等标签后的说明。逐个读取、翻译、保存。
A Systematic Survey of Prompt Engineering
04-23
### 关于提示工程的系统性调查 近年来，随着生成式人工智能（GenAI）系统的广泛应用，提示工程已成为研究和实践中的重要领域。尽管提示的概念已被广泛研究，但由于其新兴特性，术语冲突以及缺乏对提示构成的本体论理解仍然存在[^2]。 一份全面的系统性调查应涵盖以下几个方面： #### 提示工程的核心概念 提示工程涉及开发者与最终用户如何通过设计特定的输入结构来引导模型的行为。这种交互方式不仅影响模型的表现，还决定了应用场景的成功与否。由于提示工程仍处于发展阶段，建立统一的定义和分类至关重要[^3]。 #### 提示技术的分类 一项重要的研究成果提出了针对文本模态的58种提示技术和适用于其他模态的40种技术的分类体系。这些技术被进一步细分为前缀提示、角色扮演、链式思维等多种类别，每一种都有独特的应用价值和局限性[^2]。 #### 自动化提示技术的发展 鉴于手动构建提示的复杂性和挑战，自动化提示技术逐渐受到关注。研究人员正在探索能够自动生成高效提示的技术方案，从而降低人工干预的成本并提升模型性能[^1]。 #### 安全性问题 在实际部署过程中，安全性是一个不可忽视的因素。特别是Prompt Injection等攻击手段的存在提醒我们，在设计提示时需考虑潜在的安全隐患及其缓解措施[^4]。 以下是基于以上分析的一个简单代码实现案例，展示如何利用Python调用API完成基本的提示处理任务： ```python import requests def generate_prompt(api_key, model_name, input_text): url = f"https://api.example.com/{model_name}/generate" headers = {"Authorization": f"Bearer {api_key}"} payload = { "input": input_text, "parameters": { "max_length": 50, "temperature": 0.7 } } response = requests.post(url, json=payload, headers=headers) if response.status_code == 200: return response.json()["output"] else: raise Exception(f"Error generating prompt: {response.text}") if __name__ == "__main__": api_key = "your_api_key_here" model_name = "text-davinci-003" user_input = "Write a short story about space exploration." result = generate_prompt(api_key, model_name, user_input) print(result) ``` 此脚本展示了向远程服务发送请求以获取由指定模型生成的内容的过程。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

UnknownBody

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值