A Systematic Survey of Prompt Engineering in Large Language Models: Techniques and Applications

本文是LLM系列文章，针对《A Systematic Survey of Prompt Engineering in Large Language Models: Techniques and Applications》的翻译。

摘要

提示工程已经成为扩展大型语言模型（LLM）和视觉语言模型（VLM）功能的一种不可或缺的技术。这种方法利用特定任务的指令，即提示，在不修改核心模型参数的情况下提高模型功效。提示不是更新模型参数，而是通过仅基于给定提示引发所需的模型行为，将预先训练的模型无缝集成到下游任务中。提示可以是提供上下文以指导模型的自然语言指令，也可以是激活相关知识的学习向量表示。这一新兴领域已经在从问答到常识推理的各种应用程序中取得了成功。然而，对各种快速工程方法和技术仍然缺乏系统的组织和理解。这篇调查论文通过按应用领域分类，对提示工程的最新进展进行结构化概述，来解决这一差距。对于每种提示方法，我们都会提供一份摘要，详细说明提示方法、应用程序、所涉及的模型和所使用的数据集。我们还深入研究了每种方法的优势和局限性，并提供了一个分类图和表格，总结了每种提示技术的数据集、模型和关键点。这种系统的分析能够更好地理解这一快速发展的领域，并通过揭示提示工程的公开挑战和机遇，促进未来的研究。

1 引言

2 提示工程

3 结论

在人工智能领域，提示工程已经成为一股变革力量，释放了LLM的巨大潜力。这篇调查论文旨在作为一个基础资源，根据29种不同的提示工程技术的目标功能对其进行系统分类，以激励进一步的研究，并在不断发展的提示工程领域赋予创新者权力。该分析涵盖了应用程序、模型和数据集，揭示了每种方法的优势和局限性。此外，我们还添加了一个图表和一个表格来强调要点。尽管取得了显著的成功，但挑战依然存在，包括偏见、事实不准确和可解释性差距，需要进一步的调查和缓解策略。提