大模型论文 | 提示词工程方法（一）CoT Prompting模式

最新推荐文章于 2025-05-25 00:00:09 发布

原创最新推荐文章于 2025-05-25 00:00:09 发布 · 897 阅读

CC 4.0 BY-SA版权

文章标签：

提示词工程（Prompt Engineering）是一种无需修改大模型参数即可拓展其能力的技术。它通过特定任务的指令或上下文提示，激活相关知识，实现模型与下游任务的无缝集成。该领域在问答、常识推理等应用中已取得成功。

技术路线1 CoT Prompting模式

Paper： Chain-of-Thought Prompting Elicits Reasoning in Large Language Models

概念：在解决复杂问题时，人类通常会逐步分解问题并进行推理，直至得出答案。这种方法模仿了人类的思考过程，通过自然语言的形式表达出来，即“chain of thought”。
实现方式：在给定一个问题（如数学文字问题）时，不仅提供问题本身，还提供一个或多个中间推理步骤的示例（即chain of thought），以及最终的答案。这些示例作为提示（prompt）的一部分，用来指导模型如何进行推理。
示例：在论文中，作者提供了几个示例来说明这种方法。例如，对于一个数学问题：“The cafeteria had 23 apples. If they used 20 to make lunch and bought 6 more, how many apples do they have?” 标准的提示可能直接给出答案“11”，而chain-of-thought prompting会提供如下步骤：

训练与微调：这种方法不需要对模型进行额外的训练或微调。相反，它依赖于模型已经通过大量数据预训练获得的语言理解能力。通过在提示中包含chain of thought的示例，模型能够学习如何模仿这种推理过程。
效果：实验结果表明，chain-of-thought prompting能够显著提高模型在一系列推理任务上的表现，尤其是在算术、常识和符号推理任务上。例如，在GSM8K数学文字问题基准测试中，使用这种方法的PaLM 540B模型达到了最先进的准确率。
优势：这种方法的优势在于它允许模型将复杂问题分解为更小、更易于管理的步骤，提供了模型推理过程的透明度，有助于理解和调试模型的行为。此外，它还适用于多种类型的推理任务，不仅限于数学问题。
局限性：尽管chain-of-thought prompting在大型模型中表现出色，但对于小型模型或没有足够示例的情况下，可能无法有效激发其推理能力。此外，这种方法依赖于模型的规模，只有当模型达到一定的参数量级时，才能观察到显著的性能提升。