QUANTIFYING LANGUAGE MODELS’ SENSITIVITY TO SPURIOUS FEATURES IN PROMPT DESIGN_quantifying language models' sensitivity to spurio-优快云博客

本文链接：https://blog.youkuaiyun.com/c_cpp_csharp/article/details/135918319

本文探讨了大型语言模型（LLM）对提示设计的敏感性，特别是提示格式。研究发现，LLM在小样本设置中对格式变化极其敏感，性能差异可达76个准确点。通过FORMATSPREAD算法，作者展示了评估LLM性能时应考虑多种提示格式的必要性，因为格式性能在不同模型间相关性低。此外，他们揭示了提示格式空间的复杂性和非单调性，为未来的研究提供了方向。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

本文是LLM系列文章，针对《QUANTIFYING LANGUAGE MODELS’ SENSITIVITY TO SPURIOUS FEATURES IN PROMPT DESIGN or: How I learned to start worrying about prompt formatting》的翻译。

摘要

由于大型语言模型（LLM）是语言技术的基本组成部分，因此准确地描述其性能至关重要。因为提示设计中的选择会强烈影响模型行为，所以这个设计过程对于有效使用任何现代预训练的生成语言模型都至关重要。在这项工作中，我们重点关注LLM对一类典型的保义设计选择的敏感性：提示格式。我们发现，几种广泛使用的开源LLM对小样本设置中提示格式的细微变化极为敏感，使用LLaMA-2-13B进行评估时，性能差异高达76个准确点。即使在增加模型大小、小样本示例的数量或执行指令调整时，灵敏度仍保持不变。我们的分析表明，使用基于提示的方法评估LLM的工作将受益于跨合理提示格式报告一系列性能，而不是目前在单一格式上报告性能的标准做法。我们还表明，格式性能在模型之间只有微弱的相关性，这使将模型与任意选择的固定提示格式进行比较的方法论有效性受到质疑。为了便于系统分析，我们提出了FORMATSPREAD，这是一种算法，可以快速评估给定任务的一组看似合理的提示格式，并在不访问模型权重的情况下报告预期性能的区间。此外，我