Analyzing the Role of Semantic Representations in the Era of Large Language Models

本文是LLM系列文章，针对《Analyzing the Role of Semantic Representations in the Era of Large Language Models》的翻译。

摘要

传统上，自然语言处理 （NLP） 模型通常使用由语言专业知识创建的一组丰富功能，例如语义表示。然而，在大型语言模型 （LLM） 时代，越来越多的任务变成了通用的端到端序列生成问题。在本文中，我们研究了这个问题：语义表示在 LLM 时代的作用是什么？具体来说，我们研究了抽象意义表示 （AMR） 在五个不同的 NLP 任务中的影响。我们提出了一种 AMR 驱动的思维链提示方法，我们称之为 AMRCOT，发现它通常对性能的伤害大于帮助。为了研究 AMR 在这些任务中可能提供什么，我们进行了一系列分析实验。我们发现很难预测 AMR 可能对哪些输入示例有所帮助或有害，但错误往往出现在多词表达式、命名实体以及最后的推理步骤中，LLM 必须将其对 AMR 的推理与其预测联系起来。我们建议在 LLM 的语义表示的未来工作中关注这些领域。

1 引言

2 代表权形式化

3 设计 AMRCOT 实验