Knowledge-Augmented Language Model Prompting for Zero-Shot Knowledge Graph Question Answering

本文是LLM系列的文章，针对《Knowledge-Augmented Language Model Prompting for Zero-Shot Knowledge Graph Question Answering》的翻译。

摘要

大型语言模型（LLM）能够根据预先训练过程中存储在参数中的内部知识，执行零样本封闭式问答任务。然而，这种内化的知识可能是不充分和不正确的，这可能导致LLM产生事实上错误的答案。此外，微调LLM以更新其知识是昂贵的。为此，我们建议在LLM的输入中直接增加知识。具体来说，我们首先根据问题及其相关事实之间的语义相似性，从知识图谱中检索输入问题的相关事实。之后，我们以提示的形式将检索到的事实预先添加到输入问题中，然后将其转发给LLM以生成答案。我们的框架，知识增强语言模型提示（KAPING），不需要模型训练，因此完全是零样本。我们验证了我们的KAPING框架在知识图问答任务中的性能，该任务旨在根据知识图谱上的事实回答用户的问题，在不同大小的多个LLM中，我们的知识图谱平均比相关的零样本基线高出48%。

1 引言

2 相关工作

3 方法

4 实验设置

5 实验结果和分析

6 结论

在这项工作中，我们重点关注了现有LM提示方案的局限性，这些方案依赖于内化在参数中的静态知识；因此，当这些知识不完整、不准确和过时时，LLM可能会产生事实上不正确的答案。为了应对这一挑战，我们引入了一种新的知识增强语言模型PrompTING（KAPING）框架，该框架在LLM的输入提示中直接增强来自KGs的输入问题的知识，事实检索器只注入相关知识。所提出的框架完全是零样本的，并且适用于任