本文是LLM系列文章,针对《On Exploring the Reasoning Capability of Large Language Models with Knowledge Graphs》的翻译。
用知识图谱探究大型语言模型的推理能力
摘要
本文考察了LLM使用其内部知识图谱(即他们在预训练期间学习的知识图谱)与知识图谱进行推理的能力。提出了两个研究问题,以研究LLM从预训练知识图谱中回忆信息的准确性以及它们从上下文中推断知识图谱关系的能力。为了解决这些问题,我们使用LLM来执行四个不同的知识图谱推理任务。此外,我们确定了在LLM的知识推理过程中可能发生的两种类型的幻觉:内容幻觉和本体幻觉。我们的实验结果表明,LLM可以从自己的记忆中成功地处理简单和复杂的知识图谱推理任务,也可以从输入上下文中进行推理。
1 引言
2 LLM中知识图谱信息的调用
3 从上下文中推断知识图谱关系
4 结论
在这项工作中,我们提出了两个研究问题,探索利用大型语言模型的内部知识图谱来解决知识图谱推理任务的潜力。结果表明,作为一项初步研究,这项工作的关键发现为未来的研究提供了巨大的潜力。我们的提示设计可以进一步扩展到解决LLM在训练期间可能没有看到的专有知识图谱的推理,以及处理其他基于知识图谱