Enhancing Temporal Knowledge Graph Forecasting with Large Language Models

本文是LLM系列文章，针对《Enhancing Temporal Knowledge Graph Forecasting with Large Language Models via Chain-of-History Reasoning》的翻译。

摘要

时间知识图谱（TKG）预测旨在基于给定的历史来预测未来的事实。最新的基于图的模型擅长捕捉TKG中的结构信息，但缺乏语义理解能力。如今，随着LLM的激增，基于LLM的TKG预测模型已经出现。然而，现有的基于LLM的模型存在三个缺点：（1）它只关注一阶历史进行预测，而忽略了高阶历史信息，导致为LLM提供的信息极其有限。（2） LLM在繁重的历史信息负载下难以获得最佳推理性能。（3） 对于TKG预测，LLM单独的时间推理能力是有限的。为了解决前两个挑战，我们提出了历史链（CoH）推理，该推理逐步探索高阶历史，在TKG预测中实现LLM对高阶历史信息的有效利用。为了解决第三个问题，我们将CoH设计为一个pali和plug模块，以提高基于图形的TKG预测模型的性能。在三个数据集和主干上进行的大量实验证明了CoH的有效性。

1 引言

2 问题定义

3 时间知识图谱上的历史推理链

4 实验

5 相关工作

6 结论

在本文中，我们首先分析了现有的基于LLM的模型在如何有效地为LLM提供全面的高阶历史信