Unifying Large Language Models and Knowledge Graphs: A Roadmap

UnknownBody

已于 2023-07-19 18:24:16 修改

阅读量600

点赞数

CC 4.0 BY-SA版权

分类专栏： Survey Paper Knowledge Graph 文章标签：语言模型知识图谱人工智能

于 2023-07-17 15:50:47 首次发布

本文链接：https://blog.youkuaiyun.com/c_cpp_csharp/article/details/131725899

Survey Paper 同时被 3 个专栏收录

264 篇文章 ¥99.90 ¥299.90

订阅专栏

超级会员免费看

Knowledge Graph

82 篇文章 ¥99.90 ¥299.90

订阅专栏

LLM 日更

828 篇文章

已下架不支持订阅

本文探讨了大型语言模型（LLM）如ChatGPT和GPT4与知识图谱（KGs）的结合，提出将两者统一以增强LLM的预训练和推理，以及改进KG构建和应用的路线图。通过KG增强LLM，LLM增强KG，以及协同LLM+KGs，旨在实现数据和知识驱动的双向推理。未来研究方向包括使用KG检测LLM的幻觉，编辑LLM知识，以及多模态LLM与KG的交互。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

本文依旧是LLM系列的相关文章，LLM与知识图谱结合，针对《Unifying Large Language Models and Knowledge Graphs: A Roadmap》的翻译。

摘要

大型语言模型（LLM），如ChatGPT和GPT4，由于其涌现能力和可推广性，正在自然语言处理和人工智能领域掀起新的浪潮。然而，LLM是黑匣子模型，通常无法捕捉和获取事实知识。相反，知识图谱（KGs），例如维基百科和华普，是明确存储丰富事实知识的结构化知识模型。KGs可以通过为推理和可解释性提供外部知识来增强LLM。同时，KGs很难从本质上构建和进化，这对KGs中现有的生成新事实和表示未知知识的方法提出了挑战。因此，将LLM和KGs统一在一起并同时利用它们的优势是相辅相成的。在本文中，我们提出了LLM和KGs统一的前瞻性路线图。我们的路线图由三个通用框架组成，即：1）KG增强的LLM，它在LLM的预训练和推理阶段纳入了KG，或者是为了增强对LLM所学知识的理解；2） LLM增强的KG，利用LLM执行不同的KG任务，如嵌入、补全、构建、图到文本生成和问答；以及3）协同LLM+KGs，其中LLM和KGs扮演着平等的角色，并以互利的方式工作，以增强LLM和KG，实现由数据和知识驱动的双向推理。我们在路线图中回顾和总结了这三个框架内的现有努力，并确定了它们未来的研究方向。