Think-on-Graph: Deep and Responsible Reasoning of Large Language Model with Knowledge Graph

本文是LLM系列文章,针对《Think-on-Graph: Deep and Responsible Reasoning of Large Language Model with Knowledge Graph》的翻译。

对图的思考:基于知识图谱的大型语言模型的深度负责任推理

摘要

大型语言模型(LLM)在各种任务中取得了重大进展,但它们往往难以进行复杂的推理,并且在知识可追溯性、及时性和准确性至关重要的场景中表现出较差的性能。为了解决这些局限性,我们提出了Think on Graph(ToG),这是一个新颖的框架,利用知识图谱来增强LLM的深度和负责任推理能力。通过使用ToG,我们可以识别与给定问题相关的实体,并进行探索和推理,从外部知识数据库中检索相关的三元组。这个迭代过程生成由顺序连接的三元组组成的多个推理路径,直到收集到足够的信息来回答问题或达到最大深度。通过对复杂多跳推理问答任务的实验,我们证明了ToG优于现有方法,有效地解决了LLM的上述局限性,而不会产生额外的训练成本。

1 引言

【学习笔记】Think-on-Graph: Deep and Responsible Reasoning of Large Language Model on Knowledge Graph 最多调用2ND+D+1次LLM,其中“2ND”表示D次探索(beam search为N,探索包括关系探索和实体探索两部分),“D”表示D次评价,“1”表示1次生成。本文提出了一种新的紧耦合的LLM⊗KG范式,其中KG和LLM是串联工作的,在图推理的每一步中相互补充彼此的能力。ToG 从知识图谱中提取多样化和多跳推理路径,作为语言模型推理的基础,从而增强了语言模型在知识密集型任务中的深度推理能力。使用显式的推理路径,提高了推理过程的可解释性和可校正性,能对知识进行回溯,发现错误并进行纠正。 阅读详情

相关推荐

【AI视野·今日NLP 自然语言处理论文速览 第五十一期】Tue, 10 Oct 2023

AI视野·今日CS.NLP 自然语言处理论文速览 Tue, 10 Oct 2023 (showing first 100 of 172 entries) Totally 100 papers 👉上期速览✈更多精彩请移步主页 Daily Computation and Language Papers Few-Shot Spoken Language Understanding via Joint Speech-Text Models Authors Chung Ming Chien, Ming

TomRen 1540

登上NeurIPS!LLM+知识图谱,再出神作!

在6个数据集中,ToG在不依赖额外训练的情况下实现了总体上的最新状态(SOTA),性能提升具体数据为:在WebQSP数据集上,ToG与GPT-4的结合比先前的最佳方法提高了69.5%的准确率;模型的泛化能力:即使在训练数据中未见过的关类型,RelBERT也能够建模,例如在仅在概念间的关系上训练的模型上,也能在命名实体间的关系上获得强结果。LLM-KG集成范式:“LLM+KG”:将大型语言模型(LLM)视为代理,交互式地探索知识图谱(KG)上的实体和关系,并基于检索到的知识进行推理。

Aimoxin111的博客 1318

知识图谱与大模型之间的协同——THINK-ON-GRAPH

1.概述THINKON-GRAPH: DEEP ANDRESPONSIBLEREASONING OF LARGELANGUAGEMODEL ONK论文地址:1.概述大型语言模型(LLMs)在各种自然语言处理任务中表现出色,但在面对复杂知识推理任务时存在显著限制,如无法提供超出预训练阶段的专业知识或需要长逻辑链和多跳知识推理的问题。此外,LLMs缺乏责任心、可解释性和透明度,并且训练过程通常昂贵且耗时。

qq_52053775的博客 283

SPL06气压温度传感器SPI驱动与补偿算法详解

气压传感器与温度传感器是嵌入式环境感知系统的核心组件,其测量精度高度依赖于MEMS芯片的校准参数与非线性补偿机制。SPL06作为集成式高精度数字传感器,采用24位Σ-Δ ADC与片内补偿引擎,需结合唯一出厂校准系数(即‘芯片指纹’)进行多阶数学修正,才能将原始ADC值转化为符合计量要求的帕斯卡(Pa)与摄氏度(℃)物理量。该过程涵盖SPI通信协议解析、寄存器时序控制、大端数据拼接、二进制补码处理及浮点/定点混合运算等典型嵌入式工程实践。广泛应用于无人机高度计、智能穿戴海拔监测与IoT气象终端中。

weixin_34640289的博客 143

Ubuntu配置Qt Creator树莓派交叉编译环境一步到位

本文详细指导在Ubuntu系统上配置Qt Creator树莓派交叉编译环境。从工具链安装、sysroot创建到Qt库编译,逐步讲解如何搭建完整的ARMv7交叉编译工具链,实现高效开发树莓派应用。

1279

AHB总线协议

1. 简介         AHB总线规范是AMBA总线规范的一部分,AMBA总线规范是ARM公司提出的总线规范,被大多数SoC设计采用,它规定了AHB (Advanced High-performance Bus)、ASB (Advanced System Bus)、APB (Advanced Peripheral Bus)。AHB用于高性能、高时钟频率的系统结构,典型的应用如ARM核与系统内

ivy_reny的专栏 8万+

NVIDIA DGX Spark (Ubuntu 24.04) 部署Isaac Sim与Isaac Lab:二进制安装与ROS2集成实战

本文详细介绍了在NVIDIA DGX Spark工作站(Ubuntu 24.04系统)上,通过预编译二进制包稳定部署Isaac Sim与Isaac Lab的完整实战流程。文章重点剖析了二进制安装相较于源码编译和pip安装的优势,有效规避了CUDA、PyTorch等关键组件的版本冲突陷阱,并逐步指导完成环境配置、Isaac Lab集成、Conda环境管理以及ROS2 Jazzy的集成,最终构建出完整的机器人仿真与强化学习开发平台。

kite3的博客 396

【制作100个unity游戏之28】花半天时间用unity复刻童年4399经典小游戏《黄金矿工》(附带项目源码)

在游戏发展史上,有些游戏以其简单而耐玩的特性,深深地烙印在了玩家的记忆中。《黄金矿工》就是其中之一,它曾经在4399等游戏平台上掀起了一股游戏热潮。这款游戏不仅给无数玩家带来了欢乐,还让他们体验到了挖掘金矿的刺激与乐趣。在这个项目中,我们将花费半天的时间,利用Unity引擎,重新打造这款经典小游戏。通过复刻《黄金矿工》,我们不仅是在向童年的回忆致敬,更是在挖掘游戏设计的精髓。在这个过程中,我们将学习如何实现游戏的核心玩法,设计简洁而有效的游戏机制。

向宇的博客,专注php/web全栈 unity游戏开发,欢迎大家评论纠错 2902

腾讯滑块验证码防水墙 tdc.js 补环境实录

腾讯滑块验证码破解研究摘要 本文记录了破解腾讯防水墙滑块验证码(tdc.js)的全过程。研究重点包括: 流程分析:通过抓包分析验证码完整链路,识别出关键参数collect和eks需从tdc.js虚拟机获取 环境模拟:采用渐进式补环境方法,针对字节码虚拟机特性构建完整的window对象,包括navigator、screen、canvas等API的精确模拟 核心破解:成功调用TDC.getData()和TDC.getInfo()获取关键参数,解决POW计算和滑块缺口识别问题 优化调整:针对errorCode 5

码王吴彦祖的博客 235

【2026年华为秋招(AI)-2月4日-第一题(100分)- 选择题】(题目+思路+Java&C++&Python解析+在线测试)

本文摘要:本文包含20道选择题,涵盖机器学习、线性代数、Transformer架构、概率统计等多个领域。题目涉及正交矩阵性质、Transformer注意力机制、聚类距离度量、ReAct框架、Softmax函数、混淆矩阵计算、Flash-Attention优化、位置编码、期望计算、归一化方法、矩阵迭代法、矩阵秩、大模型架构、神经网络推理、泊松流性质、SVM核函数以及聚类算法等知识点。每道题均提供解析,帮助理解核心概念和解题思路。

m0_73659489的博客 126

Python爬虫博客:爬取碳排放交易数据——使用最新技术的完整实现

通过上述方法,我们可以构建一个高效的爬虫,爬取碳排放交易市场的数据并进行分析。这个项目不仅展示了如何处理静态和动态网页,还提供了如何存储数据、分析数据和可视化结果的技巧。随着爬虫技术的不断进步,我们可以进一步提升爬取效率和数据分析能力。如果你希望更深入了解如何进行数据挖掘和机器学习分析,可以尝试将碳排放数据与其他经济数据结合,利用机器学习模型进行趋势预测或决策支持。

2201_76125261的博客 352

迈瑞BS系列全自动生化分析仪LIS协议接口手册(内含HL7和ASTM)

迈瑞BS系列全自动生化分析仪LIS协议接口手册,内含HL7和ASTM)

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

华为的C语言编程规范.pdf

华为技术有限公司内部技术规范。本规范制定了编写C语言程序的基本原则、规则和建议。从代码的清晰、简洁、可测试、安全、程序效率、可移植各个方面对C语言编程作出了具体指导。

IEM模型,地表粗糙度模拟

利用微波反演土壤水分时候,利用IEM模型可以实现对随机地表的模拟

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值