Graph of Thoughts: Solving Elaborate Problems with Large Language Models论文精读

没有检索到标题
最新推荐文章于 2025-09-01 19:57:54 发布
原创 最新推荐文章于 2025-09-01 19:57:54 发布 · 785 阅读 · 3 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#语言模型 #人工智能 #深度学习 #自然语言处理

文章介绍了一种新的框架GoT，它利用图论构建LLM的信息组合，提高模型的灵活性和效率。GoT通过非树形结构模拟人类思维过程，挑战了传统的CoT和ToT。文中探讨了如何应用GoT解决排序、集合操作、关键词计数和文档合并等问题，展示了其在性能和速度上的优势。

paper：https://arxiv.org/pdf/2308.09687.pdf
code：https://github.com/spcl/graph-of-thoughts

0 Abstract

  • 不同于以往的CoT和ToT，文章提出了GoT，将LLM生成的信息构建为任意图：
    • 顶点：LLM thoughts（信息单元）
    • 边：顶点之间的依赖
  • GoT的优势：
    • 将任意LLM thoughts【LLM对于给定prompt的回答】组合成协同结果，提炼模型本质，即让LLM更自由的去组合思想，获得答案；
    • 相比sota实现了点和效率的双重提升；
    • 作者认为思维图推导的方式更接近人类思维，可以辅助LLM解决更为复杂的问题。

1 Introduction

  • 提示工程（prompt engineering）对LLM非常重要：in-context learning，zero-shot prompt…

    • CoT/CoT-SC：提示解决问题的中间步骤；
    • ToT：生成多路解决方案，具有从次优解决方案回溯的功能（DFS，BFS搜索）【作者提出，这种方案在LLM的思维过程中强加了树的结构，会限制模型的推理能力】；
    • GoT：更接近人类思维过程：每个推理步骤有多于1条入边，支持链路合并，这些是CoT和ToT做不到的。
      [图片]

  • 应用GoT到LLM的挑战与解决方案：

    • 挑战：每个任务最优的图结构
最低0.47元/天 解锁文章
别码了W哥
关注
Graph of Thoughts: Solving Elaborate Problems with Large Language Models
c_cpp_csharp的专栏
08-22 1620
我们介绍了思维图（GoT）：这是一个框架，它将大型语言模型（LLM）中的提示能力提升到思维链或思维树（ToT）等范式之外。GoT的关键思想和主要优势是能够将LLM生成的信息建模为任意图，其中信息单元（“LLM思想”）是顶点，边对应于这些顶点之间的依赖关系。这种方法能够将任意LLM思想组合成协同结果，提取整个思想网络的本质，或使用反馈循环增强思想。我们说明了GoT在不同任务上比现有技术具有优势，例如，与ToT相比，排序质量提高了62%，同时成本降低了31%以上。
Graph of Thoughts——用大模型解决复杂问题
qq_52053775的博客
06-21 316
大型语言模型（LLMs）已成为人工智能领域的主导力量。然而，现有的提示方法（如链式思维（CoT）和思维树（ToT））仍存在限制，因为它们通常只能在固定的思维结构（如线性链或树形结构）内推理，这限制了模型处理更复杂推理任务的能力。为了克服现有方法的局限性并模拟人类的非线性和复杂的思维过程，文章提出了一个新的框架——“思维图”（GoT）。GoT的核心优势在于将LLM生成的信息（“LLM思维”）建模为图的顶点，而这些顶点之间的依赖关系则通过边来表示。
【阅读笔记】Graph of Thoughts: Solving Elaborate Problems with Large Language Models
Vincy_King
09-03 5070
作者介绍了Graph of Thought (GoT)：一个具备提高LLM提示能力，超越了思维链或思维树 (ToT) 等范式提供的能力的框架。GoT的关键思想和主要优势是能够将LLM生成的信息建模为任意图，其中信息单位（“LLM思想”）是顶点，而边对应于这些顶点之间的依赖关系。这种方法能够将任意的LLM思想组合成协同结果，提炼出整个思想网络的本质，或者使用反馈循环来增强思想。作者说明了GoT在不同的任务上提供了比现有技术更好的优势，例如比ToT提高了62%的排序质量，同时降低了大于31%成本。
AI推理方法演进：Chain-of-Thought、Tree-of-Thought与Graph-of-Thought技术对比分析
deephub
09-01 1028
从CoT到GoT的演进轨迹展现了AI推理范式的根本性变革：从单一路径的顺序推理转向多维度的并行思维模拟。这一进程标志着大语言模型研究重心从参数规模竞争转向认知机制建模。
《Graph of Thoughts: Solving Elaborate Problems with Large Language Models》中文翻译
晓野豬
09-09 2219
我们引入了思想图（GoT）：一个框架，它可以提高大型语言模型（LLM）中的提示能力，使其超越思想链或思想树（ToT）等范式所提供的能力。GoT 的关键思想和主要优点是能够将 LLM 生成的信息建模为任意图，其中信息单位（“LLM 思想”）是顶点，边对应于这些顶点之间的依赖关系。这种方法可以将任意的LLM思想组合成协同结果，提炼整个思想网络的本质，或使用反馈循环增强思想。我们证明，GoT 在不同任务上比现有技术具有优势，例如，与 ToT 相比，排序质量提高了 62%，同时成本降低了 31% 以上。
【亲测免费】 Graph of Thoughts：利用大型语言模型解决复杂问题的官方实践指南
gitblog_00550的博客
10-10 1095
--- ## 项目介绍 **Graph of Thoughts（GoT）** 是一个强大的框架，它源自论文 ["Graph of Thoughts: Solving Elaborate Problems with Large Language Models"](https://arxiv.org/pdf/2308.09687.pdf)，旨在通过将问题建模为“操作图”（Graph of Oper...
Graph of Thoughts (GoT)：用大语言模型解决复杂问题的利器
gitblog_00975的博客
10-10 1426
**参考文献**： ```bibtex @article{besta2024got, title = {{Graph of Thoughts: Solving Elaborate Problems with Large Language Models}}, author = {Besta, Maciej and Blach, Nils and Kubicek, Ales and Gerst...
论文阅读笔记 --- 图模互补：知识图谱与大模型融合综述 --- 按参考文献整理
shizidushu的博客
09-13 1880
# 论文阅读笔记 --- 图模互补：知识图谱与大模型融合综述 --- 按参考文献整理 # 关于 - 首次发表日期：2024-09-13 - 论文原文链接：http://xblx.whu.edu.cn/zh/article/doi/10.14188/j.1671-8836.2024.0040/ - 将文章中的参考文献整理一下，基本保持原文的目录结构
Chain-of-Draft (CoD) 是提示工程的新王者
JellyAI的博客
05-07 861
令人兴奋的是，现在又有了一个更强的新技术，由 Zoom Communications 的研究人员提出。 这个方法叫做 Chain-of-Draft（CoD）提示法，在回答问题时，仅用到 7.6% 的推理 token 就能在准确率上超过 CoT。
Tree of Thoughts: Deliberate Problem Solving with Large Language Models
qq128252的博客
06-12 2310
通过思维链（ToT） 允许 LM 通过考虑多个不同的推理路径和自我评估选择来决定下一个动作过程来执行深思熟虑的决策，以及在做出全局选择时展望未来或回溯在24点游戏中，而具有思维链提示的 GPT-4 仅解决了4% 的任务，我们的方法的成功率为 74%。此外，ToT 等搜索方法比采样方法需要更多的资源（例如 GPT-4 API 成本），以提高任务性能，但 ToT 的模块化灵活性允许用户自定义此类性能成本权衡，并且正在进行的开源努力 在不久的将来应该很容易降低此类成本。
Graph of Thoughts: 解决复杂问题的创新框架
m0_56734068的博客
10-16 941
问题分解:将复杂问题分解为多个子任务或操作步骤。操作图:使用图结构来表示这些子任务之间的关系和依赖。LLM驱动:利用大型语言模型作为执行引擎,完成各个操作节点的任务。迭代优化:通过多次迭代和反馈,不断改进解决方案的质量。这种方法允许LLM以一种更加结构化和可控的方式来处理复杂问题,克服了传统提示方法的局限性。
Tree of Thoughts: Deliberate Problem Solving with Large Language Models翻译
nopSled
05-25 1728
最初设计用于生成文本的语言模型（LMS）（例如GPT和PaLM）的扩展版本已被越来越多地证明能够执行需要数学，符号，常识性和知识推理各种广泛任务。令人惊讶的是，所有这些进步仍然是以原始自回归机制来生成文本，这是以token级的决策以从左到右的方式进行。如此简单的机制就足以使LM构建一个通用问题求解器吗？如果不是，哪些问题会对当前的范式产生挑战，并且应该有哪些替代机制？与人类认知相关的文献为回答这些问题提供了一些线索。
探索创新思维：Graph of Thoughts 项目解析与应用
gitblog_00052的博客
04-25 615
探索创新思维：Graph of Thoughts 项目解析与应用 graph-of-thoughts Official Implementation of "Graph of Thoughts: Solving Elaborate Problems with Large Language Models" ...
大模型提示工程技术 | 六十四、思维图谱提示 Graph of thought promting
Androiddddd的博客
08-26 949
AI大模型作为人工智能领域的重要技术突破，正成为推动各行各业创新和转型的关键力量。抓住AI大模型的风口，掌握AI大模型的知识和技能将变得越来越重要。学习AI大模型是一个系统的过程，需要从基础开始，逐步深入到更高级的技术。这里给大家精心整理了一份全面的AI大模型学习资源，包括：AI大模型全套学习路线图（从入门到实战）、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频，免费分享！
提示词工程（GOT）把思维链推理过程图结构化
陈锐的技术笔记
04-30 1140
相比于COT, TOT 思维图 Graph of Thoughts（GOT）是一种有助于增强模型推理能力和可解释性的方法，通过结构化的信息表示，促进多层次和动态的思考，能够有效应对复杂的自然语言处理任务。基于问题特点，我设计了一个多层次的 GoT，目标是全面解决这个问题，同时展示 GoT 的复杂性和灵活性。问题：“一个商店的商品原价是100元，打八折后卖出，再加上10元的运费，问最终价格是多少？：通过跟踪不同的思维路径，GOT 可以帮助模型探索多种可能的解决方案，而不仅仅是单一路径。：验证结果后改进答案。
A Survey on Large Language Model based Autonomous Agents
cdxxsq的博客
04-05 3487
自主代理一直是学术界和工业界的研究重点。以前的研究通常集中在训练在孤立环境中具有有限知识的代理，这与人类学习过程相差甚远，使得代理难以实现类似人类的决策。最近，通过获取大量的网络知识，大型语言模型（LLMs）已经显示出人类水平智能的潜力，导致了对基于LLM的自主代理的研究激增。在本文中，我们提供了这些研究的全面调查，从整体的角度系统回顾了基于LLM的自主代理。我们首先讨论了基于LLM的自主代理的构建，提出了一个统一的框架，涵盖了大部分以前的工作。
高质量论文推荐第三期（20230827）
m0_47867638的博客
08-27 393
我们对LoRa的错误率进行了实验评估，包括未编码和已编码的情况，以说明我们的公开可用的开源实现是进一步研究的坚实基础。在近期的研究中，我们取得了突破性的进展，开发出了一种名为SeamlessM4T的单一模型，它能够支持语音到语音翻译、语音到文本翻译、文本到语音翻译、文本到文本翻译以及自动语音识别等多重任务。然后，我们将编辑对象的外观信息提取出来，并将其传播到下一个帧。总之，本文提出了一种新的视频编辑框架StableVideo，该框架基于文本驱动的扩散模型，通过引入时间依赖性来实现一致性感知的视频编辑。
KnowledgeNavigator: Leveraging Large Language Models for Enhanced Reasoning over Knowledge Graph
最新发布
09-22
《KnowledgeNavigator: Leveraging Large Language Models for Enhanced Reasoning over Knowledge Graph》聚焦于利用大型语言模型增强知识图谱推理。大型语言模型（LLM）在复杂推理和问答（QA）任务中的知识限制方面存在局限性，而KnowledgeNavigator框架利用知识图谱中的外部知识来增强LLM推理[^4]。 该框架主要包括三个阶段：问题分析、知识检索和推理。在问题分析阶段，预测推理跳数，生成相似的问题，以增强推理逻辑挖掘；知识检索阶段，根据给定的问题和大语言模型指导，从知识图谱中迭代检索和过滤相关知识；推理阶段，将检索到的知识转化为对LLM有效的提示，以此增强其推理能力。并且该框架在KGQA基准测试中优于以前的知识图谱增强LLM方法[^4]。 ```python # 以下为简单示意框架各阶段伪代码 # 问题分析 def question_analysis(question): # 预测推理跳数 hop_count = predict_hop_count(question) # 生成相似问题 similar_questions = generate_similar_questions(question) return hop_count, similar_questions # 知识检索 def knowledge_retrieval(question, llm_guide, knowledge_graph): relevant_knowledge = [] # 迭代检索和过滤相关知识 for step in range(max_steps): new_knowledge = retrieve_and_filter(question, llm_guide, knowledge_graph) relevant_knowledge.extend(new_knowledge) return relevant_knowledge # 推理 def reasoning(relevant_knowledge, llm): prompt = convert_to_prompt(relevant_knowledge) result = llm.generate(prompt) return result ```
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值