COT、COT-SC、TOT 大预言模型思考方式||底层逻辑：prompt设定

已于 2023-07-12 14:58:52 修改
阅读量4.1k 收藏 9
点赞数 5
分类专栏： LLM 文章标签： prompt LLM
于 2023-07-12 14:57:16 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/weixin_43332715/article/details/131681619
版权
文章介绍了TreeofThoughts方法，这是一种利用大型语言模型进行逐步推理和决策的问题解决策略。通过建立思维链并进行自我一致性检查（CoT-SC），以及思维树的构建，该方法能提升模型在复杂问题解决上的性能。官方实现和论文表明，这种方法使GPT-4等模型的能力显著增强。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

先讲一下具体缩写的意思 

COT-chain of thoughts
COT-SC (Self-consistency)
Tree of thoughts:Deliberate problem solving with LLM 

 

我理解其实不复杂
1. 最简单的是：直接大白话问一次 （IO）
2. 进阶一点是：思维链，让一步步思考（CoT）
3. 再进一步是：思维链问多次，出结果后选举——少数服从多数(CoT-SC)
4. 思维树=思维链问多次+链里每一步的逐步选举(ToT)

TOT论文中文解读：

(309条消息) Tree of Thoughts: Deliberate Problem Solving with Large Language Models翻译_nopSled的博客-优快云博客

Github链接：

princeton-nlp/tree-of-thought-llm: Official Implementation of "Tree of Thoughts: Deliberate Problem Solving with Large Language Models" (github.com)

论文原文：

[2305.10601] Tree of Thoughts: Deliberate Problem Solving with Large Language Models (arxiv.org)

REACT

Reference

GPT-4使用Tree of Thoughts框架，在解决复杂问题方面的能力提升了900%。_哔哩哔哩_bilibili

【AI大模型应用开发】从CoT到ToT，再到ReAct，提升大模型推理能力的方式探索（含代码）
同学小张的博客
05-04 6825
本文我们深入学习了改进大模型推理能力的三种方法：CoT、ToT、ReAct。并从使用和实现的角度，进行了详细讲解。
LLMs之PE：大模型核心技术—提示工程(Prompt Engineering)—拿来即用—实战应用技巧案例集合(如PC/CoT/ToT/ReACT/ScP/PCTS等思想，Broke/RTRWCO-
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
05-11 2835
引导推理方法。
思维链CoT进化成思维图GoT，比思维树更优秀的提示工程技术诞生了
Paper weekly
09-08 296
©作者 |Panda W来源|机器之心用图的推理能力来设计 prompt，思维图能助力 LLM 解决更复杂的任务。要让大型语言模型（LLM）充分发挥其能力，有效的 prompt 设计方案是必不可少的，为此甚至出现了 prompt engineering（提示工程）这一新兴领域。在各种 prompt 设计方案中，思维链（CoT）凭借其强大的推理能力吸引了许多研究者和用户的眼球，基于其改进的 C...
【有啥问啥】Chain of Thought with Self-Consistency(CoT-SC)是什么？
Chauvin的博客
08-06 1598
思维链（CoT）是一种推理框架，使语言模型在解决问题时生成中间推理步骤，而不是直接跳到最终答案。这种方法模仿了人类的认知过程，通过中间步骤帮助理解和验证解决方案。自我一致性涉及为同一个查询生成多条推理路径并选择最一致的答案。这种方法减轻了单一推理路径可能产生的变异性和潜在错误。
ReAct、CoT 和 ToT：大模型提示词推理架构的对比分析
最新发布
Johnny's Lab
04-18 929
对比维度CoTToTReAct推理结构线性链树状结构推理 + 动作交替可否探索多路径否是部分（通过动作探索）是否支持工具调用否是（可结合）是实现难度低高中典型场景数学推理、逻辑题多解问题、复杂决策任务开放领域问答、交互任务可解释性中高高模拟人类思维程度中极高高核心优势易用性高，通用性强全局优化，推理质量高灵活适应环境变化局限路径单一，灵活性不足工程成本高依赖外部工具可用性。
大模型之CoT和ToT
谁怕平生太急
05-17 1395
将 ToT 框架的主要概念概括成了一段简短的提示词，指导 LLM 在一次提示中对中间思维做出评估。我的看法：如果模型足够强大，CoT和ToT的作用将大大减少。一句话总结：CoT和ToT都是Prompt技巧中的一种。，引导语言模型探索 把思维作为中间步骤 来解决通用问题。Chain-of-Thought 思维链。：Tree of Thoughts 思维树。ToT 基于思维链提示进行了。
总结：大模型之CoT
w2009211777的专栏
06-06 8935
Chain-of-Thought（CoT）是一种在人工智能和机器学习领域中使用的技术，特别是在自然语言处理（NLP）任务中。它旨在通过模拟人类的思维过程来提高模型的理解和推理能力。：在处理复杂问题时，CoT技术会引导模型逐步构建一个逻辑链，这个链由一系列相关的推理步骤组成，每个步骤都是基于前一步的结果。：模型不是直接给出答案，而是通过一系列的推理步骤来逐步接近答案。这种方法有助于模型更好地理解问题的上下文和复杂性。：CoT技术增强了模型的解释性，因为它展示了模型是如何得出特定结论的。
大模型Chain-of-Thought（CoT）与Agent基础知识与介绍
夏栀的博客
06-04 4732
大语言模型Chain-of-Thought与Agent
人工智能|预训练大模型——思维链详解[Chain of Thought, CoT]
也许有一天我们再相逢 睁开眼睛看清楚 我才是英雄！
12-17 4343
Chain-of-Thought(CoT)是一种改进的Prompt技术，目的在于提升大模型LLMs在复杂推理任务上的表现，对于复杂问题尤其是复杂的数学题大模型很难直接给出正确答案。如算术推理（arithmetic reasoning）、常识推理（commonsense reasoning）、符号推理（symbolic reasoning）。COT通过要求模型在输出最终答案之前，显式输出中间逐步的推理步骤这一方法来增强大模型的算数、常识和推理能力。简单，但有效。2022 年，在 Google 发布的论文。
AI大模型 | Prompt提示工程-思维树 (ToT)策略下的Prompt
2401_86137667的博客
07-23 1314
免费分享：全套的AI大模型学习资源，包括 2024最新版全套大模型学习路线图，学习文档、书籍、学习视频教程、面试题等！带大家快速高效的从基础到高级！有需要的小伙伴可以点击下方链接哦~AI大模型入门基础教程学习指南，带你从入门到进阶2024最新版全套大模型学习路线图（完整版）AI大模型时代下，初学者该怎么才能快速入门？如有侵权，请联系删除。
大语言模型的预训练[6]：思维链(Chain-of-thought，CoT)定义原理详解、Zero-shot CoT、Few-shot CoT 以及在LLM上应用
丨汀、的博客
07-20 2619
大语言模型的预训练[6]：思维链(Chain-of-thought，CoT)定义原理详解、Zero-shot CoT、Few-shot CoT 以及在LLM上应用
论文笔记 CoT：提示+推理+大模型=思维链提示
be_humble的博客
04-10 3000
Google Brain CoT 思维链提示，为后面Instruction Finetune 打下基础的论文
思维链(CoT)&思维树(ToT)
weixin_53697800的博客
03-28 1840
一.思维链示例来自于线上课程所学添加“请一步一步分析”：不添加“请一步一步分析”：（1）exp1（2）exp2实践体会：（1）个人觉得思维链这种技巧，在高级的模型上体现不明显，不使用"请一步一步分析"，使用gpt-4模型在情况下一样会返回true，使用gpt3.5少数情况下不使用思维链也会返回true（在较初级的模型上可能结合思维链效果体现的明显（2）实践结果确实体现出思维链的作用，即可以使AI把问题分解成多个步骤，然后逐步解决，输出的结果更加准确。
大模型 | CoT 综述（一）CoT 的定义和流程
老皮的博客
08-21 3320
原文对 CoT 的定义描述如下：即：CoT Prompts 是专门设计的输入序列，用于指导模型生成连贯的一系列中间推理步骤。进一步拆开解释：专门设计的输入序列”：这里的“输入序列”指的就是提示词，通过专门的精心设计，以确保它们能够有效地引导模型在回答复杂问题时，按照预定的逻辑进行思考。例如，在解决一个数学问题时，输入序列可能会包含详细的步骤提示，从问题理解到每个计算步骤，最终得出答案。
人人都能懂的 Prompt 技巧： Few-Shots 、 COT 、 SC、 TOT 、 Step-Back
热门推荐
oWuChenHua的博客
12-21 1万+
CRISPE框架Zero-ShotFew-ShotsCOTSCTOTStep-BackPrompt 模式结果主观评分Zero-Shot花费大量时间思考不同可能的未来情景及其概率可能会令人着迷，但我建议尝试完全不同的方法——自己构建原型。首先，这非常具有挑战性和有趣。其次，它将帮助我们以更有结构的方式审视我们的工作。第三，它将为我们提供实践最先进方法之一——LLM代理的机会。
【有啥问啥】大模型应用中CoT（思维链）技术详细介绍
Chauvin的博客
07-13 2083
在自然语言处理（NLP）领域中，尤其是语言模型（如GPT-3, BERT等）的应用中，理解和推理复杂的文本信息变得越来越重要。Chain-of-Thought（CoT）作为一种新的推理方法，通过引导模型逐步思考和推理，从而提高复杂问题的解答能力。传统的语言模型在处理复杂推理任务时往往难以提供令人满意的结果。CoT技术通过模拟人类思维的逐步推理过程，将复杂问题分解为一系列简单的步骤，从而提高模型的推理性能和解释能力。
谈谈NLP中 大语言模型LLM的 思维链 Chain-of-Thought(CoT)
Neleuska的博客
07-03 7431
NLP、大语言模型LLM、思维链、CoT
推理框架对比：ReAct、思维链(COT)和思维树(TOT)谁更胜一筹
llm_way的博客
02-11 2517
推理框架作为 AI 解决复杂问题的核心机制，正逐渐成为研究和应用的焦点。ReAct、思维链（Chain-of-Thought，CoT）（）和思维树（Tree-of-Thoughts，ToT）这三种推理框架各具特色，它们从不同角度模拟人类思维方式，为 AI 提供了多样化的问题解决策略。深入研究和比较这些框架，对于推动人工智能的发展、拓展其应用场景具有重要意义。
Prompt提示工程上手指南:基础原理及实践-思维树 (ToT)策略下的Prompt
master_hunter的博客
04-16 3842
此篇文章已经是本系列的第五篇文章，之前我们已经将检索增强生成(RAG)策略，逐渐我们掌握的知识和技术都在不断提高，对于Prompt的技巧策略也不能只局限于局部运用而要适应LLM大模型的整体框架去进行改进休整。较为主流的LLM模型框架设计基于链式思考（CoT）、思维树 (ToT)和检索增强生成 (RAG)这三大框架我们现在要开始了解学习思维树 (ToT)。如何建立一个[解决通用问题的语言模型]？如何能够让LLM能够深思熟虑的解决问题？我们人类通过搜索一个组合式问题空间来解决问题。
langchain cot
03-19
在 LangChain 的框架下，链式推理（Chain-of-Thought, CoT）可以通过组合多个链接（links），这些链接可以是基础组件如大语言模型（LLMs）或其他链条结构[^1]。具体来说，LangChain 提供了一个灵活的方式来构建和...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值