大家好,我是 同学小张,持续学习C++进阶知识和AI大模型应用实战案例,持续分享,欢迎大家点赞+关注,共同学习和进步。
上篇文章(【AI大模型应用开发】从CoT到ToT,再到ReAct,提升大模型推理能力的方式探索(含代码))我们学习了当下提高大模型推理能力的几个主要技术,从CoT(Chain of Thought)到TOT(Tree of Thought),再到ReAct。关于 ReAct 的实现方式,我们前面也有文章进行了非常详细的介绍(【AI Agent教程】各种Agent开发框架都是如何实现ReAct思想的?深入源码学习一下)。本文,我们重点研读一下ToT的论文,以及其实现源码中的主要流程。
与论文配套的ToT代码:https://github.com/princeton-nlp/tree-of-thought-llm
1. 源码中的ToT框架
ToT的主要实现框架都在这个函数中: