大模型缺的脑子，终于在智能体上长好了

智能体是一种通用问题解决器，从软件工程的角度看来，智能体是一种基于大语言模型的，具备规划思考能力、记忆能力、使用工具函数的能力，能自主完成给定任务的计算机程序。

大模型拥有接受输入，分析推理，继而输出的能力。但其无法像人脑一样，具备规划思考能力、记忆能力、工具使用能力。这极大地限制了大模型的应用落地——有脑子，但不多。

随着 AI 技术的迅猛迭代，智能体技术也迎来了突破的契机，成为了补上大模型最后一块短板的关键技术。AI 从概念走向规模化落地，会不会就出现在智能体方向上？

01、大语言模型 vs 人类

大语言模型很强大，就像人类的大脑一样拥有思考的能力。如果人类只有大脑，没有四肢，没有工具，是没办法与世界互动的。如果我们能给大模型配备上四肢和工具呢？大模型是不是就会打破次元壁，从数字世界走向现实世界，与现实世界实现梦幻联动呢？

大语言模型（后文将用 LLM 指代）可以接受输入，可以分析&推理、可以输出文字\代码\媒体。然而，其无法像人类一样，拥有规划思考能力、运用各种工具与物理世界互动，以及拥有人类的记忆能力。

• LLM：接受输入、思考、输出。
• 人类：LLM（接受输入、思考、输出）+ 记忆 + 工具 + 规划。

如果我们给 LLM 配备上：与物理世界互动的工具、记忆能力、规划思考能力。LLM 是否就可以像人类一样，能够自主思考并规划完成任务的过程，能检索记忆，能使用各种工具提高效率，最终完成某个任务。

02、智能体是什么

智能体的英文是 Agent，AI 业界对智能体提出了各种定义。个人理解，智能体是一种通用问题解决器。从软件工程的角度看来，智能体是一种基于大语言模型的，具备规划思考能力、记忆能力、使用工具函数的能力，能自主完成给定任务的计算机程序。

图1. 由 LLM 驱动的智能体系统

如图1所示，在基于 LLM 的智能体中，LLM 充当着智能体“大脑”的角色，同时还有3个关键部分：

• **规划（Planning）：**智能体会把大型任务分解为子任务，并规划执行任务的流程；智能体会对任务执行的过程进行思考和反思，从而决定是继续执行任务，或判断任务完结并终止运行。
• 记忆（Memory）：短期记忆，是指在执行任务的过程中的上下文，会在子任务的执行过程产生和暂存，在任务完结后被清空。长期记忆是长时间保留的信息，一般是指外部知识库，通常用向量数据库来存储和检索。
• 工具使用（Tool use） ：为智能体配备工具 API，比如：计算器、搜索工具、代码执行器、数据库查询工具等。有了这些工具 API，智能体就可以是物理世界交互，解决实际的问题。

03、智能体能做什么

3.1 智能体之调研员

调研员智能体，可以根据用户的调研问题，从搜索引擎上搜索资料并总结，然后生成调研报告。这里使用 MetaGPT 框架中的调研员 示例来展示一个智能体的实际作用及其构成。

3.1.1 运行一下试试

• **输入调研课题：**调研特斯拉 FSD 和华为 ADS 这两个自动驾驶系统。

代码语言：javascript

复制

~ python3 -m metagpt.roles.researcher "特斯拉FSD vs 华为ADS"

• 智能体执行调研

图2. 从搜索引擎进行搜索并获取 Url 地址列表

图3. 浏览网页并总结网页内容

图4. 生成调研报告

• 输出调研报告

metaGPT 生成并保存了调研报告

文件：特斯拉FSD vs 华为ADS.md

图5

3.1.2 拆解调研员

调研员智能体构成

回到前文所说的，如果仅有 LLM 这个大脑，是无法完成整个调研流程的。在调研员智能体中，为 LLM 大脑配备了规划、工具、记忆的能力，使得他能独立完成调研任务，下面列出其基本构成，构成分三部分：角色、工具、记忆。在角色中，会注册各种工具，定义思考规划的方式，以及本身具备的短期记忆能力。

类型	名称	说明
角色	Researcher	调研员智能体，从网络进行搜索并总结报告。通过LLM提示工程（Prompt Engineering），让LLM以调研员的角色去规划和拆分任务，使用提供的工具，完成调研过程，生成调研报告。在定义角色时，会为其注册下面列出的各项工具
工具	CollectLinks	问题拆解，从搜索引擎进行搜索，并获取Url地址列表。该工具基于LLM提示工程和搜索引擎实现，其功能如下：（1）将问题拆分成多个适合搜索的子问题（基于LLM提示工程）。（2）通过搜索引擎搜索子问题。（3）筛选出与调研问题有关的Url，并根据网站可靠性对url列表进行排序(基于LLM提示工程)
工具	WebBrowseAndSummarize	浏览网页并总结网页内容。由两个工具组成：浏览网页和总结网络内容。（1）浏览网页是通过封装的 WebBrowserEngine 工具访问搜索引擎实现的。（2）总结搜索结果是通过LLM提示工程实现。
工具	ConductResearch	生成调研报告。基于LLM提示工程的工具，该工具会整合 WebBrowseAndSummarize 的输出给到LLM，让LLM生成调研报告
记忆	short-term memory	短期记忆能力，metaGPT框架封装了短期记忆的能力，用于在任务执行周期内保存和检索上下文记忆，如CollectLinks 和 WebBrowseAndSummarize 等工具的执行结果

图解调研员智能体

图6

04、智能体的关键构成

智能体如上图所示，在基于 LLM 的智能体中，LLM 的充当着智能体的“大脑”的角色，同时还有3个关键部分：规划（Planning）、记忆（Memory）、工具使用（Tool use）。

4.1 规划（Planing）

规划，可以为理解观察和思考。如果用人类来类比，当我们接到一个任务，我们的思维模式可能会像下面这样：

• 我们首先会思考怎么完成这个任务。
• 然后我们会审视手头上所拥有的工具，以及如何使用这些工具高效地达成目的。
• 我们会把任务拆分成子任务（就像我们会使用 TAPD 做任务拆分）。
• 在执行任务的时候，我们会对执行过程进行反思和完善，吸取教训以完善未来的步骤。
• 执行过程中思考任务何时可以终止。

这是人类的规划能力，我们希望智能体也拥有这样的思维模式，因此可以通过 LLM 提示工程，为智能体赋予这样的思维模式。在智能体中，最重要的是让 LLM 具备这以下两个能力：

4.1.1 子任务分解

通过 LLM 使得智能体可以把大型任务分解为更小的、更可控的子任务，从而能够有效完成复杂的任务。

思维链（Chain of Thoughts, CoT）

思维链已经是一种比较标准的提示技术，能显著提升 LLM 完成复杂任务的效果。当我们对 LLM 这样要求「think step by step」，会发现 LLM 会把问题分解成多个步骤，一步一步思考和解决，能使得输出的结果更加准确。这是一种线性的思维方式。

思维链的 prompt 可以像是如下这样（这里只是一个极简的 prompt，实际会按需进行 prompt 调优）：

代码语言：javascript

复制

        template="Answer the question: Q: {question}? Let's think step by step:"

思维树（Tree-of-thought, ToT）

对 CoT 的进一步扩展，在思维链的每一步，推理出多个分支，拓扑展开成一棵思维树。使用启发式方法评估每个推理分支对问题解决的贡献。选择搜索算法，使用广度优先搜索（BFS）或深度优先搜索（DFS）等算法来探索思维树，并进行前瞻和回溯。

图7

4.1.2 反思和完善

智能体在执行任务过程中，通过 LLM 对完成的子任务进行反思，从错误中吸取教训，并完善未来的步骤，提高任务完成的质量。同时反思任务是否已经完成，并终止任务。

ReAct

（刚接触到这个单词时，脑子里冒出来的是 「React 是由 Facebook 开源的一个进行创建用户界面的一款 JavaScript 库…」，打住，我们好像走错片场了，此 React 非彼 ReAct •﹏• ）

ReAct（Yao et al. 2023） ，《ReAct: Synergizing Reasoning and Acting in Language Models》 这篇论文提出一种用于增强大型语言模型的方法，它通过结合推理（Reasoning）和行动（Acting）来增强推理和决策的效果。

• 推理（Reasoning）：LLM 基于「已有的知识」或「行动（Acting）后获取的知识」