ControlLLM论文解析

ControlLLM论文解析

简介：一种通过人工图算法基于外部工具来增强LLM的工作。背景：使用外部工具解决复杂任务通常分为任务分解、工具选择、注入参数、执行工具（高效执行）。之前的工作要么是基于CoT、ToT、ICL等来进行任务分解，其核心假设都是每个任务最多只有一个前置任务，而真实场景下许多任务往往需要多个前置任务的结果。同时之前的任务之间的依赖关系是直接由LLM推理生成的。作者重新构建了一个新的范式：通过prompt让LLM只对任务进行分解成具有明确定义的输入和输出的清晰子任务、通过定义图节点和边构建任务图然后通过图算法找到合适的路径、依次进行任务执行。在方案搜索上没有采用不靠谱的通过Prompt让LLM生成的办法，而是采用人工图搜索算法。同时此工作进一步扩大了外部工具增强式LLM可执行的任务类型。

ControlLLM Pipeline：（1）任务分解，将用户输入解析成几个子任务，含任务解释、任务域、输入参数、返回结果。（2）建立任务图：首先定义了资源节点（一个元组，其中“类型”表示资源的具体类型）和工具节点（表示为一个三元组，包含工具的描述、工具需接收的输入资源类型和工具返回的资源类型）。然后定义了资源到工具节点的边（如果资源类型等于工具节点的需要的输入资源的类型则认为此资源节点有有向边指向工具节点）以及工具节点到资源节点的边（如果资源类型等于工具节点的返回类型则认为此工具节点有有向边指向资源节点）。最后通过DFS进行图搜索。为了在时间和空间复杂度之间找到一个折衷方案，作者设计了四种搜索策略（贪婪策略、束搜索策略、自适应策略、穷尽策略）（3）解决方案执行：参考HuggingGPT的设计