Gradientsys: A Multi-Agent LLM Scheduler with ReAct Orchestration

文章主要内容和创新点

主要内容

本文介绍了Gradientsys，一种下一代多智能体调度框架，旨在通过类型化的模型上下文协议（MCP）和基于ReAct的动态规划循环，协调多样化的专业AI代理（如PDF解析器、网页搜索模块、GUI控制器等）。其核心是由大型语言模型（LLM）驱动的调度器，支持“一对多”任务分配，实现异构代理的并行执行，并支持同步/异步混合执行模式。该框架还包含健壮的重试与重新规划机制以处理故障，并通过服务器发送事件（SSE）提供可观测性层，实时流式传输代理活动和中间推理过程。

在GAIA通用助手基准测试中，Gradientsys与MinionS风格的基线系统相比，实现了更高的任务成功率、更低的延迟和更低的API成本，验证了其LLM驱动的多智能体编排能力。

创新点

1. 动态LLM驱动规划：将ReAct框架整合到调度器中，使LLM能生成交错的推理轨迹和工具操作，实现自适应任务分解和实时异常处理。
2. 并行多智能体编排：支持多代理并发调用（如文档分块处理），通过MCP接口确保异构工具的无缝集成，减少定制代码需求。
3. 工具注册与可扩展性：提供工具注册表，支持工具通过URL、能力描述等信息注册，允许