Large Language Model-based Data Science Agent: A Survey

文章主要内容和创新点

主要内容

本文是一篇关于基于大型语言模型（LLM）的数据科学代理（DS Agents） 的综述，从两个互补视角系统分析了该领域的研究进展：

1. 代理设计视角
   聚焦LLM代理的核心设计要素，包括：

   • 代理角色：从单代理系统、双代理结构（如规划者-执行者、编码器-审查者）、多代理系统（如软件工程式团队、最小功能代理、客户端-服务器设计）到动态代理（ runtime 自适应生成或调整代理）。
   • 执行结构：静态工作流（预定义任务序列）、动态执行（即时规划、先规划后执行、分层执行）等任务分配与执行策略。
   • 外部知识：获取方式包括外部数据库、检索式方法（如RAG）、API调用与搜索引擎集成，以及混合方法。
   • 反思机制：通过代理反馈、代码错误处理、单元测试、模型指标反馈、历史窗口、人类反馈等实现自我改进。

2. 数据科学视角
   分析LLM代理在数据科学流程中的应用，包括：

   • 数据科学任务：模型构建（自动化特征工程、超参数优化等）和洞察生成（可视化、数据 storytelling等）。
   • 数据科学循环：涵盖数据