MLGym: A New Framework and Benchmark for Advancing AI Research Agents

本文是LLM系列文章，针对《MLGym: A New Framework and Benchmark for Advancing AI Research Agents》的翻译。

摘要

我们介绍了Meta MLGym和MLGym Bench，这是一个新的框架和基准，用于评估和开发AI研究任务中的LLM代理。这是第一个用于机器学习（ML）任务的Gym环境，可以研究用于训练此类代理的强化学习（RL）算法。MLGym bench由13个不同的开放式人工智能研究任务组成，这些任务来自计算机视觉、自然语言处理、强化学习和博弈论等不同领域。解决这些任务需要现实世界的人工智能研究技能，例如生成新的想法和假设，创建和处理数据，实施机器学习方法，训练模型，运行实验，分析结果，并迭代这个过程以改进给定的任务。我们在我们的基准测试中评估了许多前沿大型语言模型（LLM），如Claude-3.5-Sonnet、Llama-3.1 405B、GPT-4o、o1预览版和Gemini-1.5 Pro。我们的MLGym框架可以轻松添加新任务，集成和评估模型或代理，大规模生成合成数据，以及开发新的学习算法来训练人工智能研究任务中的代理。我们发现，当前的前沿模型可以在给定的基线上进行改进，通常是通过找到更好的超参数，但不会产生新的假设、算法、架构或实质性的改进。我