Arrows of Math Reasoning Data Synthesis for Large Language Models: Diversity, Complexity and Corr...

文章主要内容与创新点总结

一、主要内容

本文聚焦于大型语言模型（LLMs）数学推理能力提升面临的高质量训练数据短缺问题，提出了一种名为AMD的程序辅助数学推理数据合成框架，核心内容如下：

1. 问题背景：传统数学训练数据获取方式存在局限，手动标注成本高、依赖LLM合成数据错误率达40%，且难以兼顾多样性、复杂性与正确性，阻碍LLMs数学推理能力的长期提升。
2. 框架设计：
   • 知识系统构建：整合K-12教材与《中国图书馆分类法》数学分类，构建包含“教育阶段-学科-主题”三层结构的知识体系，覆盖250多个关键数学主题，并为每个主题匹配10-50个代表性问题，提取100多个API形成数学工具库。
   • 程序合成：通过分层随机抽样选取1-3个数学主题，结合对应工具生成可执行程序（(C_K)）；同时从标准基准中抽取10万个问题生成补充程序（(C_S)），合并为初始程序集(C)。
   • 程序变异与语料生成：采用约束变异、变量变异、常量变异、代码变异四种策略对初始程序增强复杂性，生成变异程序集(C_M)；将合并后的程序集(\widehat{C})翻译为自然语言问题与LLM生成的解答。
   • 双边验证：通过执行程序获取输出结果，与LLM生成解答的提取结果对比，筛选出“程序-问题-解答”一致的高质量语料，最终生成1230万条数据（含260万条知识系统衍生数据、970万