Code-driven Number Sequence Calculation: Enhancing the inductive Reasoning Abilities of Large Lan...

文章核心总结与创新点

主要内容

文章聚焦大语言模型（LLMs）归纳推理能力的提升，针对现有归纳推理数据缺乏复杂内在模式、训练方式未提供精准思维过程与难度控制的问题，提出以数字序列为归纳推理数据源，构建了包含监督微调（SFT）和强化学习（RL）数据的合成后训练数据集CodeSeq。通过将数字序列包装为算法问题，设计通用项生成（GTG）任务，采用基于案例反思注入的SFT数据构建、基于通过率的可解性估计RL数据筛选，以及案例协同可解性缩放奖励（CSSR），实现模型归纳推理能力的提升。实验表明，经CodeSeq训练的模型在域内GTG任务、近域代码推理任务上性能显著提升，且保持了域外（OOD）综合推理能力的稳定性。

创新点

1. 首次将数字序列作为归纳推理训练数据，通过代码解决方案表示难以用数学符号直接表达的序列通用项，适配LLMs的数值表示短板。
2. 提出三阶段合成数据管道：序列算法化（数据筛选、问题生成与验证）、基于案例的反思注入（构建含迭代修正过程的SFT数据）、可解性估计选择（基于通过率筛选RL数据），实现全自动化高质量数据生成。
3. 设计CSSR奖励函数，结合问题可解性与自主案例生成成功率，实现可控的RL训练，提升模型案例驱动推理的熟练度。
4. 验证了归纳推理训练的迁移价值，模型在代码推理任务上表现出良好迁移性，且不损害域外综合推理能力，为LLMs归纳推理提升提供了高效方案。

---

翻译部分（Markdown格式）