2025_NIPS_Bohdi: Heterogeneous LLM Fusion with Automatic Data Exploration

文章核心总结与翻译

一、主要内容

本文提出Bohdi，首个仅依赖合成数据的异构大语言模型融合框架，旨在解决现有方法领域覆盖有限、数据分配僵化的问题。框架通过层级知识树组织多领域知识，结合Sprout（领域扩展）和Harvest（数据生成）操作实现自动领域探索与数据合成；将领域扩展和采样比例分配转化为分层多臂老虎机（HMAB）问题，通过DynaBranches机制自适应调整数据比例；融入内省-重生（IR）机制，基于滑动窗口二项似然比检验（SWBLRT）动态跟踪目标模型能力变化。通过冥想（MEDITATION）和启发（ENLIGHTENMENT）两阶段迭代，Bohdi在不依赖真实数据的情况下，实现多源模型知识高效注入，同时避免目标模型能力失衡。实验表明，Bohdi在多个目标模型上显著优于基线方法，数据效率更高，且能消除能力不平衡问题。

二、创新点

1. 提出首个纯合成数据异构LLM融合框架，通过层级知识树和多模型协作，实现自动化领域扩展与数据采集，无需依赖真实数据。
2. 将领域扩展与采样比例分配形式化为HMAB问题，设计DynaBranches机制，结合汤普森采样实现高效多领域数据采样与比例自适应调整。
3. 提出IR机制与SWBLRT方法，动态检测目标模型能力变化，避免对过时观测的依赖，提升在线适应能力。
4. 设计冥想-启发两阶段迭代流程，自动完