METEOR: Evolutionary Journey of Large Language Models from Guidance to Self-Growth

本文是LLM系列文章，针对《METEOR: Evolutionary Journey of Large Language Models from Guidance to Self-Growth》的翻译。

摘要

模型进化能够从反馈中学习，以完善经验和更新技能，将模型从没有领域知识转变为领域专家。然而，目前还没有统一有效的方法来指导这一进化过程。为了解决这个问题，我们提出了 Meteor 方法，它包括三个训练阶段：从弱到强的数据蒸馏、迭代训练和自我进化策略。每个阶段都最大化模型固有的领域能力，使其能够自主完善其领域知识并提高性能。实验表明，我们的方法显着提高了特定领域任务的准确性、完整性、相关性、连贯性和可靠性。我们的代码可以在 https://github.com/DIRECT-BIT/METEOR 找到。

1 引言

2 METEOR

3 实验设置

4 实验结果

5 相关工作

6 结论

在这项研究中，我们探索通过知识蒸馏和自我进化来增强LLM特定领域能力的创新策略。我们提出了 Meteor 方法，它利用从弱到强的数据蒸馏、迭代训练和自我进化来提高模型在各种指标上的性能。我们的方法使用来自高级计算机教育的数据进行了验证，实验