Towards Lifelong Learning of Large Language Models: A Survey

本文是LLM系列文章，针对《Towards Lifelong Learning of Large Language Models: A Survey》的翻译。

摘要

随着大型语言模型（LLM）的应用扩展到不同的领域，它们适应数据、任务和用户偏好不断变化的能力变得至关重要。使用静态数据集的传统训练方法不足以应对真实世界信息的动态性质。终身学习或持续学习通过使LLM能够在其操作寿命内持续学习和适应，整合新知识，同时保留先前学到的信息，防止灾难性遗忘来解决这一问题。我们的调查探索了终身学习的前景，根据新知识的整合方式将策略分为两组：内部知识，LLM通过全部或部分训练将新知识吸收到其参数中；外部知识，将新知识整合为维基百科或API等外部资源，而不更新模型参数。我们的调查的主要贡献包括：（1）引入一种新颖的分类法，将广泛的终身学习文献分为12个场景；（2） 识别所有终身学习场景中的通用技术，并将现有文献分为不同的技术组；（3） 强调新兴技术，如模型扩展和数据选择，这些技术在LLM之前的时代很少被探索。资源在https://github.com/qianlima-lab/awesome-lifelong-learningmethods-for-llm上可用。

1 引言

2 终身学习概述

3 方法：持续预训练