STABLE: Gated Continual Learning for Large Language Models

文章主要内容总结

该研究针对大型语言模型（LLMs）持续学习中存在的灾难性遗忘问题（即新增知识更新会破坏已有知识），提出了名为STABLE的门控持续自编辑框架。核心思路是基于低秩适配（LoRA）的参数高效微调（PEFT），通过门控机制约束模型更新，在保留适配能力的同时避免遗忘。

1. 核心问题：LLMs部署后需增量更新（如融入新事实、领域术语），但无约束的顺序更新会导致灾难性遗忘，降低模型可靠性。
2. 框架设计：
   • 每个LoRA编辑候选需通过门控评估，门控基于用户选择的三种指标之一与预设预算对比；
   • 三种评估指标：精确匹配（EM）下降（衡量事实准确性损失）、比特数增加（反映模型置信度降低）、KL散度（量化模型分布偏移）；
   • 若超出预算，通过LoRA裁剪缩放更新或直接拒绝，确保更新在“稳定可行域”内。
3. 实验验证：基于Qwen-2.5-7B模型在SQuAD风格事实编辑任务中测试，结果显示EM基门控实现了最高的累积性能（提升40%），三种门控策略虽分布偏移水平相当，但任务性能差异显著。
4. 局限性与未来方向：存在计算开销增加、门控刚性可能拒绝潜在有益更新等问题；未来计划开发动态自适应预算、扩展至实时流环境等。

文章创新点

1. 提出多指标门控框架<