2025_NIPS_Data Efficient Adaptation in Large Language Models via Continuous Low-Rank Fine-Tuning

文章核心总结与翻译

一、主要内容

本文针对大型语言模型（LLMs）微调中存在的灾难性遗忘和数据效率低下问题，提出了一种名为DEAL（Data-Efficient Adaptation via continuous Low-rank fine-tuning）的持续学习框架。该框架基于低秩适配（LoRA）技术，整合了小波核知识保留模块和可控知识更新模块，在不依赖历史数据回放的前提下，实现高效的知识获取与保留。

文章通过三个核心部分展开研究：

1. 理论基础：明确LoRA-based LLM的参数更新机制，定义持续学习的优化目标——在最小化新任务损失的同时，通过正则化项限制参数变化以避免灾难性遗忘。
2. 框架设计：
   • 小波核知识保留模块：通过截断奇异值分解（SVD）和热核滤波，提取并保留低秩矩阵中的历史知识核心特征；
   • 可控知识更新模块：采用高阶正则化约束LoRA参数更新，平衡新知识整合与旧知识保留；
   • 训练流程：通过交替优化低秩矩阵和正则化参数，实现模型对新任务的高效适配。
3. 实验验证：在15个多样化数据集（涵盖同域任务、跨域任务和异质多任务）上进行测试，对比SeqLoRA、O-LoRA等基线方法，验证了DEAL在任务准确率、资源效率和抗遗忘能力上的优势。

二、创新点

1. 提出一体化持续学习框架：将低秩适配与持续