论文核心总结与翻译
主要内容
该论文聚焦大型语言模型(LLMs)的选择性遗忘问题,提出一种名为“Constrained Entropic Unlearning”的框架,旨在高效删除模型中敏感、过时或受版权保护的信息,同时最大程度保留模型在其他数据上的性能。文章将遗忘问题重构为带约束的优化问题,通过新颖的对数边际平坦损失函数和原始对偶算法,解决了现有方法存在的优化不稳定、保留数据性能退化等问题,并在TOFU和MUSE基准测试中验证了方法的有效性。
核心创新点
- 约束优化公式:将LLM遗忘问题形式化为带约束的优化任务,明确区分遗忘目标与保留约束,无需精细的损失平衡,提供清晰的理论保证。
- 对数边际平坦损失:提出无需softmax操作的遗忘损失函数,通过推动对数输出趋于均匀,避免熵最大化的梯度消失问题,兼顾数值稳定性与优化效率。
- 可扩展原始对偶算法:设计支持热启动和动态更新的求解器,通过对偶变量动态调节遗忘与保留的权衡,无额外梯度计算开销,适配LLM大规模场景。
- 多维度评估体系:结合传统自动指标与LLM-based评判器,从知识移除、文本相似度、流畅度等维度全面评估遗忘效果与保留性能。
订阅专栏 解锁全文
5062



被折叠的 条评论
为什么被折叠?



