本文探讨了在增量学习中使用知识蒸馏保持分类器的判别力，并通过一种称为权重对齐的方法来维持公平性，以解决最后一层全连接层权重在类增量学习中高度偏置的问题。该研究基于《大规模增量学习》和《通过再平衡学习统一分类器》两篇文章，采用复习策略，聚焦于一个具体问题并取得了良好的实验结果。
Abstract
knowledge distillation; 造成灾难性遗忘的很大一个原因是the weights in the last fully connected layer are highly biased in class-incremental learning;
Introduction
Conclusion
maintain the discrimination via knowledge distillation and maintains the fairness via a method called weight aligning
Key points: code开源；这篇文章的思路是基于《large scale incremental learning，CVPR2019》和《Learning a unified classifier via rebalancing》做的；实验性文章；也是基于rehearsal strategy；找到一个切入点做一个工作，做出好的实验结果
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
