本文介绍了Focal and Global Knowledge Distillation（FGKD）方法，它结合Focal distillation和Global distillation，旨在同时传授实例级信息、空间/通道注意力以及全局相关性。FGKD通过定义前背景分离Mask和Attention，利用Feature loss和Attention loss进行特征学习。此外，Global distillation通过捕获像素间相关性传递上下文信息。实验表明，FGKD在各种目标检测器上表现出色。
Paper地址：https://arxiv.org/abs/2111.11837
GitHub链接：https://github.com/yzd-v/FGD
方法
FGKD（Focal and Global Knowledge Distillation）通过Focal distillation与Global distillation的结合，兼顾了Instance-level信息、Spatial/Channel Attention以及全局相关性信息。
首先定义前背景分离Mask、Attention等，然后基于Feature map计算Focal distillation（由Feature loss与Attention lo
最低0.47元/天 解锁文章
扫一扫
1434
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
