Closure

1）将一幅图像分成sxs个网格(grid cell),如果某个object的中心落在这个网格中，则这个网格就负责预测这个object。2）每个网格要预测2个bounding box（同类），每个bounding box 除了要预测位置之外，还要附带预测一个confidence（iou）值。 每个网格还要预测C个类别的分数。网格中的每个子网格对应两个bounding box，选择IOU较大的那个bounding box认为其存在目标。第2行宽度和高度先取了平方根，因为如果直接取差值的话，大的对象对差值的

dense label并非是feature map，而是指teacher的feature map上每个点输出的分类和回归结果，不经过任何后处理（不考虑后面说的learning region的筛选），都让student去学习。实验结果表明：对于有限数量的监督数据，如 COCO-Standard 10% 设置，相对较大的权重 4 是有利的。作者只是很简单的说因为生成的是 dense label，所以选 dense object detector，也就是 FCOS 这类 anchor free 的方法。...

然而，由于训练中使用的标签数量有限，centerness score不能可靠地反映预测是否为前景实例，因为centerness分支中没有监督来抑制background instance的centerness score，因此centerness高的instance有可能是背景，在半监督训练中加入这些假阳性伪框会降低伪标记的有效性，并加剧Centerness bias问题。我们提出利用教师和学生之间的相对不确定性来选择boundary level的伪标签，其中教师的不确定性比学生的低。...

其中np为与不确定伪标签相匹配的对应proposal个数，C为类别数，ps i, C为学生模型中第i个proposal中第C个类别的概率，pt i, C为与ps i, C相匹配的教师模型中对应的软标签。为了鼓励自训练过程中的正反馈，我们引入了一种可靠的伪标签挖掘(RPLM)策略来进一步提高性能，旨在以课程的方式将高质量的不确定伪标签转化为可靠的伪标签。从分布级标签错配问题的角度来看，由于数据的类别分布不平衡，使用单一且固定的置信阈值来生成无偏倚的伪标签来匹配类分布一致的地真标签是极其困难的。...

Motivation:SSOD中的伪标签不准确。此外，在前景-背景不平衡的标记数据上训练的模型容易产生有偏差的预测。类别不平衡（前景背景不平衡，前景类别不平衡）Method：前景-背景重新平衡的数据防止模型过度匹配背景实例，并帮助从大量未标记的数据中挖掘有益的信息。前景-前景重新平衡的数据有利于利用来自被忽视的类的信息的模型预测，并避免对过度聚焦的类的有偏见的预测CropBank存储ground truths/pseudo labels of foreground instances i

目标检测中存在前景背景不平衡和前景之间类不平衡，这些不平衡导致半监督训练中产生有偏差的预测。伪标签作为图像分类半监督中最有效的方法之一，在目标检测中因为倾向置信度高的类别和区域导致产生偏差。将偏差伪标签加入训练会加重类不平衡问题和产生过拟合unbiased teacher：联合训练teacher和student模型，teacher模型产生伪标签用于训练student，student模型经EMA更新teacher。（1）利用伪标签训练RPN和ROIhead，从而缓解RPN和ROIhead的过拟合问题。

论文地址：https://arxiv.org/abs/2106.09018代码地址：https://github.com/microsoft/SoftTeacherhttps://jishuin.proginn.com/p/763bfbd6d2b5教师模型和学生模型是两个完全相同的结构，因为要进行 EMA 更新，两者都是带有预训练的随机初始化有标签图片采用常规的 pipeline 流程，利用学生模型进行预测，计算得到有标签的 loss，包括分类和回归分支 loss参考 FixMatch 做