hallo128的博客

Noisy Student Training是一个半监督学习的方法。它扩展了自我训练和蒸馏的思想，使用等量或更大的学生模型和噪音添加到学生在学习过程中。用带标签的图像训练教师模型使用教师在未标记的图像上生成伪标签在标记图像和伪标记图像的组合上训练学生模型。通过将学生作为教师重新标记未标记的数据并训练新学生，该算法被迭代几次。加噪学生训练旨在通过两种方式提高自我训练水平。首先，它使学生比老师大，或者至少等于老师，这样学生可以从更大的数据集中更好地学习。