个人学习笔记

Loss NaN？分类准确率不高？目标检测Map低？语义分割Miou低？快来试试CosineAnnealingLR吧

论文：https://arxiv.org/pdf/1810.12890.pdf1、什么是Dropout？我相信各位一定了解过Dropout，所谓Dropout就是提高神经网络泛化性一种方法，可以有效减轻过拟合。为什么它有效呢？从下图分析：一个标准的神经网络如图(a)所示，由于训练数据（假设为人脸数据）的局限性，使得神经网络很依赖于某一个神经元，而其他神经元相当于没有起作用，网络每次都只通过眼睛来判断是不是个人。如果此时直接拿一个全新的测试数据集让这个网络进行识别，很可能因为图片中眼睛被遮挡而得出错误