56、预训练卷积神经网络能力探究及拉普拉斯平滑随机梯度下降对人脸识别的影响

预训练卷积神经网络能力探究及拉普拉斯平滑随机梯度下降对人脸识别的影响

1. 预训练CNN在黑色素瘤图像分类中的实验

在深度学习领域，探究预训练卷积神经网络（CNN）在不同数据集上的分类能力是一项重要任务。以ResNet50为例，它原本在ImageNet数据集上进行训练，现在我们关注它对黑色素瘤数据集的分类准确性。

实验使用了国际皮肤成像协作组织（ISIC）提供的2019年黑色素瘤数据集，其中训练集包含25,331张具有8个不同类别的图像，测试集包含8240张未标记图像。

ResNet使用带动量的尺度梯度下降（SGDM）算法进行训练和重新训练，相关参数如下表所示：
| 参数名称 | 值 |
| — | — |
| 训练算法 | SGDM |
| 层数 | 50 |
| 输入大小 | [224 224 3] |
| 归一化 | Zerocenter |
| 类别 | 1000x1 categorical |
| 损失函数 | Crossentropyex |
| 最大轮数 | 80 |
| 训练/测试比例 | 70%/30% |
| 小批量大小 | 10 到 100 |

实验分为两组，一组不重新训练ResNet50，另一组进行重新训练。使用了三种不同样本大小的图像进行实验，分别为200、2000和6000张，且正负样本数量相等。其中70%的样本随机选自标记的训练图像，30%选自测试样本。

实验结果如下表所示：
| 序号 | 样本大小 | 未重新训练的分类准确率 | 重新训练的分类准确率 | 未重新训练的误报率 | 未重新训练的