18、可解释深度学习AI：过滤器剪枝对分类准确性的影响

可解释深度学习AI：过滤器剪枝对分类准确性的影响

在深度学习领域，理解模型中过滤器的作用以及它们如何影响分类准确性是一个重要的研究方向。本文将详细介绍一系列实验，探讨过滤器剪枝对分类准确性的影响，以及过滤器之间的关系和类别的语义相似性。

1. 实验设置

• 数据集与模型 ：使用在ImageNet数据集上训练的AlexNet模型。ImageNet数据集包含120万张训练图像和5万张验证彩色图像，代表1000个目标类别。所有图像均调整为256×256分辨率。
• AlexNet结构 ：由五个卷积层和三个全连接层组成。仅对卷积层（特征提取器）应用RBP（过滤器剪枝）。
• 剪枝比例 ：剪枝比例θ从0开始，每次增加0.05，直至达到0.5（表示网络中50%的过滤器被剪枝），且剪枝后不进行重新训练。

2. 按类别分类准确性变化

• 平均准确性趋势 ：随着剪枝比例θ的增加，平均分类准确性单调下降。
• 个别类别准确性变化 ：尽管平均准确性呈下降趋势，但仍有相当数量的类别在剪枝后分类准确性得到提高（Aθc - A0c > 0）。
• 改进类别数量与平均改进情况 ：在较小的剪枝比例θ∈{0.05, 0.1}时，观察到分类准确性提高的类别数量最多，分别为272和208；而在较大的剪枝比例θ = 0.45时，平均准确性提高最多，达到5