19、卷积神经网络层与单元的概念探测器解析

卷积神经网络层与单元的概念探测器解析

1. 概念探测器基础

在分析卷积神经网络时，概念探测器是衡量网络可解释性的重要指标。以ResNet - 18模型为例，最终卷积层（即第4层）的唯一概念探测器数量，能反映该层单元学习到的独特概念数量。唯一探测器数量越多，网络在检测人类可理解概念方面就越具多样性。

在运行网络剖析框架后，会涉及以下相关文件：
- category.csv ：列出所有概念类别，并附带概念的一些汇总统计信息。首列是概念名称，接着是属于该概念类别的标签数量，以及带有该标签概念的图像数量频率。
- label.csv ：列出所有标签及其所属的相应概念，并附带标签的一些汇总统计信息。首列是标签编号（或标识符），接着是标签名称和所属类别。汇总统计信息包括带有该标签的图像数量频率、图像的像素比例或覆盖率，以及带有该标签的图像总数。
- c_{concept}.csv ：每个概念类别对应一个文件，包含所有标签、图像频率和覆盖细节。

若要创建自己的带标签概念数据集，需遵循与Broden数据集相同的结构，以确保与网络剖析框架兼容。创建好数据集后，需在 settings.py 中更新以下设置：
| 设置项 | 说明 |
| ---- | ---- |
| DATA_DIRECTORY | 指向自定义数据集存储的目录 |
| CATEGORIES | 列出自定义数据集中的所有概念类别，即 category.csv 文件中