31、深度学习事后解释的用户测试与技术

深度学习事后解释的用户测试与技术

在深度学习领域，模型的可解释性是一个重要的研究方向。本文将介绍深度学习事后解释的相关技术，包括事实解释、反事实与半事实解释，并探讨用户研究的结果。

1. 图像的事实解释

事实解释旨在为用户提供关于分类依据的特征信息。通过示例来解释模型的决策过程，有助于用户更好地理解模型的行为。
- 示例解释架构 ：通过神经网络（CNN）和k - NN（CBR）的孪生架构，找到最近邻图像，从而解释模型的分类结果。例如，在MNIST数据集中，一个测试图像的“1”被误分类为“6”，通过找到类似的标注为“1”的实例，解释了模型错误的原因。
- 不同数据集的示例 ：
- CIFAR - 10数据集 ：将汽车误分类为卡车的情况，加权孪生的解释示例表明模型将其判断为卡车是因为它看起来像之前见过的卡车，并且FAMs突出了分类中最重要的特征——车轮，这使得误分类更具合理性。
- MNIST数据集 ：一个测试图像的“8”被误分类为“3”，通过找到类似的“8”的实例，解释了模型错误的原因。

以下是一个简单的表格，总结了不同数据集的事实解释示例：
| 数据集 | 误分类情况 | 解释依据 |
| ---- | ---- | ---- |
| MNIST | “1” 被误分类为 “6” | 找到类似标注为 “1” 的实例 |
| CIFAR - 10 | 汽车被误分类为卡车 | 加权孪生示例及车轮特征 |
| MNIST | “8” 被误分类为 “3