34、LIME在图像解释中的理论分析与实践

LIME在图像解释中的理论分析与实践

1. LIME简介与符号说明

LIME可用于分类任务，但此时应将似然函数作为$f$，而非预测类别。使用LIME处理离散输出可能会导致不良行为。

为了便于后续的分析，我们先明确一些基本符号：
- 待解释的模型用$f$表示。
- 待解释的示例用$ξ$表示。
- 对于任意整数$k \in N$，用$[k]$表示有限集${1,2,\cdots,k}$。
- 特征用$j$索引，样本用$i$索引。
- 用$|\cdot|$表示$R^d$上的欧几里得范数。

2. 图像领域的LIME方法

在RGB图像的常见情况下，模型$f$的输入为$x \in R^{H×W×3}$。LIME在图像领域的实验结果十分显著，它所突出显示的图像部分通常具有实际意义，并且解释简单易懂。

2.1 方法概述

LIME处理图像数据的操作流程主要包括以下几个关键步骤：
1. 可解释特征的创建 ：在图像领域，自然的做法是将相邻像素组视为可解释特征，即超像素。在生成扰动样本之前，LIME会对图像$ξ$进行超像素分解。默认使用快速移位算法（quickshift algorithm），不过也可以使用其他超像素算法，如SLIC算法。设$J_j$为与$ξ$相关联的第$j$个超像素，$d$为与$ξ$相关联的超像素数量，则$J_j$构成像素集的一个划分，满足$J_1 \cup \cdots \cup J_d = [H] \times [W]$且$J_k \cap J_{\ell} = \varnothing$（对于所有不同的$k$和$\ell