26、基于梯度和扰动的分类评估方法

基于梯度和扰动的分类评估方法

1. 集成梯度（Integrated Gradients）

集成梯度（IG），也称为路径积分梯度，是一种并非专门用于卷积神经网络（CNN）的技术。它可以应用于任何神经网络架构，通过计算输出相对于输入的梯度，并在基线和实际输入之间的路径上进行平均。

1.1 原理

• 计算方式 ：IG需要定义一个基线，对于CNN来说，通常使用零基线，即全黑图像。它通过将输入图像逐步变暗，直到变为基线图像，并在每个步骤计算梯度，最后对这些梯度进行平均。IG的结果是图像与梯度平均值的点积。
• 数学理论 ：IG基于线积分的微积分基本定理，其数学证明确保了归因的完整性，即IG产生的归因总和等于输入预测与基线预测之间的差异。此外，它还具有线性保持、对称保持和敏感性等特性。

1.2 使用tf - explain库实现

from tf_explain.core.integrated_gradients import IntegratedGradients

explainer = IntegratedGradients()
ig_maps = []
for i in range(len(labels_l)):
    img = ([X_misclass[i]], None)
    label = labels_l[i]
    ig_map = explainer.explain(img, cnn_fruits_mdl, label, n_steps=