12、可解释深度学习在解密多发性硬化症疾病特征中的应用

可解释深度学习在解密多发性硬化症疾病特征中的应用

1. 可解释深度学习方法概述

在深度学习中，有几种重要的可解释性方法，包括反向传播（BP）、引导反向传播（GBP）和逐层相关性传播（LRP）。

• BP和GBP ：GBP在反向传播过程中，与BP类似，只考虑正输入。保留正梯度的优势在于防止对应抑制高层神经元激活的神经元的负贡献的反向流动，这在遍历网络时可作为额外的引导信号，梯度的绝对值被用作相关性得分。
• LRP ：LRP与BP和GBP略有不同，它不依赖于梯度计算。该技术基于一个反向过程，是将输出预测概率通过卷积神经网络（CNN）层进行保守的相关性重新分配，直到输入层。LRP过程的核心规则是每层的相关性守恒。设 $s$ 和 $s + 1$ 是网络的两个连续层，$j$ 和 $k$ 分别是这两层的两个神经元。神经元 $k$ 对预测 $f(x)$（其中 $x$ 是输入）的相关性可以写成 $R_{k}^{s + 1}$。这种相关性通过以下方程重新分配到层 $s$ 中的连接神经元：
  [
  \sum_{j} R_{j \leftarrow k}^{s} = R_{k}^{s + 1}
  ]
  可以使用多种规则进行相关性的分配，在本研究中使用了 $\beta$ - 规则：
  [
  R_{i \leftarrow j}^{r, r + 1} = \left( (1 + \beta) \frac{w_{ij}^{+}}{w_{j}^{+}} - \beta \frac{w_{ij}^{-}}{w_{j}^{-}} \right) R_{j}^{r + 1}