12、机器学习中的可解释性方法实践

机器学习中的可解释性方法实践

1. 机器学习可解释性方法概述

在机器学习领域，可解释性至关重要，它能帮助我们理解模型的决策过程。以下是几种常见的可解释性方法：
- 基于规则的可解释性 ：像Anchor解释这类基于规则的方法，旨在找出特征值的条件，使得模型输出相同结果的概率较高。例如，在预测个人薪资是否超过50k时，“教育程度 <= 高中导致薪资 <= 50k” 可作为一条规则。这些解释需要具有局部忠实性。
- 显著性图 ：显著性图用于解释数据点中哪些特征对预测输出的贡献大小。该方法常用于处理图像数据的机器学习或深度学习模型。比如，可通过显著性图判断分类模型是依据背景森林，还是熊的身体特征来识别熊的图像。
- 全局解释 ：尽管为机器学习模型实现可靠的全局解释存在困难，但它能增强对模型的信任。构建信任不仅仅取决于模型性能，局部解释虽有助于研究单个样本并提供可操作信息，但可能不足以建立信任。下面将介绍三种超越局部解释的方法：
- 收集局部解释 ：子模选择LIME（SP - LIME）是一种全局解释技术，它利用LIME的局部解释来获得模型行为的全局视角。由于使用所有数据点的局部解释可能不可行，SP - LIME会挑选一组有代表性的多样本，以代表模型的全局行为。
- 知识蒸馏 ：知识蒸馏的思想是用更简单的可解释模型（如决策树）来近似复杂模型的行为，最初是为神经网络模型提出的。即构建简单模型来近似复杂模型对给定样本集的预测。
- 反事实总结