12、机器学习中的可解释性方法

机器学习中的可解释性方法

1. 可解释性方法概述

在机器学习中，可解释性是一个重要的研究领域，它有助于我们理解模型的决策过程。以下介绍几种常见的可解释性方法：
- 基于规则的可解释性 ：以Anchor解释为代表的基于规则的方法，旨在找到特征值的条件，使得模型输出相同结果的概率较高。例如，在预测数据集中个人工资是否低于或等于50k时，“教育程度 <= 高中导致工资 <= 50k” 可以作为基于规则解释中的一条规则。这些解释需要具有局部忠实性。
- 显著性图 ：显著性图的目标是解释对于一个数据点，哪些特征对预测输出的贡献或多或少。这种方法常用于在图像数据上训练的机器学习或深度学习模型。例如，我们可以使用显著性图来确定分类模型是使用背景森林来识别图像是熊还是泰迪熊，还是使用熊身体的组成部分来进行识别。
- 全局解释 ：尽管为机器学习模型实现可靠的全局解释存在困难，但它可以增加对模型的信任。在开发和部署机器学习模型时，性能并不是建立信任的唯一方面。局部解释虽然在研究单个样本和提供可操作信息方面非常有帮助，但可能不足以建立这种信任。以下是三种超越局部解释的方法：
- 收集局部解释 ：子模块选择LIME（SP - LIME）是一种全局解释技术，它利用LIME的局部解释来提供模型行为的全局视角。由于使用所有数据点的局部解释可能不可行，SP - LIME会选择一组具有代表性的多样化样本，以代表模型的全局行为。
- 知识蒸馏 ：知识蒸馏的思想是使用更简单的可解释模型（如决策树）来近似复杂模