33、可解释性AI与机器学习模型的公平性洞察

可解释性AI与机器学习模型的公平性洞察

1. 可解释性AI在AutoML Tables中的应用

可解释性AI在AutoML Tables中发挥着重要作用。AutoML Tables是用于训练和部署表格数据模型的工具，它能自动处理数据预处理并为数据选择最佳模型，无需手动编写模型代码。在AutoML Tables中训练的模型默认启用可解释性AI的特征归因，同时提供全局和实例级别的解释。

2. 权衡与替代方案

虽然解释能为模型决策提供重要见解，但解释的质量依赖于模型的训练数据、模型质量和所选基线。以下将讨论可解释性的局限性以及特征归因的替代方法。
- 数据选择偏差 ：机器学习领域有“垃圾进，垃圾出”的说法，即模型的性能取决于训练数据。若训练图像模型识别10种猫的品种，它就只能识别这10种猫。当输入狗的图像时，它可能会将狗误分类到已训练的10种猫类别中，甚至可能有很高的置信度。如果在训练模型前未发现数据不平衡问题，特征归因等可解释性方法有助于揭示数据选择偏差。例如，构建预测图像中船只类型的模型，模型正确将测试集中的图像标记为“皮划艇”，但通过特征归因发现，模型是依靠船桨而非船的形状来预测“皮划艇”，这表明数据集可能缺乏每个类别训练图像的多样性，需要补充不同角度、有无船桨的皮划艇图像。
- 反事实分析和基于示例的解释
- 反事实分析 ：这是一种实例级别的可解释性技术，旨在从数据集中找到特征相似但模型预测不同的示例。可以通过开源工具What - If Tool实现，该工具用于评估和可视化机器学习模型的输出。在What - If Tool中可视化测