36、机器学习决策的可解释性：双向支持与客户留存

机器学习决策的可解释性：双向支持与客户留存

双向决策支持的可解释性

在决策支持领域，双向可解释性有着重要的意义。曾有这样一个问题被提出：“你的最终决策是否可能与初始决策以及机器的决策不同？（可多选）”对67名学生的调查得出了以下结果：
| 情况 | 占比 |
| — | — |
| 这种情况从未发生 | 40.3% |
| 不确定初始决策且不同意机器解决方案，选择了第三种方案 | 59.7% |
| 随机选择剩余机会 | 10.8% |
| 思考最可能的解决方案，未参考机器方案选择了第三种方案 | 43.2% |
| 试图理解计算机为何选择该方案，并据此选择了第三种方案 | 57.1% |
| 2名学生未表明原因（1） - （3），部分其他38人使用了多种原因 | - |

双向决策支持系统（DSS）架构具有诸多好处。要求用户专家先形成自己的决策，能避免用户将决策委托给机器学习（ML）时，出现知识和责任感的缺失。这能防止用户专家产生自满情绪，促使他们更深入地思考初始决策。双向决策支持还为用户专家提供了不断回顾和更新领域知识的机会。当用户和算法的决策不一致时，DSS会促使用户根据算法突出的参数重新考虑自己的决策，从而更有可能让用户批判性地评估机器的决策。在算法比人类专家更准确的应用领域，这甚至能让人类用户挑战自己，去预测ML的决策。

传统上，将分类器视为黑盒来解释ML分类器的决策已有相关提议。但当前方法的关键在于，专家不再提出宽泛、抽象的问题，如“为什么是αml？”，而是提出更具体的问题：“为什么是αml而不是αU？”在医学领域，这种方法被称为“鉴别诊断”。向机器提出的问题可以更详细：“输入需要进行哪些最