Causal XAI 的五大核心研究方向

第一部分：Causal XAI 的哲学根基 —— 世界的两种运作模式

要理解Causal XAI，首先要理解我们认识世界的两种方式：

1. 模式一：观察 (Seeing) - 这是传统机器学习和XAI的核心

   • 是什么： 我们通过看大量数据，总结出规律。比如，我们看到“地面湿”和“天空阴”总是一起出现。

   • 对应AI： 传统AI模型通过学习海量（阴天，湿地）的数据对，学会了“看到阴天就预测地面会湿”。传统XAI（如热力图）会高亮“天空中的乌云”，告诉你“模型是根据这个做出的预测”。

   • 局限性： 这是相关性。我们不知道是阴天导致地湿，还是地湿导致阴天，或者是有个“洒水车”同时导致了两者。

2. 模式二：干预 (Doing) - 这是因果科学和Causal XAI的核心

   • 是什么： 我们不只是看，我们动手去改变世界的一个变量，然后观察另一个变量的变化。比如，我们人为地用洒水车把地弄湿（这个行为叫**“干预”），然后抬头看天，发现天并没有变阴。这样我们就知道了，地湿不会导致**天阴。

   • 对应AI： Causal XAI试图在虚拟世界里做“干预”实验，来找到真正的因果关系。它要回答：“如果我用‘魔法’把天空变晴，模型对‘地面湿度’的预测会改变吗？”

Causal XAI的全部工作，都是围绕着如何让AI模型从“观察模式”升级到“干预模式”来展开的。

---

第二部分：Causal XAI 的五大核心研究方向 (完整地图)

我们之前聊了三个，现在我把它们放在一张更完整的地图里，并加入另外两个，详细讲解。

方向一：反事实解释 (Counterfactual Explanations) - “事后诸葛亮”

• 一句话核心： 通过生成“如果输入这样改，结果就会那样变”的最小化样例，回答“是什么导致了这一个特定决策？”

• 详细介绍： 这是最贴近用户的解释方式。当一个决策已经做出（比如贷款被拒），它会回过头来，为你构建一个与现实世界最接近的“平行宇宙”。在这个平行宇宙里，只有一个最小的关键条件被改变了