10、以用户为中心构建多层次多模态解释：一种过程化方法

以用户为中心构建多层次多模态解释：一种过程化方法

1. 引言

为了开发能助力人类更好完成任务的人工智能，让智能系统为人类用户所理解至关重要。这要求用户一方面理解底层算法的工作原理（机械理解），另一方面了解智能系统是否达成其目的（功能理解），而解释有助于实现这两种理解。例如，开发者和专家可借此深入了解决策过程并验证系统；缺乏特定领域深入技术知识的用户则能利用可解释系统进行培训，如智能辅导系统。

可解释人工智能（XAI）研究致力于开发生成解释的方法，提出了多种技术，包括为深度学习模型生成事后解释的方法、基于可解释符号方法的解决方案以及混合系统中两者的结合。随着现有方法的改进和新方法的涌现，对以用户为中心的解决方案的需求呼声日益高涨。解释需契合用户的任务和专业水平，但不存在一种适用于所有情况的解释方法，因此需要结合多种方法。

当前研究提出多模态解释以满足用户不同的信息需求，即结合不同的解释策略（归纳、演绎、对比）与解释模态（文本、图像、音频）来有效呈现信息并调动认知过程。近期研究表明，以不同模态呈现解释能提升决策的可理解性。然而，将解释视为一个过程的研究相对较少。虽然在论证、机器学习和解释领域已有大量工作，但当前文献未充分关注功能或机械理解是随时间发展的，以及用户在过程中的不同阶段和不同专业水平下可能需要不同深度和类型的信息。

本文提出一种结合多层次和多模态解释的基于过程的方法。用户可通过对话交互以深入挖掘的方式请求文本解释或可视化内容。我们使用归纳逻辑编程（ILP）来学习可理解的模型，并为每个需要解释分类决策的示例创建解释树，用户可通过导航解释树获取不同详细程度的答案。

2. 关系型知识领域

对于简单领域，模型仅由特征值