1、可解释的人机交互：规划视角下的探索

可解释的人机交互：规划视角下的探索

1. 人工智能与人类的关系

人工智能自诞生以来，与人类的关系一直处于一种矛盾状态，在增强人类能力和取代人类之间摇摆不定。早期，人工智能的重大成功要么是在远离人类的领域，如火星探测器的自主导航；要么是在对抗性场景中，像深蓝击败国际象棋冠军加里·卡斯帕罗夫、AlphaGo战胜李世石。然而，随着人工智能技术日益融入日常生活，人们越来越需要人工智能系统与人类协同工作。

在人类与人工智能协同工作的场景中，人工智能系统的行为需要能够被人类理解。为了实现这一点，人工智能代理不仅要基于自身的世界模型进行规划，还需要考虑人类的心理模型。具体来说，人工智能代理至少需要近似了解人类的任务和目标模型，以及人类对其任务和目标模型的认知。前者有助于代理预测和管理人类的需求、欲望和注意力，后者则使代理的行为能够符合人类的心理预期，并在必要时提供定制化的解释。

2. 人类交流中的解释行为

2.1 人类期望解释的时机和原因

在人类的交流中，当一个人的行为违背了另一个人的预期，或者当行为的结果产生了重大影响时，人们往往期望得到解释。例如，在工作中，如果同事的决策导致项目进度延迟，其他人可能会要求其解释原因。解释的目的在于消除误解、重建信任，并帮助双方更好地理解彼此的意图和行为。

2.2 人类交换解释的方式

人类交换解释通常通过语言交流、书面说明或示范操作等方式进行。在交流过程中，解释者会根据对方的知识水平、背景和需求，调整解释的内容和方式，以确保对方能够理解。例如，教师在向学生解释复杂的科学概念时，会使用简单易懂的例子和比喻。

2.3 人工智能系统可解释性的必要性 <