14、机器人模型解释与词汇不匹配问题探讨

机器人模型解释与词汇不匹配问题探讨

1. 平衡规划相关研究

在规划领域，平衡规划是一个重要的研究方向。早期有研究考虑生成完全可解释的计划，采用基于模型空间搜索的方法来识别计划。不过，在模型空间搜索中，要保证生成的解释是最小的，就需要遍历给定模型中的所有最优计划，这很难实现，所以最终采用的是近似版本，虽能保证计划完全可解释，但解释可能比所需的更大。

也有研究将经典规划编译用于平衡规划，这也是首次将认知规划与模型调和联系起来，其核心编译方法源自将受限形式的认知规划编译为经典规划的早期工作。该研究还讨论了如何生成三种类型的平衡计划，即最优平衡计划、完全可解释计划和完全可解释的最优计划。

在其他可解释性度量的平衡方面，虽然缺乏通用形式的研究，但有研究在特定场景中应用了相关思想。例如，有研究利用基于混合现实的可视化来提高可解释性、可预测性和易读性，以积木堆叠场景为例，使用混合现实线索突出计划中可能使用的积木，从而提高对计划和最终目标的识别。

2. 词汇不匹配下的模型解释挑战

以往关于模型调和解释的讨论都隐含假设机器人能向用户传达模型信息，这意味着人和机器人共享描述模型的通用词汇。然而，现代许多人工智能系统依赖学习模型，其使用的表示方案可能让大多数用户难以理解，因此在缺乏共享词汇的情况下生成模型调和解释成为一个关键问题。

3. 机器人模型的表示

机器人传达模型信息的假设包含两个部分：一是模型遵循对最终用户直观或可理解的表示方案；二是模型实际使用对最终用户有意义的因素来表示。模型调和不一定要求用与代理使用的表示方案相同的术语进行解释，我们可以将机器人模型信息映射到更易理解的表示方案。

通