14、基于语法引导合成的形式化可解释人工智能

基于语法引导合成的形式化可解释人工智能

1. 引言

在人工智能领域，复杂模型的决策过程往往难以理解。为了解决这个问题，我们引入了模仿程序（mimic programs）的概念，它可以作为复杂不透明模型的替代模型，帮助我们解释模型的决策过程。本文将详细介绍模仿程序的合成方法，并通过实验评估其性能。

2. 示例说明

假设有一组三张手写数字的图像，分别为 (x_1)、(x_2) 和 (x_3)，以及一个黑盒模型 (f) 对这些图像的分类结果。我们的目标是为这个数据集计算一个模仿程序，以解释模型 (f) 的决策。

2.1 图像数据表示

图像大小为 (6×7) 像素，被展平为一个 (R^{42}) 的向量 ([p_{1,1}, \cdots, p_{6,7}])，每个像素值是 ([0, 1]) 之间的实数，其中 (0) 表示白色，(1) 表示黑色。模型 (f) 将图像 (x_1) 分类为数字 (7)，将图像 (x_2) 和 (x_3) 分类为数字 (1)。

2.2 计算模仿程序

• 第一步 ：为数据集 (Pts_{1,2} = {(x_1, 7), (x_2, 1)}) 计算模仿程序 (P_{f,1,2})。通过 SyGuS 计算时，需要定义语义约束和语法约束。语义约束由 (Pts_{1,2}) 确定，即要求 (P_{f,1,2}(x_1) = 7) 且 (P_{f,1,2}(x_2) = 1)。语法约束使用简单的 ITE 语法，允许像素值之间的布尔组合比较。SyGuS 求解器可能会生成如下程序：
  [P_{f,1,2} := \text{if