41、常识知识与信念管理中的遗忘类型与方面

常识知识与信念管理中的遗忘类型与方面

1. 引言

智能体的核心能力之一是对其所处世界进行推理，这需要对世界相关部分进行内部表征，并拥有代表其当前对世界信念的认知状态。在不断变化的环境中，智能体必须能够根据观察到的变化调整其世界表征和信念。

知识表示和推理一直是人工智能领域的研究重点，也是人类推理过程的核心方面。然而，人类认知推理中另一个重要方面——遗忘，在人工智能文献中受到的关注较少。尽管在一些研究中明确探讨了遗忘，如不同逻辑、信念修正和本体论等方面，但不同的遗忘处理方法之间似乎缺乏足够的交互，也没有统一或被广泛接受的遗忘概念或理论。

人类已经发展出了非常有效的遗忘方式，例如遗忘过时或当前无关的信息，从而能够处理不断增加的数据量。但实际上，人类大脑中并没有“绝对”的遗忘，似乎存在某种阈值机制。被遗忘的信息会低于某个阈值，不再可用于当前的信息处理，但特定事件可以触发这些信息，使其重新超过阈值，从而恢复这些信息。

本文旨在以公理化的方式对遗忘操作进行抽象形式化，并在此基础上识别、说明和阐述不同类型和方面的遗忘。我们将从常识的角度审视知识表示和推理中提出的知识和信念管理操作，考虑来自人工智能和认知心理学的变化操作，确定遗忘在这些变化操作中出现的位置和方式，并为不同类型的遗忘提供高层次的概念形式化。

2. 知识和信念变化中的遗忘

我们从技术角度和日常生活现象的角度来探讨遗忘的概念。在日常生活中，我们会忘记从商店买牛奶、弄丢车钥匙或忘记好朋友的生日。知识表示中对遗忘的形式化定义与常识对遗忘的理解之间似乎存在差距，而且日常生活和心理学中使用的“遗忘”概念可能与知识表示研究中的用法有很大不同。

为了更易于理解涉及遗忘的各种变化类型，我们使用一个抽象模型。在这个模型中，智能体具有认知状态 Ψ（本文中也称为信念状态）和推理关系 |≈。我们对信念状态的表示方式不做进一步假设，只要求 Ψ 使用基于签名 Σ 的语言 L。因此，信念状态的概念应从非常宽泛的意义上去理解，例如，Ψ 可以是一组逻辑公式、贝叶斯网络或可能世界上的全预序。当具有信念状态 Ψ 的智能体推断出 A 时，关系 Ψ |≈A 成立。根据 Ψ 的不同，关系 |≈ 可以是演绎推理关系、基于条件句的非单调推理关系、概率推理关系等。在考虑不同类型的变化时，Ψ 表示智能体的先验状态，Ψ ◦ 表示遗忘或变化操作后的后验状态。

以下是几种涉及遗忘的变化类型：
- 收缩（Contraction） ：这是最明显涉及遗忘的变化类型，即直接意图丢失信息。例如，导航系统可能得知某条街道永久关闭，或者数据保护和安全法规可能要求在一段时间后删除信息。收缩操作是 AGM 信念变化理论的核心，由参数 A 进行参数化，表示要收缩的元素。根据 AGM 公设，对 A 进行收缩后，智能体不再相信 A，即如果 Ψ 是先验信念状态，Ψ ◦ 是收缩 A 后的后验信念状态，则有 Ψ ◦ ̸|≈A。而且，收缩操作通常会导致一个一致的信念状态。
- 无知（Ignorance） ：与收缩不同，智能体可能希望故意对自己的信念不确定。这种遗忘类型在信息冲突的情况下尤为常见，例如，当一个人既是学生又是工作人员时，我们不确定其身份状态。一般来说，在对 A 变得无知后，既不相信 A 也不相信其相反的情况，即如果 Ψ 是先验信念状态，Ψ ◦ 是变化后的后验信念状态，则有 Ψ ◦ ̸|≈A 且 Ψ ◦ ̸|≈¬A。需要注意的是，这并不是理解无知的唯一方式，在模态逻辑等更丰富的语言中，可以用智能体知道自己既不相信 A 也不相信 ¬A 来表达无知。
- 抽象（Abstraction） ：抽象可以被认为是日常生活和科学中最强大的变化操作之一。例如，一个智能体建立了关于自行车的信念，并制定了推断一个物体是否为自行车的规则。如果有规则表明“如果一个物体有车架、两个轮子和自行车铃，那么它是自行车”以及“如果一个物体有车架、两个轮子且没有自行车铃，那么它是自行车”，那么智能体可以抽象出一个新规则：“如果一个物体有车架和两个轮子，那么它是自行车”。更一般地，如果对于先前的信念状态 Ψ 有 Ψ |≈r1：如果 (A 和 B) 成立则推断 C，以及 Ψ |≈r2：如果 (A 和 ¬B) 成立则推断 C，那么在后续状态 Ψ ◦ 中，智能体可以从规则 r1 和 r2 中抽象出 Ψ ◦|≈rnew：如果 A 成立则推断 C。在这里，从 A 推断 C 不依赖于 B 的状态，因此在 rnew 中细节 B 被遗忘了，甚至智能体可能会忘记规则 r1 和 r2。另一种抽象形式对应于归纳推理，将形式为 Ψ |≈ri：如果 A 和 Bi 成立则推断 C 的规则 r1, …, rn 抽象为规则 Ψ ◦|≈rnew：如果 A 成立则推断 C，从而忘记细节 B1, B2, …, Bn 以及可能的规则 r1, …, rn。
- 边缘化（Marginalization） ：屏蔽信息也可以被视为一种遗忘形式，其中一种方式是去除语言中表示的某些方面。例如，在做决策时只考虑某些方面的情况。边缘化是一种核心技术，在概率论中最为著名，它通过减少签名的方式，使某些签名元素不再被考虑。对于 Σ′ ⊆ Σ，用 Ψ|Σ′ 表示 Ψ 的限制，使得对于所有 A ∈ LΣ′，Ψ|Σ′ |≈A 当且仅当 Ψ |≈A。那么，对 Σ′ ⊆ Σ 进行边缘化时，如果 Ψ 是先验信念状态，Ψ ◦ 是变化后的后验信念状态，则有 Ψ ◦ = Ψ|Σ\Σ′。因此，边缘化的遗忘方面在于签名的减少，在大多数应用中这种减少可能是暂时的。从常识的角度来看，边缘化的结果是遗忘由签名的某些部分决定的细节。
- 聚焦（Focussing） ：以一位检查患有罕见过敏症患者的医生为例，医生必须小心选择用药。这就是聚焦，即（暂时）专注于特定案例的相关方面的过程。医生在专注于特定证据时，会屏蔽与当前案例无关的其他治疗方法。因此，聚焦于 A 的操作首先确定相对于聚焦目标 A 的所有无关签名元素 Σ′ ⊆ Σ，然后进行边缘化操作以获得 Ψ ◦ = Ψ|Σ\Σ′。这样定义的聚焦基于边缘化，但关键在于涉及相关性的方面。通常，智能体的这种信念变化只是暂时的。
- 隧道视野（Tunnel View） ：遗忘也可能是暂时限制某些信念的结果。隧道视野表示一种变化，在这种变化中，只考虑某些信念而没有充分考虑它们的相关性。在日常生活中，由于临时资源限制，推理往往会受到限制。在这种情况下，隧道视野可以使智能体由于信息负载减少而更快地做出反应，但可能会导致非最优的推理或结论。隧道视野的实现可以利用边缘化，将不属于隧道的签名元素边缘化。此外，在隧道视野的情况下，智能体可能无法充分利用其思维能力，这可以通过限制推理关系 |≈ 的能力来建模，我们用 |≈r 表示。因此，具有隧道 T ⊆ Σ 和推理限制 r 的隧道视野是一种变化，它导致信念状态 Ψ ◦ 被边缘化到 T，并且智能体使用推理关系 |≈r，即 Ψ ◦|≈A 当且仅当 Ψ|Σ\T |≈r A。隧道视野是一种暂时的变化，其特定方面是隧道化的签名元素的选择没有充分考虑相关性。虽然隧道视野可能带有负面含义，但从心理学角度来看，它可以被视为在压力情况下防止信息过载的一种保护机制。
- 条件化（Conditionalization） ：条件化是一种将我们的信念限制在特定案例或上下文中的变化。例如，大多数人可能会将“tap”与水龙头联系起来，但商人可能会想到政府债券，即使他们都知道对方的含义。我们假设在 Ψ 上存在一个条件化运算符 |，其中 Ψ|A 表示在假设 A 成立的情况下解释 Ψ。因此，独立于任何特定实现，我们可以假设对于每个 A，Ψ|A |≈A 成立。如果 Ψ 表示先验状态，Ψ ◦ 表示这种变化后的后验状态，那么 Ψ ◦ = Ψ|A。条件化受到概率条件化的启发，后验信念由条件概率 P(B|A) 确定，其中 A 表示由于这种变化而获得的证据知识，即 P ◦(B) = P(B|A)。这可以被视为从依赖于上下文的信念中消除上下文，或将我们的信念朝具体方向转移的技术对应物。
- 修正/更新（Revision/Update） ：根据新信息 A 修正当前信念状态 Ψ 是修正操作的目标。如果我们不知道一个人的就业状况，而收到她是工作人员的信息，我们会相应地修正之前的知识。如果我们得知一个之前已知是学生的人现在是工作人员，我们会相应地更新之前的知识。需要注意的是，修正被认为反映了关于静态世界的新信息，而更新发生在不断演变的世界中。此外，在修正或更新中存在遗忘的方面，因为之前持有的知识可能不再可用，例如一个人是否是学生。修正是 AGM 理论的核心操作之一，优先考虑新信息 A 而不是现有信念。如果 Ψ 是先验信念状态，Ψ ◦ 是变化后的后验信念状态，那么我们有 Ψ ◦|≈A。通常，如果 A 是一致的，修正会导致一个一致的信念状态 Ψ ◦。
- 淡出（Fading Out） ：如果我们很少使用信用卡的 PIN 码，那么下次需要使用时忘记它的可能性比频繁使用时要高得多。这种知识的淡出或衰减在日常生活中很常见，它取决于许多参数，例如我们使用这张信用卡的频率、自上次使用以来的时间、PIN 码与其他重要数字组合的相似性等。在认知心理学中，淡出是对遗忘的一个重要解释，最早的证据可以追溯到艾宾浩斯的自我实验，其结果就是著名的遗忘曲线。虽然这个概念对认知架构产生了很大影响并在该领域得到了进一步发展，但在知识表示和推理中还没有将这种现象建模为一种信念变化的方法。为了对这种现象进行建模，我们建议将淡出理解为从智能体的信念状态中推断信息的难度逐渐增加。我们将推理与一个依赖于当前信念状态 Ψ 的努力或成本函数 f 相关联（类似于 ACT - R 或 SOAR 中的激活函数）。那么，Ψ |≈A 当且仅当激活值 f(A) 高于某个阈值。如果 Ψ |≈A 成立，A 的淡出表现为一系列连续的后验信念状态 Ψ ◦1, Ψ ◦2, Ψ ◦3, …，使得存在一个 n，满足 Ψ ◦1 |≈A, …, Ψ ◦n - 1 |≈A 且 Ψ ◦n ̸|≈A。定义一个具体的淡出操作的一个特殊困难是需要考虑信息 A 再次被恢复/记住的可能性。

以下是这些遗忘类型的总结表格：
| 遗忘类型 | 描述 | 示例 |
| — | — | — |
| 收缩 | 直接意图丢失信息，基于 AGM 理论，收缩后不再相信特定元素 | 导航系统得知街道永久关闭，删除相关信息 |
| 无知 | 故意对信念不确定，既不相信 A 也不相信 ¬A | 不确定一个既是学生又是工作人员的人的身份状态 |
| 抽象 | 从具体规则中抽象出新规则，忘记细节 | 从关于自行车的具体规则中抽象出通用规则 |
| 边缘化 | 去除语言中表示的某些方面，减少签名 | 做决策时只考虑某些方面 |
| 聚焦 | 暂时专注于特定案例的相关方面，基于边缘化 | 医生检查罕见过敏症患者时屏蔽无关治疗方法 |
| 隧道视野 | 只考虑某些信念而不充分考虑相关性，可利用边缘化 | 由于临时资源限制，推理受限时只考虑部分信息 |
| 条件化 | 将信念限制在特定案例或上下文中 | 不同人对“tap”的不同理解 |
| 修正/更新 | 根据新信息修正或更新信念，可能遗忘之前的知识 | 得知一个人的就业状态变化后更新知识 |
| 淡出 | 知识随着时间和使用频率等因素逐渐难以推断 | 很少使用信用卡 PIN 码导致遗忘 |

下面是这些遗忘类型的关系 mermaid 流程图：

graph LR
    A[遗忘类型] --> B[收缩]
    A --> C[无知]
    A --> D[抽象]
    A --> E[边缘化]
    A --> F[聚焦]
    E --> F
    A --> G[隧道视野]
    E --> G
    A --> H[条件化]
    A --> I[修正/更新]
    A --> J[淡出]

常识知识与信念管理中的遗忘类型与方面

3. 遗忘的方面及未来展望

遗忘出现在许多知识和信念变化操作中，为了刻画不同形式的遗忘，我们识别并区分以下几个方面：
- 永久性方面 ：描述在智能体或环境不进行进一步干预以恢复遗忘时，被遗忘的信息会保持遗忘状态的时长。例如，在隧道视野和聚焦中，遗忘只是暂时的；而在收缩等操作中，人们通常期望遗忘更具永久性。
- 持续时间方面 ：描述从变化开始到遗忘发生所需要的时间。虽然前面的例子没有明确说明变化的持续时间，但我们可以预期抽象过程可能需要几天到几个月，而聚焦则可能会立即产生效果。
- 相关性选择方面 ：有些变化类型中，被遗忘的实体是基于相关性概念进行选择的。例如，聚焦是一种根据与聚焦主题的相关性来选择保留信念的变化，相应地，被遗忘的实体是基于无关性选择的；而隧道视野则可能是一种不根据相关性选择隧道化元素的变化。
- 遗忘主体类型方面 ：指的是即将被遗忘的信念的类型。例如，在抽象中，遗忘的主体类型可以是规则或规则的部分；而在经典 AGM 理论中，收缩或修正所遗忘的主体类型是命题。
- 智能体意识方面 ：涉及智能体对遗忘的意识程度。例如，在模态逻辑中对无知的一种实现方式足以表明智能体意识到了遗忘。

以下是这些遗忘方面的总结表格：
| 遗忘方面 | 描述 | 示例 |
| — | — | — |
| 永久性 | 遗忘信息保持遗忘的时长，无干预情况下的持久性 | 隧道视野和聚焦为暂时，收缩为永久 |
| 持续时间 | 从变化开始到遗忘发生的时间 | 抽象需数天到数月，聚焦可立即生效 |
| 相关性选择 | 遗忘实体是否基于相关性选择 | 聚焦基于相关性，隧道视野不基于相关性 |
| 遗忘主体类型 | 被遗忘信念的类型 | 抽象为规则或部分规则，收缩和修正为命题 |
| 智能体意识 | 智能体对遗忘的意识程度 | 模态逻辑中无知的实现体现智能体意识 |

未来，我们将进一步阐述遗忘的更多方面，并相应地对不同形式的遗忘进行分类。另一个主要的研究挑战是详细阐述受心理学启发的隧道视野和淡出等变化操作的形式逻辑属性。

下面是遗忘方面与遗忘类型关联的 mermaid 流程图：

graph LR
    A[遗忘方面] --> B[永久性]
    A --> C[持续时间]
    A --> D[相关性选择]
    A --> E[遗忘主体类型]
    A --> F[智能体意识]
    B --> G[收缩]
    B --> H[隧道视野]
    B --> I[聚焦]
    C --> J[抽象]
    C --> I
    D --> I
    D --> H
    E --> K[抽象]
    E --> L[收缩]
    E --> M[修正/更新]
    F --> N[无知]

综上所述，遗忘在知识和信念管理中扮演着重要的角色，不同的遗忘类型和方面相互关联且具有各自的特点和应用场景。对遗忘的深入研究有助于我们更好地理解智能体的认知过程，以及如何在人工智能系统中模拟和应用这些认知机制，以提高系统的效率和适应性。随着研究的不断深入，我们有望为智能体的知识和信念管理提供更完善的理论和方法。