人工智能导论(4)——不确定性推理(Uncertainty Reasoning)

---

一、 概述

人工智能经典三大基本技术为：知识表示、推理、搜索策略。推理是人类求解
问题的主要思维方法。

无论是人类智能还是人工智能，都离不开不确定性的处理。
可以说，智能主要反映在求解不确定性问题的能力上。
因此，不确定性推理模型是人工智能和专家系统的一个核心研究课题。

为方便记忆和回顾，根据个人学习，总结人工智能基础知识和思维导图形成系列。

二、 重点内容

• 不确定性推理的概念及分类
• 不确定性推理中的基本问题
• 概率方法及贝叶斯公式
• 可信度方法
• 模糊推理

三、 思维导图

四、 重点知识笔记

1. 不确定性推理概述

1.1 概念

不确定性推理是指从不确定性的初始证据出发，通过运用不确定性的知识，
推出具有一定程度的不确定性但却合理或近乎合理的结论的思维过程。

不精确性是科学认识中的重要规律，也是进行机器智能推理的主要工具之一。

1.2 分类

不确定性推理方法主要分为控制方法和模型方法两类。

• 模型方法
  • 数值模型方法
    • 基于概率
      • 概率方法（纯概率法应用受限）
      • 贝叶斯方法
      • 可信度方法
      • 证据理论
    • 基于模糊理论
      • 模糊方法
  • 非数值模型方法
    • 发生率计算方法
• 控制方法
  • 尚没有统一模型。相关性指导、机缘控制、启发式搜索、随机过程控制等

控制方法

控制方法没有处理不确定性的统一模型，其效果极大地依赖于控制策略。

不确定性推理的控制方法主要取决于控制策略，包括相关性指导、机缘控制、启发式
搜索、随机过程控制等。

模型方法

模型方法具体可分为数值模型方法和非数值模型方法两类。按其依据的理论不同，
数值模型方法主要有基于概率的方法和基于模糊理论的推理方法。

纯概率方法虽然有严格的理论依据，但通常要求给出事件的先验概率和条件概率，
而这些数据又不易获得，因此使其应用受到限制。在概率论的基础上提出了一些
理论和方法，主要有可信度方法、证据理论、基于概率的贝叶斯推理方法等。

目前，在人工智能中，处理不确定性问题的主要数学工具有概率论和模糊数学。

目前常用的不确定性推理的数学方法主要有基于概率的似然推理（Plausible Reasoning）、基于模糊数学的模糊推理（FuzzyReasoning）、可信度方法，
以及使用人工神经网络算法、遗传算法的计算推理等。

1.3 基本问题

所有的不确定性推理方法都必须解决3个问题：

（1）表示问题

表示问题指的是采用什么方法描述不确定性。

在专家系统中，“知识不确定性”一般分为两类：一是规则的不确定性，二是证据的不确定性。

• 一般用(E→H, f(H,E))来表示规则的不确定性，f(H,E)即相应规则的不确定性程度，称为规则强度。
• 一般用(命题E, C(E))表示证据的不确定性，C(E)通常是一个数值，代表相应证据的不确定性程度，称为动态强度。

规则和证据不确定性的程度常用可信度来表示。

在专家系统MYCIN 中，可信度表示规则及证据的不确定性，取值范围为[−1, 1]。

• 当可信度取大于零时，其数值越大，表示相应的规则或证据越接近于“真”；
• 当可信度小于零时，其数值越小，表示相应的规则或证据越接近于“假”。

（2）语义问题

语义问题指上述表示和计算的含义是什么，即对它们进行解释。即需要对规则和证据的
不确定性给出度量。

• 对于证据的不确定性度量C(E)，需要定义在下述3种典型情况下的取值：
  • E为真，C(E)=?
  • E为假，C(E)=?
  • 对E一无所知，C(E)=?
• 规则的不确定性度量f(H,E)，需要定义在下述3种典型情况下的取值：
  • 若E为真，则H为真，这时f(H,E)=?
  • 若E为真，则H为假，这时f(H,E)=?
  • E对H没有影响，这时f(H,E)=?

（3）计算问题

计算问题主要指不确定性的传播和更新。即计算问题定义了一组函数，求解结论的
不确定性度量。

主要包括3方面：

• 不确定性的传递算法
  • 已知前提E的不确定性C(E)和规则强度f(H,E)求结论H的不确定性
  • 即定义函数f1，使得C(H)=f1(C(E),f(H,E))
• 结论不确定性合成
  • 由两个独立的证据E1和E2求得的假设H的不确定性C1(H)和C2(H)，求证据E1和E2的组合导致的假设H的不确定性
  • 即定义函数C(H)=f2(C1(H),C2(H))
• 组合证据的不确定性算法
  • 已知证据E1和E2的不确定性C1(E)和C2(E)，求证据E1和E2的析取和合取的不确定性
  • 即定义函数C(E1∧E1)=f3(C(E1),C(E2))；C(E1∨E2)=f4(C(E1),C(E2))

组合证据的不确定性的计算已经提出了多种算法，用得最多的是如下3种：

• 最大最小法
  • C(E1∧E2) = min{C(E1),C(E2)}
  • C(E1∨E2) = max{C(E1),C(E2)}
• 概率方法
  • C(E1∧E2) = C(E1)×C(E2)
  • C(E1∨E2) = C(E1)+C(E2)−C(E1)×C(E2)
• 有界方法
  • C(E1∧E2) = max{0, C(E1)+C(E2)−1}
  • C(E1∨E2) = min{1, C(E1)+C(E2)}

2. 概率方法

有完善的理论，被最早用于不确定性知识的表示和处理。但因条件概率不易给出、计算量
大等原因，应用受了限制。

2.1 基础知识

（1）条件概率定义

P(B|A)=P(AB)/P(A)称为事件A发生的条件下事件B的条件概率

（2）全概率公式

设事件A1,A2,…,An互不相容，其和为全集。则对于任何事件B：P(B)=Σ(P(Ai)×P(B|Ai))

一般的，如果一个集合含有我们所研究问题中涉及的所有元素，那么就称这个集合为
全集，通常记作U。

（3） 贝叶斯公式

设事件A1,A2,…,An互不相容，其和为全集。则对于任何事件B：
P(Ai|B)=P(Ai)×P(B|Ai)/P(B)

贝叶斯公式可以用条件概率公式证明：

推导：
P(Ai|B) = P(AiB)/P(B)         #条件概率公式
        = P(Ai)×P(B|Ai)/P(B)  #分子代入条件概率公式

证明：
P(Ai|B) = P(Ai)×P(B|Ai)/P(B)
        = P(AiB)/P(B)         #分子代入条件概率公式
        = P(Ai|B)             #条件概率公式

用全概率公式代入贝叶斯公式，可以得到贝叶斯公式的另一种形式：

P ( A i ∣ B ) = P ( A i )   P ( B ∣ A i ) Σ i [ P ( A i ) P ( B ∣ A i ) ] P(A_i|B)=\frac{P(A_i)\ P(B|A_i)}{\Sigma_i [P(A_i)P(B|A_i)]} P(Ai​∣B)=