9、统计关系学习的基于逻辑的形式化方法

统计关系学习的基于逻辑的形式化方法

1 引言

在统计关系学习（SRL）领域，将逻辑与概率相结合的形式化方法备受关注。我们聚焦于理解这些形式化方法所代表的内容，因为这是掌握现有和潜在学习算法的基础。

这里不探讨概率推理的一般问题，也不采用哲学文献中对概率的逻辑解释。在这种逻辑解释中，任意两个命题之间存在由唯一条件概率衡量的部分蕴含关系，但我们讨论的形式化方法拒绝这种观点，概率要么由用户定义，要么从数据中估计。

1.1 可能世界语义

虽然基于逻辑的SRL形式化方法不认同用逻辑确定概率，但广泛采用了用可能世界为概率陈述提供语义的方法。为解释概率陈述的可能世界语义，以Halpern的符号为例，“flies(tweety)为真的概率”表示为w(flies(tweety))，“该概率为0.8”表示为w(flies(tweety)) = 0.8。判断一个概率分布是否满足这样的陈述，关键在于看使flies(tweety)为真的可能世界集合的概率是否为0.8，这意味着w(flies(tweety))是一个边缘概率，可通过对可能世界概率求和计算。

2 表示

概率 - 逻辑形式化方法定义概率主要有两种途径。

2.1 有向方法

有向方法中，存在一组概率明确的公式（概率事实），其他概率基于这些事实递归定义，这种模型与递归图形模型（贝叶斯网络）密切相关。多数概率 - 逻辑形式化方法属于此类，如概率逻辑编程（PLP）、概率Horn溯因（PHA）及其扩展独立选择逻辑（ICL）、概率知识库（PKBs）、贝叶斯逻辑程序（BLPs）、关系贝叶斯网络（RBNs）、随机逻辑程序（SLPs）和PRISM系统。 <