28、人工智能中的常识理解、知识表示与推理

人工智能中的常识理解、知识表示与推理

1. 重要系统与观点概述

在人工智能领域，有几个重要的系统和观点值得关注。CYC系统若能得到系统的描述和评估，将对该领域有益。若它解决了部分常识推理问题，那它不仅是有用的工具，也是进一步研究的起点；若遇到困难，可从中吸取教训；若完全无用，研究者也可停止重复造轮子的担忧。

NELL项目在2018年Tom Mitchell团队的文章“Never - Ending Learning”中有所描述。“GOFAI”术语来自John Haugeland的《Artificial Intelligence: The Very Idea》。深度学习领域的领军人物如Yann LeCun、Yoshua Bengio和Geoffrey Hinton强调了常识对AI系统的重要性，他们相信深度学习最终能解决常识问题。COMET系统采用了更混合的方法，在Antoine Bosselut等人的预印本“COMET”中有介绍。

2. 对世界的常识性理解

对世界的常识性理解有不同的视角。在发展心理学中，研究人员常关注世界的物理方面，以物理因果关系为核心，空间和时间起着重要作用。相关著作有Gary Marcus的《The Birth of the Mind》、Steven Pinker的《The Language Instinct》以及Elizabeth Spelke和Katherine Kinzler的“Core Knowledge”。

在人工智能中，系统所了解的事物分类有时被称为本体论。不同领域的AI系统可能使用不同的本体论，如考古学、内分泌学、社会学和神话学等领域。Steffen Staab和Rudi Studer编写了《Handbook on Ontologies》。有时AI系统的知识会先被分类到广义的上层本体中，相关文章有Aldo Gangemi等人的“Understanding Top - Level Ontological Distinctions”和Ian Niles与Adam Pease的“Towards a Standard Upper Ontology”。

物理学家用“万物理论”来描述对整个宇宙的统一数学解释。对许多研究者来说，常识主要关注中等宏观物体，如位置、形状、封闭性等。“朴素物理学”（有时称为“民间物理学”）由Patrick Hayes在其“Naive Physics Manifesto”中推广，“定性物理学”强调对物理对象和属性的非数值推理，相关工作源于Johan de Kleer的思想，后由Ken Forbus等人完善。关于定性物理学，对空间和时间的推理很重要，如Anthony Cohn的“The Challenge of Qualitative Spatial Reasoning”和James Allen的“Maintaining Knowledge about Temporal Intervals”。常识惯性定律在Murray Shanahan的《Solving the Frame Problem》和Erik Mueller的《Commonsense Reasoning》第5章中有详细探讨，它与框架问题相关。语言的位移属性在Derek Bickerton的《Adam’s Tongue》中有讨论。

在数量和极限方面，定性推理数量的目标是不使用实数或大整数，这是定性物理学和量级推理的基础，相关例子如David McAllester的“Observations on Cognitive Judgments”中关于国际象棋中棋子移动的例子。

朴素心理学与朴素物理学类似，相关文章有Andy Clark的“From Folk Psychology to Naive Psychology”和Stuart Watt的“A Brief Naive Psychology Manifesto”。将智能体建模为受信念、欲望和意图支配的观点在Jerry Hobbs和Andrew Gordon的“Toward a Large - Scale Formal Theory of Commonsense Psychology for Metacognition”以及Anand Rao和Michael Georgeff的“Modeling Rational Agents within a BDI - Architecture”中有介绍。关于意图的衍生属性，Philip Cohen和HJL的“Intention Is Choice with Commitment”有相关探讨。儿童对他人可能基于错误信念行动的认知在Alison Gopnik和Janet Astington的“Children’s Understanding of Representational Change”中有讨论。言语行为在John Searle的《Expression and Meaning》以及Cohen和C. Raymond Perrault的“Elements of a Plan - Based Theory of Speech Acts”中有涉及。团队智能体的联合意图在Cohen和HJL的“Teamwork”以及Searle的“Collective Intentions and Actions”中有讨论。关于多智能体群体的“朴素社会学”，可参考Michael Wooldridge的《An Introduction to Multiagent Systems》。人工智能中因果关系的研究主要与Judea Pearl的《Causality》和《The Book of Why》以及他与Joseph Halpern的合作有关，重点是从基本因果事实中得出适当结论并区分因果关系和统计相关性。

3. 常识知识

概念不能仅通过定义来完全刻画。例如，生日派对不仅是庆祝某人生日的聚会，在西方传统中还有蛋糕、蜡烛和歌曲。哲学家Willard Van Orman Quine和Ludwig Wittgenstein反对用绝对定义来理解概念。

Marvin Minsky的工作对常识知识的探索有重要影响。他更关注类人推理，与John McCarthy不同，McCarthy更关注为推理建立逻辑和数学基础，而Minsky更关注实际推理的理论。Minsky提出了框架系统的概念，相关内容可参考他的MIT AI Laboratory Memo 306（“A Framework for Representing Knowledge”）和《Society of Mind》。

Roger Schank及其学生的研究强调以刻板方式记忆情境并根据经验调整的推理方式，相关著作有Schank的“Language and Memory”、《Dynamic Memory》以及与Robert Abelson的《Scripts, Plans, Goals, and Understanding》。Jaime Carbonell和Steven Minton提出了经验推理假设。Janet Kolodner等人将基于记忆的推理扩展到医疗诊断、设计、冲突解决等领域，相关著作是《Case - Based Reasoning》。

心理学和哲学中也有很多关于概念的重要观点。例如，原型的概念在心理学文献中常见，可参考Douglas Medin和Edward Smith的“Concepts and Concept Formation”以及Eleanor Rosch和Barbara Lloyd编辑的《Cognition and Categorization》。Jaakko Hintikka在《Knowledge and Belief》中讨论了“知道某事”和“知道某人”的区别。Bertrand Russell在“On Denoting”中关于名称、名词短语和个体的观点会影响后续对个体符号的使用。

Brian Cantwell Smith的相关引用来自《The Promise of Artificial Intelligence》第63页。Rod Brooks关于世界及其模型的陈述来自“Intelligence without Representation”第139页。McCarthy在1998年的论文“Elaboration Tolerance”中讨论了概念细化和注释的可扩展性。George Klir和Bo Yuan编辑的《Fuzzy Sets, Fuzzy Logic, and Fuzzy Systems》涉及分级概念和属性。Yves Lespérance和HJL在1995年的文章“Indexical Knowledge and Robot Action”中探讨了索引知识在AI中的应用。儿童对概念的理解在后续也有重要意义，相关儿童字典是John Trevaskis和Robin Hyman的《Boys’ and Girls’ First Dictionary》。

4. 知识表示与推理（上）

知识表示与推理是人工智能的一个重要子领域。早期的研究文章集有RJB和HJL的《Readings in Knowledge Representation》，更近期的综述文章集是Frank van Harmelen等人编辑的《Handbook of Knowledge Representation》，RJB和HJL的《Knowledge Representation and Reasoning》教科书对相关问题有更深入的探讨。

本章介绍的世界和概念模型关注个体事物及其之间的联系，这种基于连接的表示方式在20世纪70年代以语义（或概念、关联）网络的形式流行起来。Nicholas Findler编辑的《Associative Networks》收集了相关文章，RJB的“On the Epistemological Status of Semantic Networks”对该领域进行了综述。有人认为Charles Sanders Peirce在20世纪初就提出了使用网络的想法，可参考Don Roberts的《The Existential Graphs of Charles S. Peirce》。Ross Quillian的“Semantic Memory”对AI中语义网络的发展有重要影响，语义网络的连通性使其适合基于路径的处理，如Scott Fahlman的《NETL》和Stuart Shapiro的“Path - Based and Node - Based Inference in Semantic Networks”中所讨论的系统就利用了这一特点。

语义网络的一个基本特征是概念的分类组织和属性继承，但节点和链接背后隐藏着许多微妙的概念陷阱。William Woods在“What’s in a Link”中分析了对网络链接的一些错误假设，RJB在“What’s in a Concept”和“What ‘IS - A’ Is and Isn’t”中也提出了相关观点。

以世界模型中的符号SpacePt#25为例，它可能代表波士顿的一个特定位置（事件#23发生的地方），也可能代表事件#23发生的位置（恰好位于波士顿）。在不同情况下，当发现信息错误时，对链接的修改方式不同。

基于这些分析，出现了著名的KL - ONE知识表示系统，RJB和James Schmolze在“An Overview of the KL - ONE Knowledge Representation System”中有介绍，它为描述逻辑的发展奠定了基础。Franz Baader等人的《Description Logic Handbook》提供了全面的视角。本章中世界模型和概念模型的区别类似于描述逻辑中ABox和TBox的区别。Minsky的框架概念与描述逻辑中的符号表达式密切相关，Charles Fillmore的“Frame Semantics”和Patrick Hayes的“The Logic of Frames”讨论了框架结构的解释，这也与语言学中的格框架有关，Fillmore的“1968 paper “The Case for Case”是相关基础。KL - ONE系统有丰富的结构描述语言来捕捉概念角色之间的关系。

另一个复杂的表示框架是KRL，Daniel Bobrow和Terry Winograd在1977年的“An Overview of KRL, a Knowledge Representation Language”中有介绍，它有一些有趣的构造，还涉及元级表示和推理。

原型和范例在前面章节有讨论，重构记忆的概念可追溯到Sir Frederic Bartlett的《Remembering》。Elizabeth Loftus的《Eyewitness Testimony》记录了关于目击者记忆的重要研究。最后，对世界的认知会不断修正，Matthew Ginsberg的《Readings in Non - monotonic Reasoning》强调了在典型假设下处理例外情况的问题。信念修正的研究很重要，相关著作有Peter Gärdenfors编辑的《Belief Revision》和Bernhard Nebel的“A Knowledge Level Analysis of Belief Revision”。人工智能系统中支持信念改变常通过真值维护系统实现，如Johan de Kleer的“An Assumption - Based TMS”和Jon Doyle的“A Truth Maintenance System”。

下面用mermaid流程图展示知识表示与推理的部分流程：

graph LR
    A[语义网络] --> B[分类组织与属性继承]
    B --> C[概念陷阱分析]
    C --> D[KL - ONE系统]
    D --> E[描述逻辑]
    E --> F[相关应用与研究]

5. 知识表示与推理（下）

上一章主要关注常识知识的表示，本章则侧重于推理，目标是找到一种“微积分”，能在大规模知识库上自动、轻松地计算出合理的信念。

首先要创建一种符号语言来表示要相信的命题。这里引入的语言L是一阶谓词演算的一种方言，只有一元和二元谓词，常量的处理方式类似于HJL和Gerhard Lakemeyer的《The Logic of Knowledge Bases》中对标准名称的处理。实际上，由于使用“after”来描述事件和变化，L更像John McCarthy在“Situations, Actions, and Causal Laws”中引入的情境演算的一种方言。情境演算后来由Raymond Reiter等人进行了调整和形式化，相关著作有Reiter的《Knowledge in Action》和Fangzhen Lin的“2008 article “Situation Calculus”。根据McCarthy和Patrick Hayes的“Some Philosophical Problems from the Standpoint of Artificial Intelligence”，可能需要对L进行扩展以处理时间和模态等概念。

接下来，将世界模型理解为仅表示世界的基本属性，并使用涉及L公式的特殊子句来推导其他属性。这些子句使整个表示系统更像Datalog，考虑数字和序列后更像Prolog。Datalog的相关内容可参考Serge Abiteboul等人的《Foundations of Databases》，Prolog的历史可参考Alain Colmerauer和Philippe Roussel的“The Birth of Prolog”，其编程方面可参考Willliam Clocksin和Christopher Mellish的《Programming in Prolog》以及HJL的《Thinking as Computation》。

在逻辑推理中，关于变化的推理面临的首要问题是框架问题，可参考McCarthy和Hayes的“Some Philosophical Problems”以及Murray Shanahan的《Solving the Frame Problem》。简单来说，框架问题是在只知道受影响的前提时，如何得出不受事件影响的结论。本章提出的关于变化的推理方法基于Reiter在1991年文章“The Frame Problem in the Situation Calculus”中提出的解决方案，并在《Knowledge in Action》中进行了详细阐述，大致涉及对事件的逻辑量化。

规划最早被McCarthy在“Situations, Actions, and Causal Laws”中描述为一种逻辑推理形式。自那以后，自动化规划在AI中有很长的历史，有许多专门的表示和推理方案，如Richard Fikes和Nils Nilsson引入的STRIPS表示。Malik Ghallab、Dana Nau和Paolo Traverso的《Automated Planning》教科书涵盖了一些专门的规划方案。

除了推理行动的效果，还需要推理行动的前提条件，这对Reiter来说表现为所谓的前提条件公理，在我们的讨论中被视为另一种派生属性。这引发了McCarthy在“Epistemological Problems of Artificial Intelligence”中提到的资格问题，即如何对行动的前提条件进行分类，而不必列出所有可能的阻碍。这是第6章中想要做出简洁陈述但又能随时细化的问题的一个特例。

最后，对于回答诸如“石榴能放进洗衣篮吗？”这样的通用问题，文中提出了通过实例化的方法。

下面用表格总结知识表示与推理的相关系统和语言：
| 系统/语言 | 相关描述 | 参考资料 |
| ---- | ---- | ---- |
| L语言 | 一阶谓词演算方言，类似情境演算 | 相关逻辑书籍及McCarthy、Reiter等人的文章 |
| Datalog | 用于表示和推理属性派生 | 《Foundations of Databases》 |
| Prolog | 常用于编程，与推理系统相关 | 《Programming in Prolog》《Thinking as Computation》 |
| STRIPS | 自动化规划的表示方案 | Fikes和Nilsson的文章 |

综上所述，人工智能中的常识理解、知识表示与推理是一个复杂且相互关联的领域，涉及多个系统、理论和方法，未来还有很多研究和发展的空间。

人工智能中的常识理解、知识表示与推理

6. 各领域研究的相互关联与意义

在人工智能的发展进程中，各个领域的研究并非孤立存在，而是相互关联、相互影响的。例如，发展心理学中对世界物理方面的研究为人工智能中本体论的构建提供了基础。从物理因果关系、空间和时间的角度去理解世界，有助于AI系统更好地模拟人类对世界的认知。而本体论的研究又为知识表示与推理提供了分类和组织的框架，使得AI系统能够更有效地处理和存储知识。

常识知识的研究，如概念的形成和理解，与知识表示和推理密切相关。对概念不能仅靠定义来刻画的认识，促使研究者探索更灵活的知识表示方法，如Minsky的框架系统和基于记忆的推理方法。这些方法为解决实际问题提供了更有效的途径，如在医疗诊断、设计和冲突解决等领域的应用。

因果关系的研究在人工智能中也具有重要意义。它不仅帮助AI系统从基本因果事实中得出合理的结论，还能区分因果关系和统计相关性，这对于做出准确的决策和预测至关重要。例如，在自动化规划中，了解行动的因果关系和前提条件，能够更好地规划行动步骤，提高规划的效率和准确性。

下面用mermaid流程图展示各领域研究的相互关联：

graph LR
    A[发展心理学] --> B[本体论]
    B --> C[知识表示与推理]
    D[常识知识研究] --> C
    E[因果关系研究] --> C
    C --> F[实际应用领域]

7. 面临的挑战与未来展望

尽管人工智能在常识理解、知识表示与推理方面取得了一定的进展，但仍面临着许多挑战。

在知识表示方面，语义网络虽然具有一定的优势，但节点和链接背后的概念陷阱使得准确表示知识变得困难。例如，符号的含义和解释可能存在歧义，不同的解释会导致不同的推理结果。KL - ONE等知识表示系统虽然在一定程度上解决了这些问题，但仍需要进一步完善。

推理方面，框架问题和资格问题仍然是亟待解决的难题。框架问题涉及如何在复杂的环境中准确地推理出不受事件影响的结论，而资格问题则需要更有效的方法来分类和处理行动的前提条件。

未来，人工智能需要不断探索新的方法和技术来应对这些挑战。一方面，可以结合不同的知识表示方法，发挥各自的优势，提高知识表示的准确性和灵活性。例如，将框架系统与描述逻辑相结合，更好地处理概念和关系的表示。另一方面，需要进一步发展推理算法，提高推理的效率和准确性。例如，利用机器学习和深度学习的方法，从大量的数据中学习因果关系和推理规则。

在常识知识的获取和理解方面，未来可以加强与心理学、哲学等学科的合作，借鉴人类认知的研究成果，使AI系统更好地模拟人类的常识思维。同时，随着数据的不断增长和计算能力的提高，可以利用大数据和云计算技术，构建更庞大和复杂的知识库，为常识推理提供更丰富的信息。

8. 总结与启示

人工智能中的常识理解、知识表示与推理是一个充满挑战和机遇的领域。通过对CYC、NELL等系统的研究，以及对常识知识、本体论、知识表示和推理方法的探索，我们对人工智能的发展有了更深入的认识。

各领域的研究相互关联，共同推动着人工智能的进步。从发展心理学到本体论，从常识知识到知识表示与推理，每一个环节都为AI系统的智能化提供了支持。

在实际应用中，我们可以看到这些研究成果的价值。例如，在医疗诊断、设计、冲突解决和自动化规划等领域，基于常识推理的方法能够提高决策的准确性和效率。

然而，我们也应该清醒地认识到面临的挑战。概念陷阱、框架问题和资格问题等仍然需要我们不断努力去解决。未来，我们需要不断创新和探索，结合多学科的知识和技术，推动人工智能在常识理解、知识表示与推理方面取得更大的突破。

下面用表格总结人工智能发展中的挑战与应对策略：
| 挑战 | 具体表现 | 应对策略 |
| ---- | ---- | ---- |
| 知识表示歧义 | 语义网络中符号含义和解释存在歧义 | 结合多种知识表示方法，如框架系统与描述逻辑 |
| 框架问题 | 难以准确推理出不受事件影响的结论 | 发展更有效的推理算法，利用机器学习和深度学习 |
| 资格问题 | 难以分类和处理行动的前提条件 | 借鉴多学科知识，构建更庞大的知识库 |

总之，人工智能的发展需要我们不断地探索和创新，充分发挥各领域研究的优势，以应对各种挑战，实现人工智能的智能化和人性化发展。