Enhancing Large Language Models through Neuro-Symbolic Integration and Ontological Reasoning

主要内容

文章聚焦于大语言模型（LLMs）在自然语言处理中存在的幻觉问题，提出一种神经符号集成与本体推理相结合的方法，以增强LLMs输出的一致性和可靠性。具体内容如下：

1. 背景与问题：LLMs在自然语言处理能力上表现出色，但存在幻觉现象，影响其在对可靠性要求较高领域的应用。神经符号人工智能旨在结合深度学习与符号推理的优势，本体推理为解决LLMs的问题提供了潜力。
2. 相关工作：介绍了LLM幻觉现象及缓解策略、本体推理在AI中的应用、神经符号AI、本体在LLM工作流程中的应用、自然语言到逻辑的映射以及本体推理机等方面的研究现状。
3. 方法论：提出一种神经符号管道，包含本体构建与推理、逻辑语句生成（语义解析）以及一致性检查和优化三个主要步骤。通过将LLM输出映射为逻辑形式，与本体进行一致性检查，并利用反馈循环引导LLM生成更合理的响应。
4. 实现细节：使用Python实现了一个原型，包括利用Owlready2构建本体、自动生成训练数据、使用scikit-learn训练分类器以及编排和评估管道。
5. 实验评估：在发动机故障领域本体上进行小规模评估，结果表明该管道能有效识别与本体不一致的情况，并引导LLM生成符合本体约束的响应。