基于神经符号方法的LLM空间推理增强

最新推荐文章于 2025-12-04 13:49:48 发布

原创最新推荐文章于 2025-12-04 13:49:48 发布 · 1.1k 阅读

22 ·

CC 4.0 BY-SA版权

文章标签：

#人工智能 #自然语言处理 #大模型 #程序人生 #LLM #大语言模型 #计算机技术

斯图加特大学的研究人员提出了一种神经符号框架，结合策略性提示和符号推理（ASP），增强大型语言模型的空间推理能力，并在StepGame和SparQA数据集上取得了显著的性能提升，特别是对于多步规划和复杂三维空间关系的处理。

论文介绍

在当今世界，大型语言模型 (LLMs) 在各种任务中展现出优异的性能，并展现出不同的推理能力。这对推进通用人工智能 (AGI) 及其在机器人和导航中的应用至关重要。空间推理包括定量方面（例如距离、角度）和定性方面（例如“附近”或“内部”等相对位置）。虽然人类擅长这些任务，但 LLMs 通常难以进行空间推理，而空间推理是推理和推断的重要组成部分，需要理解空间中物体之间复杂的相互关系。这些问题表明，LLMs 的空间推理能力的提升需要有效且相互关联的方法。

传统的 LLM 方法仅依赖于单次调用 LLMs 的自由形式提示来实现空间推理。然而，这些方法已显示出明显的局限性，尤其是在需要多步规划的挑战性数据集（例如 StepGame 或 SparQA）上往往会失败。研究人员已经开发了诸如思维链 (CoT) 提示和思维可视化等新方法来增强推理能力。使用外部工具或通过神经符号方法（例如 ASP）将事实提取与逻辑推理相结合等最新进展提供了更好的结果。然而，挑战仍然存在，例如在有限的数据集上进行测试、方法未得到充分利用以及反馈系统薄弱。这些问题表明，LLMs 的空间推理能力的提升需要有效且相互关联的方法。

为了解决这个问题，斯图加特大学的研究人员提出了一个系统的神经符号框架，通过将策略提示与符号推理相结合来增强 LLMs 的空间推理能力。这种方法集成了反馈循环和基于 ASP 的验证，以提高复杂任务的性能，证明了其在不同 LLM 架构中的泛化能力。

该研究探索了使用两个数据集改进 LLMs 空间推理能力的方法：StepGame，包含涉及最多 10 个推理步骤的合成空间问题；SparQA，包含具有不同格式和 3D 空间关系的复杂文本问题。测试了三种方法：用于逻辑推理的 ASP，将符号推理与 DSPy 优化相结合的 LLM+ASP 管道，以及将规则嵌入提示以简化计算的“事实 + 逻辑规则”方法。Clingo、DSPy 和 LangChain 等工具支持实现，而 DeepSeek 和 GPT-4 Mini 等模型则使用 micro-F1 分数等指标进行评估，显示了这些方法的适应性。

在 SparQA 数据集上，“LLM + ASP”方法显示出准确性有所提高，尤其是对于 GPT-4 的“查找关系”和“查找块”问题。然而，“是/否”问题通过直接提示效果更好。错误分析显示了 grounding 和 parsing 方面的问题，这需要针对每个模型进行特定的优化。“事实 + 规则”方法优于直接提示，在 SparQA 中准确率提高了 5% 以上。这种方法将自然语言转换为结构化事实并应用逻辑规则，尤其是在扩展推理的情况下，Llama3 70B 表现出色。神经符号方法也优于两个数据集的准确性。StepGame 达到 80% 以上，SparQA 接近 60%。这比基线提示有了显著改进，StepGame 的准确率提高了 40-50%，SparQA 提高了 3-13%。

成功的关键因素是区分语义解析和逻辑推理、清晰的空间关系和多跳处理。因此，该方法在更简单、定义明确的环境中比复杂的自然 SparQA 数据集表现得更好。

总而言之，所提出的框架提高了 LLMs 的空间推理能力。事实上，实验结果比传统的神经符号系统更有效，同时提高了与几种不同类型的 LLMs 相关的困难空间推理任务的性能。虽然该方法在 StepGame 上实现了超过 80% 的准确率，但在更复杂的 SparQA 上平均为 60%。因此，该方法在未来有提升的空间，以实现更高的性能和更好的结果。这项工作为人工智能的未来突破奠定了关键基础，可以作为未来研究人员的基准！

论文下载

论文地址：https://arxiv.org/abs/2411.18564

如何学习大模型

现在社会上大模型越来越普及了，已经有很多人都想往这里面扎，但是却找不到适合的方法去学习。

作为一名资深码农，初入大模型时也吃了很多亏，踩了无数坑。现在我想把我的经验和知识分享给你们，帮助你们学习AI大模型，能够解决你们学习中的困难。

下面这些都是我当初辛苦整理和花钱购买的资料，现在我已将重要的AI大模型资料包括市面上AI大模型各大白皮书、AGI大模型系统学习路线、AI大模型视频教程、实战学习，等录播视频免费分享出来，需要的小伙伴可以扫取。

一、AGI大模型系统学习路线

很多人学习大模型的时候没有方向，东学一点西学一点，像只无头苍蝇乱撞，我下面分享的这个学习路线希望能够帮助到你们学习AI大模型。

在这里插入图片描述

二、AI大模型视频教程

在这里插入图片描述

三、AI大模型各大学习书籍

在这里插入图片描述

四、AI大模型各大场景实战案例

在这里插入图片描述

五、结束语

学习AI大模型是当前科技发展的趋势，它不仅能够为我们提供更多的机会和挑战，还能够让我们更好地理解和应用人工智能技术。通过学习AI大模型，我们可以深入了解深度学习、神经网络等核心概念，并将其应用于自然语言处理、计算机视觉、语音识别等领域。同时，掌握AI大模型还能够为我们的职业发展增添竞争力，成为未来技术领域的领导者。

再者，学习AI大模型也能为我们自己创造更多的价值，提供更多的岗位以及副业创收，让自己的生活更上一层楼。

因此，学习AI大模型是一项有前景且值得投入的时间和精力的重要选择。