
一、文章主要内容总结
本文提出了MMGR(多模态生成推理评估基准),旨在解决现有生成模型评估仅侧重感知保真度(如FVD)、忽视物理、逻辑、空间等核心推理能力的缺陷。该基准基于物理推理、逻辑推理、3D空间推理、2D空间推理、时间推理五大核心能力,覆盖三大任务领域:抽象推理(迷宫、数独、ARC-AGI、数学题)、具身导航(3D实景导航、最后一公里导航等)、物理常识(基础物理交互、体育场景),共包含1853个评估样本。
通过对Veo-3、Sora-2等视频生成模型和Nano-banana Pro、GPT-4o-image等图像生成模型的测试,发现:模型在物理常识任务中表现中等(如体育场景准确率60%),但在抽象推理(ARC-AGI准确率<10%)和长视野具身导航中表现极差;视频模型存在“时间税”(为维持帧间连贯性牺牲逻辑一致性),图像模型在符号推理任务中更稳定;现有模型的核心局限源于训练数据失衡(缺乏符号推理数据)、架构缺陷(难以维持全局一致性)、优化目标偏差(优先视觉 plausibility而非因果正确性)。
二、创新点
- 构建五维推理能力框架:首次明确将生成模型的推理能力拆解为物理、逻辑、3D空间、2D空间、时间五大维度,形成系统化评估体系。
- 跨领域多模态基准设计:覆盖抽象逻辑、具身交互、物理
订阅专栏 解锁全文
254



被折叠的 条评论
为什么被折叠?



