2025_NIPS_Omni-R1: Reinforcement Learning for Omnimodal Reasoning via Two-System Collaboration

Omni-R1 论文总结与核心部分翻译

一、文章主要内容

Omni-R1 是一款针对全模态推理的强化学习框架，核心解决现有全模态模型在长时程音视频推理与细粒度像素级理解之间的固有矛盾——长时程推理需低分辨率帧以覆盖全局时序信息，而精准定位则依赖高分辨率输入。

文章提出双系统协作架构：

1. 全局推理系统（Global Reasoning System）：以低空间成本处理长序列，核心功能是筛选关键帧并重构任务指令，将需要长时程推理的复杂任务转化为局部可解的简单任务；
2. 细节理解系统（Detail Understanding System）：仅对筛选出的高分辨率关键片段进行像素级定位与细粒度分析。

为解决关键帧筛选和任务重构的“最优性”模糊问题，Omni-R1 基于组相对策略优化（GRPO） 构建端到端强化学习框架，通过层级化奖励机制（关键帧质量奖励、帧-指令对齐奖励、全局时序一致性奖励），让双系统在线协作产生训练信号。

在 Referring Audio-Visual Segmentation（RefAVS）和 Reasoning Video Object Segmentation（REVOS）两大基准测试中，Omni-R1 仅需少量数据训练一个epoch，便超越了强监督基线和专用SOTA模型，同时显著提升了域外传泛性并减轻了多模态幻觉问题，成为首个成功将强化学习应用于大规模全模态推理的框架。