2025_NIPS_MMaDA: Multimodal Large Diffusion Language Models

MMaDA 论文核心总结与翻译

一、主要内容

MMaDA 是一款多模态扩散基础模型，旨在统一文本推理、多模态理解和文本到图像生成三大核心任务。其通过统一扩散架构、混合长链思维（CoT）微调及统一强化学习算法（UniGRPO），在三类任务中均实现性能突破，优于 LLaMA-3-7B、Show-o、SDXL 等主流模型，同时具备采样高效、支持跨模态补全的特性。

二、核心创新点

1. 统一扩散架构：采用模态无关设计和共享概率公式，消除模态专用组件，通过离散掩码预测目标统一处理文本与图像数据。
2. 混合长链 CoT 微调：构建跨任务统一 CoT 格式，对齐文本与视觉领域的推理过程，为后续强化学习阶段提供稳定冷启动。
3. UniGRPO 强化学习：针对扩散模型设计的统一策略梯度算法，结合多样化奖励建模，实现推理与生成任务的一致性能提升。
4. 跨任务协同优化：首次实现扩散模型在文本生成、多模态推理与图像生成的联合训练，展现任务间相互促进的协同效应。

---

三、关键部分翻译（Markdown 格式）