A Comprehensive Study on Visual Token Redundancy for Discrete Diffusion-based Multimodal Large La...

一、文章创新点

本文的创新点主要包括以下三点：

1. 首次系统性研究：首次对离散扩散多模态大语言模型（dMLLMs）中的视觉token冗余进行了全面研究，揭示了AR-to-diffusion型dMLLMs在剪枝下持续出现明显的性能下降，而从零训练（from-scratch）dMLLMs在长回答任务中则表现出较强的恢复能力。

2. 信息损失机理揭示：证明视觉token剪枝在dMLLMs中造成的信息损失远大于传统自回归MLLMs，且从零训练的dMLLMs能够通过迭代式双向去噪过程逐步恢复这种信息损失，而AR-to-diffusion型dMLLMs则缺乏这种恢复能力。

3. 实用优化指导：提供了具体的优化策略建议——层跳跃（layer-skipping） 更适合AR-to-diffusion型dMLLMs，而渐进式剪枝或后期剪枝（progressive/late-step pruning） 对从零训练的架构更有效，同时注意力分数和logit信号均可作为可靠的剪枝指示器。

---

二、主要内容

本文围绕离散扩散多模态大语言模型（dMLLMs）的推理效率问题展开系统研究。dMLLMs凭借并行解码和双向上下文建模