2025_NIPS_Robust SuperAlignment: Weak-to-Strong Robustness Generalization for Vision-Language Models

文章核心总结与翻译

一、主要内容

文章聚焦视觉语言模型（VLMs）的鲁棒性超对齐问题，针对标准弱到强泛化无法传递对抗鲁棒性的缺陷，提出了首个对抗鲁棒的弱到强泛化框架Adv-W2S。该框架通过无监督方案，从对齐重加权和源指导优化两个维度缓解弱模型监督的不可靠性，在不依赖额外监督的情况下，为大规模VLMs赋予零样本鲁棒性，并通过20个数据集的广泛实验验证了其在图像分类、字幕生成、视觉问答等多任务中的有效性，支持即插即用的集成方式。

二、创新点

1. 首次揭示标准弱到强泛化无法传递VLMs鲁棒性的根本原因——对齐目标中缺少对抗样本，即便使用鲁棒预训练的弱模型也无法解决。
2. 提出Adv-W2S框架，通过无监督方案从弱模型中提取鲁棒知识，创新设计熵引导的不确定性重加权和逆对抗样本源指导优化两种互补机制。
3. 完成理论分析，证明低预测熵可扩大分类间隔、优化源指导能严格提升鲁棒性泛化，为方法有效性提供理论支撑。
4. 验证了方法的广泛适用性，在多种VLMs骨干网络、不同扰动半径下均表现优异，且能迁移至下游多模态任务，支持参数高效微调（如LoRA）。

三、核心部分翻译（Markdown格式）

Abstract

众多成熟研究已证明现代视觉语言模型（VLMs）在各类任务中具备超人能力。然而，人们对人类标注者能否持续提供可靠的高质量标签（监督信息）的质疑日益加剧，这导致模型性能陷入停滞。为应对这一挑战，“超对