2025_NIPS_JailBound: Jailbreaking Internal Safety Boundaries of Vision-Language Models

一、文章主要内容总结

该研究聚焦视觉语言模型（VLMs）的安全边界漏洞，提出了一种名为JailBound的新型越狱攻击框架，核心目标是突破VLMs的内部安全机制，诱导其生成违反政策的有害输出。

1. 研究背景与问题

• VLMs（如GPT-4o、LLaMA-3.2、Qwen-VL等）融合了视觉编码器与大语言模型，虽具备强大的多模态推理能力，但视觉模态的引入扩大了攻击面，使其易受越狱攻击。
• 现有攻击方法存在两大缺陷：一是依赖梯度优化易陷入局部最优，缺乏精准方向引导；二是分离处理视觉与文本模态，忽视跨模态交互，攻击效果有限。

2. 核心假设与框架设计

• 受启发于ELK（Eliciting Latent Knowledge）框架，提出假设：VLMs的融合层隐空间中存在隐性安全决策边界，模型内部编码了安全相关知识，可通过操纵该边界诱导有害输出。
• JailBound框架包含两个关键阶段：
  • 安全边界探测（Safety Boundary Probing）：通过训练分层逻辑回归分类器，精准逼近融合层隐空间的安全决策超平面，确定朝向目标区域（不安全输出）的最优扰动方向，解决方向引导缺失问