Jailbreaking Large Vision Language Models in Intelligent Transportation Systems

一、文章主要内容总结

该研究聚焦智能交通系统（ITS）中集成的大型视觉语言模型（LVLMs）的越狱攻击漏洞与防御方案，核心内容如下：

1. 研究背景：LVLMs在ITS中广泛应用于交通数据分析、车辆交互、路标识别等场景，但现有安全护栏易被越狱攻击突破，可能导致非法监控、交通规则漠视等安全风险，而相关安全研究尚未充分开展。
2. 核心工作：
   • 构建数据集：基于OpenAI禁止类别，生成150条交通领域有害查询（涵盖非法活动、物理伤害等5类，每类30条）；
   • 提出攻击方法：通过图像排版操纵（将有害查询嵌入良性图像字幕）+多轮提示（3轮对话逐步诱导），突破LVLMs安全限制；
   • 设计防御机制：多层响应过滤（规则匹配过滤已知越狱模式+零样本分类器判定安全/有害）；
   • 实验验证：在LLaVa-1.6、Qwen-2（开源）和GPT-4o-mini（闭源）上测试，用GPT-4评分与人工验证评估攻击成功率（ASR）和平均毒性分数（ATS）。
3. 实验结果：
   • 攻击效果：第3轮对话中，对LLaVa-1.6、Qwen-2、GPT-4o-mini的ASR分别达92.67%、84.12%、74.67%（GPT-4评估），显著优于现有基线方法；
   • 防御效果：防御机制使三者ASR分别降低约87%、59%、44%，对开源模型防护效果更突出；
   • 关键发现：融入图像模态的攻击比纯文本攻击更有效，GPT-4的毒