文章核心总结与翻译
一、主要内容
本文聚焦大型音频语言模型(LALMs)在音频越狱攻击下的安全漏洞问题,填补了现有研究对音频模态越狱威胁探索不足的空白,提出了首个全面的评估框架Jailbreak-AudioBench,具体包括三部分核心内容:
- 工具箱(Toolbox):支持文本到音频转换,并提供7类音频编辑技术(强调、语速、语调、音调、背景噪音、名人口音、情绪)及多组参数调节,可注入音频隐藏语义以构造越狱样本。
- 数据集与基准测试(Dataset & Benchmark):基于4个现有安全基准筛选4700条越狱问题,经GPT-4o和人工审核分为显式(2497条)和隐式(2203条)两类,通过工具箱生成原始音频和编辑后音频,总计157,782条样本;对9个主流LALMs(含开源和闭源模型)进行评估,以攻击成功率(ASR)为指标,揭示不同模型对音频越狱攻击的脆弱性差异。
- 衍生研究方向:提出查询式音频编辑越狱方法,通过组合多种音频编辑技术显著提升越狱成功率;设计基于音频提示的轻量级防御策略,通过预置安全指令降低模型生成有害内容的概率。
二、创新点
- 首次系统性探索LALMs的音频越狱漏洞:针对端到端LALMs直接处理原始音频、保留隐藏语义的特性,首次系统分析音频编辑对模型安全护栏的绕过作用,弥补了文本和视觉模态之外的研究空白。
- 构建首个全面的
订阅专栏 解锁全文
1314



被折叠的 条评论
为什么被折叠?



