2025_NIPS_Virus Infection Attack on LLMs: Your Poisoning Can Spread “VIA” Synthetic Data

文章核心总结

主要内容

1. 聚焦合成数据在大语言模型（LLM）训练中的安全风险，发现现有数据投毒和后门攻击难以通过合成数据传播，核心原因是投毒内容的查询分布占比极低（仅0.00%-0.24%）。
2. 提出通用攻击框架Virus Infection Attack（VIA），模拟计算机病毒传播机制，通过“劫持点搜索”和“外壳构建”将投毒载荷嵌入良性样本，实现投毒内容在纯净查询下的跨模型传播。
3. 多场景实验验证（情感操控、知识注入、偏见推荐等）显示，VIA可将合成数据中的投毒感染率（IR）从不足1%提升至70%以上，下游模型攻击成功率（ASR）接近上游投毒模型水平。
4. 分析VIA的隐蔽性（基于困惑度检测），并提出初步防御策略，同时指出框架在多模态扩展、防御强化等方面的局限性。

创新点

1. 首次系统揭示合成数据在LLM训练中的投毒传播风险，填补现有研究空白。
2. 提出“病毒式感染”攻击范式，突破传统独立投毒样本的局限，通过嵌入良性样本实现跨模型传播。
3. 设计双核心模块：劫持点搜索（HPS）筛选高易感性短语，外壳构建（SC）提升投毒内容的自然度和隐蔽性。
4. 验证混合策略VIA（mixup），平衡上游模型ASR和下游传播效率，解决单一攻击的性能权衡问题。

---

翻译部分（Markdown格式）

A