2025_NIPS_Memory Injection Attacks on LLM Agents via Query-Only Interaction

文章主要内容总结

该研究提出一种名为MINJA的新型记忆注入攻击，针对大型语言模型（LLM）智能体，仅通过查询交互即可向智能体的长期记忆库注入恶意记录。攻击核心是设计包含“桥接步骤”的恶意记录，将良性查询与恶意推理逻辑关联，再通过“指示提示词”诱导智能体自主生成相关推理，并采用“渐进缩短策略”逐步移除提示词痕迹，使恶意记录能被后续受害者查询高效检索。实验在医疗、电商、通用问答三类智能体上验证，记忆注入成功率达98.2%，攻击成功率达76.8%，且对良性任务性能影响微弱，同时能规避多种现有防御策略，揭示了LLM智能体在真实场景下的严重安全漏洞。

创新点

1. 低约束攻击模式：无需直接访问或修改智能体记忆库，仅通过普通用户的查询交互即可完成攻击，突破了现有攻击对特权访问的依赖。
2. 桥接步骤设计：填补良性查询与恶意推理间的逻辑鸿沟，通过通用化关联规则，确保任意含受害者关键词的查询都能被误导至目标恶意推理。
3. 渐进缩短策略（PSS）：逐步移除指示提示词，保留恶意推理逻辑，使注入的恶意记录表面符合良性查询特征，提升检索概率。
4. 广泛适用性：在医疗、电商、通用问答等不同场景、多种LLM模型（GPT-4、GPT-4o等）上均实现高攻击效果，且对良性任务效用影响极小。

---

翻译部分（Markdown格式）

Abstract