2025_NIPS_DRIFT: Dynamic Rule-Based Defense with Injection Isolation for Securing LLM Agents

文章核心总结与创新点

主要内容

该研究针对大型语言模型（LLM）智能体在与外部环境交互时面临的提示注入攻击问题，提出了一种名为DRIFT的动态规则隔离框架。LLM智能体凭借强大的推理和规划能力广泛应用于复杂任务，但与不可信外部环境的交互易受恶意注入指令影响，导致经济损失、隐私泄露等风险。现有防御机制存在安全策略难以动态更新、内存流中注入内容无法有效隔离等缺陷。

DRIFT通过三层核心组件实现控制级和数据级双重约束：

1. 安全规划器（Secure Planner）：基于用户查询生成最小函数轨迹（控制约束）和JSON模式格式的参数检查清单（数据约束），奠定初始安全策略；
2. 动态验证器（Dynamic Validator）：监控函数执行轨迹偏差，结合权限分类（读/写/执行）和用户意图对齐性评估偏差合理性，动态更新约束策略；
3. 注入隔离器（Injection Isolator）：检测并屏蔽内存流中与用户原始查询冲突的注入指令，降低长期交互风险。

实验在AgentDojo和ASB基准测试中验证了DRIFT的有效性，在GPT-4o、Claude-3.5-sonnet等多款主流LLM上均实现了高安全性与高实用性的平衡，且通过策略微调进一步提升了性能。