Prompt Fencing: A Cryptographic Approach to Establishing Security Boundaries in Large Language Mo...

文章核心总结与创新点

一、主要内容

该文章针对大型语言模型（LLMs）面临的提示注入攻击这一核心安全威胁，提出了一种名为“Prompt Fencing”（提示围栏）的加密安全架构。其核心思路是通过密码学认证和数据架构原则，在LLM提示中建立明确的安全边界：

1. 为提示的每个片段添加加密签名的元数据（包含信任等级、内容类型、来源、时间戳等），使模型能够区分可信指令与不可信内容；
2. 设计了完整的围栏生成、验证流程，包括标准化的XML围栏格式、Ed25519签名算法、SHA-256哈希函数等核心组件；
3. 通过安全网关实现签名验证的前置处理，LLM仅负责理解和遵守围栏边界的语义规则，形成“加密验证+语义执行”的双层防御；
4. 实验验证显示，该方法在300个测试案例中（覆盖Claude Sonnet 4.5和Gemini 2.5 Pro两款模型），将提示注入攻击成功率从86.7%（260/300）降至0%，且总性能开销仅为0.224秒/100样本（生成0.130秒+验证0.094秒），占总运行时间的0.043%。

文章还详细阐述了威胁模型（直接注入攻击、边界逃逸攻击）、相关工作对比、部署策略（三阶段增量部署）、密钥管理方案及在复杂数据管道（如RAG系统）中的集成方式。

二、创新点

1. 密码学驱动的安全边界：首次将密码学签名直接应用于提示片段，把边界 enforcement 从概率性的语义问题转化为确定性的加密验证问题，提供不可伪造的信任保证；