OpenGuardrails: A Configurable, Unified, and Scalable Guardrails Platform for Large Language Models

文章主要内容与创新点总结

一、主要内容

OpenGuardrails 是首个完全开源的大型语言模型（LLM）护栏平台，专为解决 LLM 部署中的安全、鲁棒性和隐私合规问题而设计，可防御三类核心风险：内容安全违规（如有害/色情文本生成）、模型操纵攻击（如提示注入、越狱、代码解释器滥用）以及敏感信息泄露。该平台支持 119 种语言，通过统一架构、量化优化和可配置策略，在多语言安全基准测试中实现了最先进（SOTA）性能，同时提供 API 接口和部署脚本，可作为企业级安全网关或 API 服务部署，所有模型、数据集和部署脚本均基于 Apache 2.0 许可证开源。

二、核心创新点

1. 可配置策略适配机制：允许用户在每次请求时自定义不安全类别（如暴力、数据泄露等）和灵敏度阈值（τ∈[0,1]），支持高/中/低语义映射与数值调节，解决了现有安全基准和护栏模型中的政策不一致问题，无需重新训练或重启模型即可适配不同行业、地区的监管与文化需求。
2. 统一 LLM 护栏架构：采用单一大型语言模型同时完成内容安全检测和模型操纵防御，相比依赖多模型混合架构（如 LlamaFirewall 的 BERT 分类器+LLM 组合），具备更优的语义理解能力，且简化了部署流程。
3. 可扩展高效模型设计：基于 14B 稠密基础模型微调，通过 GPTQ 量化技术压缩至 3.3B 参数，在保留 98% 以上基准准确率的同时，实现低延迟（P95=274.6ms）和高吞吐量，满足实时生产环境需求，突破了现有