GuardVal: Dynamic Large Language Model Jailbreak Evaluation for Comprehensive Safety Testing

文章主要内容总结

本文针对大型语言模型（LLMs）面临的越狱攻击（即通过精心设计的提示词绕过安全机制，生成有害内容）评估难题，提出了一种动态评估协议GuardVal。

现有评估方法存在局限性：传统人工基准（如PromptBench、TrustLLM）依赖人工标注，可扩展性差且易受训练数据污染；自动化动态生成方法（如HarmBench、JailbreakBench）多针对特定任务，缺乏对模型特性的动态适配。

GuardVal通过四个角色协同工作：Translator将安全准则转化为可执行提示词，Generator生成复杂测试场景，Evaluator评估防御者响应并反馈，Optimizer监控提示词进化以防止优化停滞（采用类Adam优化方法）。同时，提出Overall Safety Value（OSV）指标，综合评估模型的攻防能力并标准化测试难度差异。

实验在10个安全领域（如虚假信息、恐怖主义、暴力等）和8个模型（从Mistral-7b到GPT-4）上展开，发现动态评估能揭示静态方法遗漏的漏洞，不同模型表现出显著行为差异（如GPT-4在多数领域表现更稳健，而Vicuna-7b易被攻破），验证了GuardVal的有效性。

创新点

1. 明确有效越狱评估的三大必要条件：无训练数据污染的数据集、随LLM能力进化的复杂度、针对模型特性的动态生成过程。
2. 提出GuardVal动态评估协议：通过角色分工（Translator、Generator、Evaluator、Optimizer）实现提示词的动态生成与优化，适配防御者模型