2025_NIPS_AgentAuditor: Human-level Safety and Security Evaluation for LLM Agents

文章核心总结与创新点

主要内容

本文针对大语言模型（LLM）智能体的安全与安保评估难题，提出了通用、无需训练、记忆增强的推理框架AgentAuditor，以及首个同时覆盖安全与安保维度的基准测试集ASSEBench。AgentAuditor通过构建结构化特征记忆和推理记忆，结合检索增强生成（RAG）机制，让LLM评估器具备类人类专家的评估能力；ASSEBench包含2293条标注交互记录，覆盖15种风险类型和29个应用场景，支持“严格”和“宽松”双评判标准。实验表明，AgentAuditor在各类基准测试中显著提升LLM评估性能，达到人类级准确率。

核心创新点

1. 提出AgentAuditor框架：通过自适应特征提取、FINCH聚类选代表性样本、记忆增强推理，解决现有评估器漏检风险、忽略累积效应等问题。
2. 构建ASSEBench基准：首次联合覆盖智能体安全与安保评估，包含模糊风险场景的双评判标准，提供结构化标注与丰富元数据。
3. 实现人类级评估性能：AgentAuditor与主流LLM结合，在多项基准中超越现有方法，准确率和F1分数接近或超过人类标注者平均水平。
4. 具备强通用性与适应性：无需训练即可适配不同LLM和场景，对标签噪声、分布外案例及对抗攻击具有稳健性。

---

英文原文翻译（Markdown格式）

Abstract

尽管基于大语言模型（LLM）的智能体发展迅速，但对