文章总结与翻译
一、文章主要内容
本文是一篇关于大型语言模型(LLM)版权审计的系统性研究(SoK),聚焦于通过指纹识别技术(Fingerprinting)解决LLM的版权侵权问题。文章首先阐述了LLM版权保护的背景——LLM训练成本高、价值大,但面临未授权使用、模型窃取等侵权风险,而传统的水印技术(Watermarking)存在需修改模型、无法回溯应用等局限,因此指纹识别技术作为非侵入式方案更具优势。
文章构建了LLM指纹识别的统一框架与分类体系:从审计者对可疑模型的访问权限出发,将现有方法分为白盒(White-box)和黑盒(Black-box)两类。其中,白盒方法依据特征来源进一步细分为静态(分析模型参数)、前向传播(分析中间表示)和反向传播(分析梯度)技术;黑盒方法根据是否依赖预定义查询-响应对,分为无目标(基于模型输出行为特征)和有目标(构建专属查询-响应对)技术。
为解决现有评估缺乏标准化的问题,文章提出首个LLM指纹识别基准测试集LEAFBENCH,包含149个不同模型实例(源于7个主流基础模型),并集成13种典型的模型后处理技术(参数修改类如微调、量化,参数无关类如系统提示、检索增强生成RAG)。基于LEAFBENCH对8种主流指纹识别方法的实验表明:白盒方法(如HuRef、PDF)效果显著(AUC近1.0),黑盒方法实用性广但可靠性不足(AUC<0.72);静态白盒方法优于前向/反向传播方法;现有方法对参数修改技术的鲁棒性存在差异,且黑盒方法在审计预训练模型时性能大幅下降。
最后,文章指出未来研究方向,包括改进黑盒方法以逼近白盒特征、探索多模型指纹识别、侧信道指纹识别,以及平衡指纹技术的攻防双重属性
订阅专栏 解锁全文
1299



被折叠的 条评论
为什么被折叠?



