2025_NIPS_Flocks of Stochastic Parrots: Differentially Private Prompt Learning for Large Language...

文章总结与翻译

一、主要内容

该研究聚焦大型语言模型（LLMs）提示学习中的隐私问题，核心围绕“提示数据的隐私泄露风险”及“差异化隐私保护方案”展开，具体内容如下：

1. 隐私风险验证：首次实现了针对提示数据的有效成员推理攻击（MIA），证明提示中包含的私有数据（如个人信息、知识产权）存在严重隐私泄露风险——攻击能准确判断某数据是否被用于构建提示，平均AUC达0.84，显著优于随机猜测。
2. 隐私保护方案提出：为平衡提示学习的高效性与隐私安全性，提出两种差异化隐私（DP）驱动的提示学习算法：
   • PromptDPSGD：针对软提示（连续可训练嵌入），基于经典的DP-SGD算法，仅优化软提示嵌入参数（数量比LLM参数少数个数量级），不修改LLM本身参数，兼顾效率与隐私。
   • PromptPATE：针对离散提示（自然语言令牌），借鉴PATE框架构建“随机鹦鹉群”（多LLM集成），通过私有数据生成多个教师提示，再对公共数据进行带噪声的投票聚合，将知识迁移到单个学生提示中，仅需LLM的黑盒访问，适配商业API场景。
3. 实验验证：在GPT3、Claude等商业LLM及sst2、dbpedia等数据集上验证，两种算法在强隐私保证下（如PromptPATE的ε<0.3，δ=10⁻⁶），下游任务准确率接近非隐私基线（如GPT3在sst2上达92.7%，基线为95.2%），且优于私有微