Privacy-preserving prompt tuning for large language model services-优快云博客

本文链接：https://blog.youkuaiyun.com/m0_64764193/article/details/143184164

概要

本论文提出了一种名为RAPT的隐私保护型提示调整框架，用于大型语言模型服务中用户私有数据的个性化定制。RAPT采用本地隐私设置，使用局部差分隐私方法在用户端保护数据。针对直接在隐私化数据上训练提示调整效果不佳的问题。同时，研究引入了一种新的私有词元（token）重构任务，与下游任务共同训练，帮助大型语言模型更好地学习任务相关的表示。实验结果表明，RAPT在保证隐私安全的同时，在多个任务上取得了具有竞争力的性能。

上图为隐私保护提示调优框架概述。用户通过文本到文本的私有化将数据在本地私有。服务提供商允许用户通过提供提示调优接口来定制LLM。该框架为中间窃听者提供了强有力的隐私保护。

核心方法

1.文本到文本私有化

LLM服务可能面临窃听等攻击，因此，通过用户在自己的设备上进行本地数据私有化，即采用本地隐私设置是比较好的。

RAPT框架中，使用文本到文本的私有化是基于 $^{_{_{}^{}}^{}}$ dx隐私，这是一种基于距离的本地差分隐私松弛形式 ，广泛用于保护文本内容的隐私。形式上说，对于给定的输入集X和输出集Y，dx是定义在X上的距离函数。当且仅当对于任何x ∈ X， ${x}'$ ∈ X，M(x)和M ( ${x}'$ ) 的输出分布以以下条件为限制时，称随机机制M：X → Y 满足隐私：

其中，η≥0为隐私参数，控制隐私保护程度。

为了使得文本到文本私有化，首先需要一个嵌入模型来将单词映射到向量，给定一个序列x = [x1， ......，xn]和一个嵌入模型E∈ $R^{|V|\times d}$ ，其中|V|和d分别是嵌入的词汇量大小和维度，嵌入模型将x映射成向量序列 [ $x$ 1， ......， $x$ n]（区别于输入）。假设以L2距离为距离函数，可以通过添加随机噪声z ∼ exp(−η|z||)（λ为−η||z||的指数分布）的方式，将带隐私参数η的dx应用到一个单词的嵌入 $x_{t}$ ∈ $R^{ d}$ 中。设z = lv，采样z相当于首先对标量l ∼ Γ (d, $\tfrac{1}{n}$ )（α为d

Privacy-preserving prompt tuning for large language model services

目录

概要

相关工作

核心方法

1.文本到文本私有化