SECURE TRANSFORMER INFERENCE

概述

本文提出了一个三方协议，可以在推理阶段同时保护Transformer参数和用户数据。对于每个前馈推理过程，本文的协议只在用户端引入输入和输出数据的排列计算。我们的协议，安全transformer推理协议(STIP)，可以应用于像ChatGPT这样的现实世界的服务。

STIP

定理 1：$f_{{\theta }^{‘}}(\pi x)=f_{\theta }(x)\pi$

• P1模型提供商
• P2云计算平台
• P3用户拥有私有数据和输出

之前有采用标量进行类似的操作。但本文通过乘上一个置换矩阵并通过证明实现了结合性。