文章主要内容与创新点总结
一、主要内容
该研究聚焦于大语言模型(LLMs)在不可信边缘设备部署时的模型窃取风险,针对现有基于可信执行环境(TEE)的安全推理方案存在的统计漏洞,提出了一种高效、安全的实时边缘推理框架LoRO(Low-Rank-Obfuscation)。
- 问题背景:LLMs在云端部署存在网络延迟和隐私数据上传问题,边缘部署需求日益增长,但边缘设备的白盒特性导致模型易被窃取;现有TEE-based方案虽能保护模型,但存在统计相似性漏洞,易受模型窃取攻击,且面临TEE计算复杂度高、安全内存需求大导致的 latency 激增问题。
- 核心挑战:现有方案存在效率-保密性两难(全屏蔽方案 latency 极高,部分屏蔽/解混淆方案无法完全隐藏统计分布)、TEE安全内存有限(GB级需求导致分页延迟)。
- 攻击提出:基于现有方案的统计漏洞,设计带先验知识的模型窃取攻击(MSP),可利用公共预训练模型的统计相似性,通过有限微调恢复私有模型参数,验证了现有方案的安全性不足。
- LoRO框架:通过两大核心组件解决上述问题,在Intel SGX和Arm TrustZone平台验证,实现了近黑盒级别的模型保密性、接近REE的推理效率,且无精度损失、无需重训练和模型结构修改。
- 实验结果:
- 模型窃取防护:MS攻击准确率仅为0.94×(现有方案至少3.37×);
订阅专栏 解锁全文
1325



被折叠的 条评论
为什么被折叠?



