论文笔记 - Neurotoxin: Durable Backdoors in Federated Learning

WBZhang2022

已于 2023-03-20 23:20:15 修改

阅读量588

点赞数

分类专栏： ▶ Trustworthy AI 文章标签：论文阅读人工智能

于 2023-03-20 23:18:35 首次发布

版权

13 篇文章 ¥19.90 ¥99.00

订阅专栏

论文Neurotoxin探讨了在联邦学习环境中如何创建持久的后门。研究动机源于在正常训练过程中后门效果可能被削弱。攻击模型采用策略，使恶意用户仅更新良性用户不常更新的模型参数，通过特定样本训练，维持后门在全局模型中的存在。实验结果显示，即使恶意用户退出，后门仍能长时间保留。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

Neurotoxin: Durable Backdoors in Federated Learning

论文标题	Neurotoxin: Durable Backdoors in Federated Learning
论文作者	Zhengming Zhang, Ashwinee Panda, Linyue Song, Yaoqing Yang, Michael W. Mahoney, Joseph E. Gonzalez, Kannan Ramchandran, Prateek Mittal
科研机构	Southeast University, Princeton University, University of California at Berkeley
会议年份	ICML 2022
摘要概括	联邦学习的客户端本地数据不共享的性质，是联邦学习系统容易受到后门攻击的重要原因。在前人提出的联邦学习后门攻击中，当恶意用户停止上传恶意模型更新时，随着迭代轮数增强，后门触发器的作用会削弱。