13、联邦学习：隐私保护与开放创新的挑战与机遇

联邦学习：隐私保护与开放创新的挑战与机遇

1. 联邦学习面临的安全挑战及应对策略

联邦学习系统可能会因后门而出现故障，直接应用异常检测防御会产生不良影响，因为数据多样的客户端也会被移除，这体现了公平性和鲁棒性之间的权衡。

以下是针对不同攻击类型的防御策略：
| 攻击类型 | 防御策略 | 策略描述 | 潜在问题 |
| ---- | ---- | ---- | ---- |
| 后门和投毒攻击 | 数据清理 | 在异常检测中过滤可疑训练示例 | 更强的投毒攻击可能突破防御 |
| 后门攻击 | 剪枝 | 评估单元在干净数据上应不活跃但在更新中被激活的情况 | 访问干净的保留数据违反隐私原则 |

1.1 梯度攻击及解决方案

梯度攻击，也称为客户端隐私泄露攻击，攻击者可通过客户端与中央服务器共享的局部梯度更新，准确重建本地客户端的私有训练数据。这种攻击不仅侵犯本地数据隐私，还使联邦学习系统面临隐私泄露风险。

客户端隐私泄露攻击是基于梯度的特征重建，攻击者旨在开发基于学习的重建算法，利用步骤 t 的梯度更新 ∇wi(t) 重建用于计算梯度的私有数据。以计算机视觉应用场景为例，该算法从随机攻击种子（如与本地客户端分辨率相同的虚拟图像）开始，通过前向推理和计算梯度损失，不断修改虚拟图像以逼近实际客户端私有数据。

为有效抵抗梯度攻击，可采取以下措施：
1. 从源头预防攻击，如加密网络通信和加强服务器防火墙。
2. 当拦截或窃听不可避免时，可利用差分隐私技术，向客户端的梯度更新添加噪声，增加重建客户端数据的难度，但会导致模型退化和中央服务器检查模型困难。
3.