14、分层联邦学习中的进化边缘关联与拍卖

分层联邦学习中的进化边缘关联与拍卖

1. 引言

当前，基于人工智能的模型训练主流方式是以云为中心，即数据所有者将训练数据传输到公共云服务器进行处理。但这种方式不再理想，原因如下：
- 隐私法规严格 ：像 GDPR 这类隐私法日益严格，对隐私敏感的数据所有者可能选择不与第三方共享数据。
- 通信负担大 ：将大量数据传输到远程云会给通信网络带来负担，尤其对于时间敏感任务会产生不可接受的延迟。

因此，边缘计算应运而生，它在网络边缘处理原始数据，更靠近数据产生的地方。边缘计算与人工智能的融合催生了边缘智能，它利用终端设备和边缘服务器的存储、通信和计算能力，实现边缘缓存、模型训练和推理。联邦学习（FL）是边缘智能的一项关键技术，在 FL 中，只需将更新后的模型参数而非原始数据传回模型所有者进行全局聚合。FL 的主要优势有：
- 保护隐私 ：实现隐私保护的协作式机器学习。
- 减轻云负担 ：利用物联网设备的计算能力进行本地模型训练，减少云的计算工作量。
- 减轻通信负担 ：模型参数通常比原始数据小，减轻骨干通信网络的负担。

然而，FL 网络涉及数千个异构分布式设备，通信效率低下仍是关键瓶颈。节点故障和设备掉线会导致 FL 效率低下，连接受限的工作节点无法参与训练，影响模型的泛化能力。为解决这一问题，提出了分层联邦学习（HFL）框架，工作节点不直接与中央控制器（模型所有者）通信，而是先将本地参数值上传到边缘服务器（如基站）进行中间聚合，再与模型所有者通信进行