2025_NIPS_FORLA: Federated Object-Centric Representation Learning with Slot Attention

文章核心总结与翻译

一、主要内容

文章提出FORLA（Federated Object-Centric Representation Learning with Slot Attention）框架，解决联邦学习中异质无标签数据集的高效视觉表征学习问题。其核心是通过无监督槽注意力（Slot Attention）实现联邦场景下的目标中心表征学习与特征适配，无需数据共享即可在异质域（如手术场景与自然场景）中学习通用且解纠缠的表征。

框架采用双分支师生架构：学生解码器重构基础模型的原始特征，教师解码器重构适配后的低维特征，通过FedAvg算法聚合客户端的适配器和槽注意力模块参数。在7个数据集（3个手术数据集、4个自然数据集）上的实验表明，FORLA在目标发现任务上优于集中式训练基线，同时将客户端-服务器通信成本降低85.2%，最高可达6.7倍。

二、创新点

1. 首次将目标中心学习引入联邦学习，以解纠缠表征为核心目标，解决异质数据的概念纠缠问题。
2. 设计通信高效的师生适配器与槽注意力模块，在不共享数据的情况下协调异质基础特征。
3. 提出两阶段知识迁移策略，早期通过EMA更新教师适配器，后期通过局部FedAvg实现师生知识蒸馏，避免槽注意力的置换匹配问题。
4. 验证了联邦目标中心学习在大规模多域数据上的有效性，同时兼容多种基础模型（D