FedDG: Federated Domain Generalization on Medical Image Segmentation via Episodic Learning

FedDG: Federated Domain Generalization on Medical Image Segmentation via Episodic Learning in Continuous Frequency Space

论文标题

FedDG: Federated Domain Generalization on Medical Image Segmentation via Episodic Learning in Continuous Frequency Space

论文来源

CVPR 2021

Paper: https://arxiv.org/abs/2103.06030

Code: https://github.com/liuquande/FedDG-ELCFS

1 背景介绍

在医学影像分割任务中，越来越多的工作倾向于收集多个医疗机构的数据并由此构建出更加精确且鲁棒的深度网络。但是由于医疗影像的特殊性(存在大量不同的隐私保护规定)，导致这种依靠大规模数据集提升模型性能和鲁棒性的方法十分困难。最近，很多研究者注意到可以使用联邦学习(Federated Learning, FL)解决隐私保护的问题。

联邦学习可以在多分布的数据集中进行模型训练，每个单独的数据集只需在本地进行处理。网络参数更新时只需要将各个本地数据训练的模型定期推送到中心服务器，中心服务器随后将各个本地模型进行聚合得到新的网络参数并更新到本地终端。在联邦学习的过程中只有网络参数的交互，避免出现数据交互，因此不违反医疗数据的隐私保护政策。

现有的联邦学习方法往往只关注已有的数据集中模型的表现，忽视了模型在未知的新数据分布下的泛化性和鲁棒性。实际应用场景中，我们往往会遇到将现有的网络模型部署到新的医疗机构和地区的需求，不同机构使用的设备差异、地区间人群分布差异等都会导致医疗影像的数据分布差异(domain shift)。这种数据分布差异是阻碍联邦学习在实际中广泛应用的一个关键问题。

2 论文贡献

1. 这篇文章基于医疗影像分割任务的实际应用场景，提出了一个新的问题设定：联邦学习的领域泛化问题(Federated Domain Generalization, FedDG)。(如Figure 1 (a)所示)

2. 这篇文章提出一个基于连续频域空间差值(Continuous Frequency Space Interpolation, CFSI)的泛化联邦学习方法，可以在隐私保护的前提下提高联邦学习模型的泛化性。

3. 这篇文章为提升本地模型训练的领域泛化能力，提出一个新的基于边界方向的交替学习策略(Boundary-oriented Episodic Learning scheme, BEL)。

4. 这篇文章在两个医疗影像分割的DG基准测试上取得了FedDG设定下的最好成绩，并通过实验验证了方法的有效性。

3 方法

3.1 Federated Domain Generalization

首先介绍一下联邦学习的领域泛化问题设定。我们将数据和标注的联合分布定义为$S=(X,Y)$，有$K$个不同分布的训练数据集S={ S1,S2,…,SK}S=\{ S^1, S^2, \dots, S^K\}S={ S1,S2,…,SK}。其中每个数据集Sk={ (xik,yik)}i=1NkS^k=\{(x_i^k, y_i^k) \}_{i=1}^{N^k}Sk={ (xi