A data-efficient strategy for building high-performing medical foundation models

复旦大学颜波团队于2025年3月在《Nature Biomedical Engineering》发表的论文《A data-efficient strategy for building high-performing medical foundation models》的核心内容解析：

---

研究背景

医学基础模型（Medical Foundation Models）需依赖大规模高质量数据进行预训练，但医疗数据获取面临三大挑战：

1. 数据稀缺性：高精度设备（如MRI）和长期患者跟踪（如肿瘤学）导致数据收集成本高昂、耗时漫长。
2. 隐私风险：多中心数据集中化处理易引发患者隐私泄露。
3. 标注成本：医学图像需专家标注，尤其在罕见病和复杂病例中成本极高。
   传统方法在数据有限场景下性能受限，而生成式AI（如Stable Diffusion）的发展为合成医学数据提供了新思路。

---

方法创新

论文提出了一种三阶段数据高效策略，结合合成数据与真实数据构建高性能医学基础模型：

1. 可控合成数据生成

• 技术路径：基于Stable Diffusion模型，以疾病标签为文本条件生成视网膜图像，模拟真实数据的生理结构（如血管、视盘）和病理特征（如出血、渗出）。
• 数据规模：生成约100万张合成图像，涵盖23种单一疾病和17种多疾病组合，确保多样性与分布一致性。

2. 两阶段预训练

• 第一阶段：在合成数据上采用自监督学习（SSL）技术（如掩码自编码器MAE），学习图像潜在特征。
• 第二阶段：用16.7%的真实数据（150,000张）进行微调，增强模型对真实分布的适应性。

3. 下游任务适配

• 通过监督微调（如添加多层感知机MLP），将模型迁移至糖尿病视网膜病变分级、青光眼诊断等具体任务，显著降低标注需求（部分任务仅需40%标注数据）。

---

实验结果

研究在眼科和胸部X光领域验证了方法的有效性：

1. 视网膜模型（RETFound-DE）：
   • 在9个公共数据集上的4项任务（糖尿病视网膜病变分级、青光眼诊断等）中，性能与全数据训练的RETFound相当或更优（AUROC提升3-5%）。
   • 跨中心验证显示，模型在印度IDRID数据集训练后，在法国MESSIDOR-2数据集上的泛化能力显著优于基线（P<0.001）。

2. 胸部X光结核检测：
   • 构建的CXRFM-DE模型在结核病分类任务中AUROC达0.92，验证了方法在跨模态任务中的可推广性。

3. 效率提升：
   • 标注数据需求减少60%，训练时间缩短30%，计算资源消耗降低至传统方法的20%。

---

研究意义

1. 解决数据瓶颈：为MRI、病理切片等数据稀缺场景提供了合成数据驱动的解决方案，降低对大规模真实数据的依赖。
2. 隐私保护：合成数据不包含真实患者信息，规避了隐私泄露风险，促进多中心协作。
3. 跨领域应用潜力：已扩展至工业瑕疵检测、新材料设计等领域，推动智能制造和精准医疗发展。
4. 方法学启示：揭示了合成数据在均衡样本分布、克服数据偏差中的价值，为医学AI的伦理监管提供了新视角。

---

局限性与展望

• 挑战：过度依赖合成数据可能导致模型偏差，需结合真实性验证和动态更新机制。
• 未来方向：探索多模态生成（如文本-图像-临床数据联合建模）和联邦学习框架，进一步提升模型鲁棒性。

该研究为医学基础模型的开发开辟了高效、低成本的路径，标志着生成式AI在医疗领域的深度应用迈入新阶段。