practical_sharp的博客

由于自然图像与遥感图像之间存在模态差异，在自然图像上训练的模型难以在遥感任务上取得满意的结果。此外，由于遥感任务的专业性，获取标注的遥感图像较为困难。除了使用标注数据进行训练外，受MOCO [204] 等自监督对比学习方法的影响，一些方法开始探索通过对比学习在遥感图像上进行预训练的潜力。对比学习的关键在于构建正样本和负样本对的方法。对于遥感图像而言，时空对比至关重要。许多研究基于位置、季节等因素构建正负样本对，

*基础模型是一类通过大规模数据训练后具有广泛适用性和通用能力的模型。这类模型通常参数量巨大、学习能力强，能够在多种任务中表现出色。**尽管基础模型目前尚未无处不在，但它们似乎正成为广泛技术创新的基础，并展现出通用技术的关键特征[35]。本文综述的领域可同时处理多任务，仅支持单一任务的视觉-语言模型不在研究范围内，有关注任务特定视觉-语言模型的读者请参阅[14]。地理基础模型是一类专为通过视觉信息处理地理空间数据而设计的模型。

地学基础模型（GFMs）代表了地球系统建模的范式转变，其通过以数据为中心的人工智能（DCAI）整合海量跨学科数据集，并应对传统模型难以捕捉的复杂性。本综述重点探讨了GFMs在灵活任务指定、多样化输入-输出能力及多模态知识表征方面的独特优势，同时介绍了以Transformer架构、预训练和自适应方法为核心的关键构建技术。通过对大语言模型、视觉模型及视觉-语言模型最新进展（尤其是在遥感应用方面）的梳理，展现了GFMs在地球科学中的广泛潜力。

ChatGPT和生成式预训练变换模型4（GPT-4）取得的显著成就，引发了人们对面向通用人工智能（AGI）的大语言模型（LLMs）的研究热潮。这些模型提供了更接近人类思维的智能解决方案，使我们能够运用通用人工智能（AI）解决各类应用场景中的问题。然而在遥感（RS）领域，关于通用人工智能实现的学术文献仍相对匮乏。现有遥感领域与AI相关的研究主要集中于视觉理解任务，却忽视了对地物目标及其关联关系的语义理解。这正是视觉语言模型（VLMs）的优势所在——。视觉语言模型。这使得它们。

遥感视觉基础模型（VFMs）的研究主要聚焦于预训练策略（包括监督与无监督学习），其中自监督学习（SSL）备受重视。**对比学习和生成式掩码图像建模（MIM）等SSL方法有效降低了对昂贵耗时标注的依赖。**然而，当前遥感SSL数据集（无论是单模态还是多模态应用）的规模与多样性有限，制约了被广泛采用的预训练模型发展。此外，SAM的引入催生了大量针对遥感数据的适配研究，将其效用扩展至不同遥感特定场景、语义识别任务、跨模态迁移和多模态处理。

—图像主要源自开源遥感图像数据集（见。

人工智能（AI）技术深刻改变了遥感（RS）领域的发展格局，在数据采集、处理与分析层面实现了革命性突破。传统遥感研究长期依赖人工解译和专用模型，而基础模型（FMs）——这种能够以极高精度和效率执行多任务的大规模预训练AI模型的出现，显著推动了该领域的发展。本文系统综述了遥感领域的基础模型研究：首先依据模型架构、预训练数据集和方法论对现有模型进行分类；通过详尽的性能对比，揭示了当前技术趋势与重大进展；进而探讨了高质量数据需求、计算资源约束、模型泛化能力提升等关键技术挑战与应用瓶颈。