MTP：通过多任务预训练推动遥感基础模型

Paper Title: MTP: Advancing Remote Sensing Foundation Model via Multi-Task Pretraining

论文发布时间：2024年

遥感图像的特点：

1. 以鸟瞰图的方式捕捉地物

2. 低分辨率

3. 光谱信息丰富，遥感图像不仅包含可见光信息，还包括红外线、紫外线、雷达波等不同波段的信息。

4. 遥感图像通常以斜视角度获取。

5. 数据量大。

遥感图像的优点：

1. 大范围覆盖

2. 时间敏感性，可以进行时间序列分析。

3. 多维信息，遥感图像不仅提供二维空间数据，还能够提供多光谱（包括红外线等）和多时相（不同时间的图像）信息

4. 无接触性

5. 支持多领域应用

遥感图像的缺点：

1. 分辨率限制

2. 云层和大气干扰

3. 数据处理复杂性

4. 数据解释困难

由于大规模遥感数据的标注成本高且复杂，因此通常需要无监督的方法进行学习。

其中通常用自监督的方法学习有效的特征表示。

自监督的方法主要包括两种技术：

1. 基于对比的自监督学习方法

对比学习旨在通过目标区分任务将相似样本拉近，同时最大化不同样本之间的距离。

2. 基于生成的自监督学习方法

基于生成的学习，例如掩码图像建模（MIM），通