PaperReading -- Depth Anything: Unleashing the Power of Large-Scale Unlabeled Data

Depth Anything: Unleashing the Power of Large-Scale Unlabeled Data

主要贡献：

• 数据集维度：一种数据引擎用于数据收集与自动标注，构建了~62M的大规模无标注数据据，极大程度提升了数据覆盖率、降低泛化误差
• 数据增强（强色彩失真，颜色失真、高斯模糊；强空域畸变，CutMix）构建更具挑战性的优化目标，促使模型主动探索额外的视觉知识，进而提升特征鲁棒性
• 一种辅助监督信息，迫使模型从预训练Encoder中继承丰富语义先验信息

Methods

Learning Labeled Images

采用MiDas的训练方式，从6个公共数据集中收集150万张标记图像来训练初始MDE模型。使用仿射不变损失来同时训练多个数据集：
$${\mathcal{L}}_l=\frac{1}{HW}\sum _{i=1}^{HW}\rho \left(d_i^{\ast },d_i\right)$$
其中$\rho ()$表示仿射不变平均绝对误差损失，先将原深度和预测深度平移放缩到均值为0和单位比例，然后计算误差。

为了获得更强的教师模型，使用语义分割领域的DINOv2预训练权重初始化编码器，并使用预训练的语义分割模型识别天空区域且将天空区域视差值设为0.

Unleashing the Power of Unlabeled Images

使用教师模型为无标签数据集${\mathcal{D}}^u$分配伪标签，然后使用有标签数据集和无标签数据集的并集${\mathcal{D}}^l\cup {\mathcal{D}}^u$训练学生模型。

注意：不是在教师模型TT