- 博客(12)
- 收藏
- 关注
原创 MAE方向基础知识
(2)ASRAirC(Airplane Scene Representation – Airplane with Cloud occlusion):在ASRAir的基础上引入云层遮挡生成的含云飞机图像数据集(如图 2(b)),用于评估模型在云层遮挡场景下的下游任务性能,其训练集和验证集分别包含5,773张和1,668张图像;,优先对云层等非关键区域掩码,引导模型重点关注飞机本体区域,利用教师分支对语义重要区域的感知能力,引导学生分支在重建过程中对不同区域施加差异化的重建约束;
2026-06-13 22:06:28
175
原创 RI-MAE:用于自监督点云表示学习的旋转不变掩码自编码器
该论文针对现有掩码点云建模(MPM)方法对旋转敏感的核心问题,提出旋转不变掩码自编码器(RI-MAE),通过设计 RI-Transformer 骨干网络与双分支师生架构,分别解决旋转不变隐表示学习和旋转不变掩码块重建两大挑战;RI-Transformer 借助内容 - 朝向解耦、旋转不变朝向嵌入(RI-OE)和旋转不变位置嵌入(RI-PE)机制,在最小化修改通用 Transformer 的前提下实现旋转不变特征提取,双分支架构则在旋转不变隐空间中完成掩码块重建,避免原始点云旋转带来的监督模糊;
2026-03-27 21:06:23
384
原创 BEV-MAE:用于自动驾驶场景点云预训练的鸟瞰图掩码自编码器
BEV-MAE 是面向自动驾驶 LiDAR 点云的自监督预训练框架,它针对现有方法与下游 BEV 基 3D 检测存在特征表征鸿沟、掩码导致编码器感受野缩小、预训练成本高昂等痛点,提出了 BEV 引导掩码策略、共享可学习点令牌、轻量单层卷积解码器,以及归一化点云重建与点密度预测的双监督任务。同时在低标注数据场景下增益尤为显著,同时具备优异的跨数据集泛化能力,为自动驾驶 3D 感知提供了高效、可落地的自监督预训练新范式。
2026-03-27 17:39:13
382
原创 L-MAE:掩码自编码器是语义分割数据集增强器
提出了一种名为 L-MAE(标签掩码自编码器) 的创新方法,旨在解决语义分割数据集制作成本高且标注易出错的问题。该模型首次将掩码自编码器(MAE)架构应用于下游的标签补全任务,通过一种 Stack Fusion(堆栈融合) 策略将不完整的标签与原始图像融合,并利用 Image Patch Supplement(图像块补充) 算法在重建过程中引入视觉引导,从而实现像素级的精准标签修复。实验证明,L-MAE 在补全精度上超越了现有的先进模型,且使用其增强后的数据集训练分割模型,性能显著提升 13.5%。
2026-03-20 20:43:24
462
1
原创 MaeFuse:基于预训练掩码自编码器通过引导训练实现红外与可见光图像融合的全特征迁移
本文的研究不仅为红外与可见光图像融合提供了一种高性能、易实现的新方法 MaeFuse,更重要的是突破了 IVIF 领域 “依赖下游任务驱动才能捕捉高层语义” 的传统认知,提出了 “预训练模型提取全维度特征 + 针对性训练策略优化融合” 的全新范式,为后续多模态图像融合的研究提供了重要的思路和参考,同时也为预训练模型在计算机视觉低样本任务中的应用提供了新的案例。
2026-02-23 15:59:39
1052
原创 从像素到组件:用于视觉表征学习的特征向量掩蔽
论文:https://arxiv.org/abs/2502.06314会议:https://so.youkuaiyun.com/so/search?q=ECCV&spm=1001.2101.3001.7020年份:2025自监督学习(Self-Supervised Learning, SSL)无需人工标注,通过 “设计辅助任务” 从无标签数据中学习有意义的特征表示,目标是让学习到的表示能迁移到下游任务主成分分析(PCA)一种线性降维 / 数据变换方法,目标是找到数据中 “方差最大的正交方向(主成分,PC)”,实
2026-02-01 12:41:51
945
原创 Masked Angle-Aware Autoencoder for Remote Sensing Images
针对遥感图像 “目标角度多样、传统掩码自编码器(MAE)隐式学习角度效果有限” 的问题,提出Masked Angle-Aware Autoencoder(MA3E):通过 “缩放中心裁剪生成旋转块、角度嵌入注入角度信息、分开掩码保护角度特征、最优传输(OT)损失解决旋转块重建偏差” 的闭环设计,实现 “像素重建 + 角度恢复” 双目标学习,最终在遥感场景分类、旋转目标检测、语义分割三大下游任务中超越现有 MIM 方法,验证了 “显式角度感知” 对遥感图像自监督表示学习的提升价值。
2025-12-07 11:47:51
1094
原创 ChA-MAEViT: Unifying Channel-Aware Masked Autoencoders and Multi-Channel Vision Transformers
独立补丁掩码:对每个通道独立采样掩码补丁(非单通道掩码复制),确保各通道掩码位置不同;动态通道掩码:随机采样0~(c-1)个通道(c为总通道数),对选中通道的所有补丁全掩码;最终掩码将**“被掩码的补丁/通道”作为重建目标**,强制模型用未掩码通道的信息恢复这些内容。在该论文中,论文实验通过 “严谨设计→多场景验证→组件消融→鲁棒性扩展→可视化佐证”,形成完整严谨的论证跨通道交互是 MCI 的关键,ChA-MAEViT 通过 DCP Masking 强制跨通道学习,性能提升 3.0~21.5%
2025-11-30 12:28:20
744
1
原创 SupMAE:有监督掩码自编码器是高效的视觉学习器
监督预训练的 “epoch 饱和” 问题显著组件设计的适配性与通用性不足模型架构适配性单一:实验主要基于 ViT-B/16 验证,仅在 SimMIM+Swin-Base 上做了简单兼容性测试(表 7,精度提升 0.2%),未深入探索在更大模型(如 ViT-L/H)、 hierarchical 架构(如 Swin-V2、ConvNeXt)上的表现,难以验证方法对不同视觉 Transformer 的普适性。
2025-11-29 17:29:56
1062
原创 MAP: Unleashing Hybrid Mamba-Transformer Vision Backbone’s Potential with Masked Autoregressive Pret
默认架构仅在静态图像任务(分类、分割)中验证,组件的扩展性受限固定采用 “50% 随机掩码 + Transformer 行 - wise 解码”,未探索动态掩码或轻量化解码器任务覆盖不全面,主实验集中于分类、分割、检测等基础视觉任务,未验证 MAP 在复杂专业领域的泛化性(如视频目标跟踪、3D 场景重建、病理切片分析)
2025-11-06 17:45:51
999
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅