2025_NIPS_What We Miss Matters: Learning from the Overlooked in Point Cloud Transformers

一、文章主要内容总结

该研究针对点云Transformer模型过度关注显著区域、忽视潜在信息区域的问题，提出了一种名为BlindFormer的对比注意力学习框架，旨在通过挖掘模型的“注意力盲点”提升3D表示学习的鲁棒性和特征区分能力。

1. 核心问题：现有点云Transformer依赖自注意力机制捕捉长距离依赖，但点云数据本身稀疏且无冗余，过度聚焦显著区域会导致两个关键缺陷：（1）对噪声、旋转等扰动敏感；（2）特征区分能力不足，泛化性差。
2. 框架设计：
   • 注意力盲点挖掘（ABM）：动态抑制训练过程中高注意力区域，通过基于自注意力分数的动态掩码策略，引导模型探索被忽视的盲点区域，扩大感知范围。
   • 盲点感知联合优化（BJO）：将盲点特征对齐与原始预训练任务（如重建、生成）结合，在保留任务性能的同时增强特征区分度，通过分阶段加权损失平衡两类学习目标。
3. 实验验证：在ScanObjectNN、ModelNet40、ShapeNetPart等基准数据集上，基于Point-MAE、PointGPT-S等主流Transformer骨干网络验证，结果显示：
   • 抗扰