文章目录
PATs: Point Attention Transformers
论文:Modeling Point Clouds with Self-Attention and Gumbel Subset Sampling
2019CVPR,上海交大MoE实验室和华为诺亚方舟实验室
本文主要改进了PointNet++中的FPS的部分,使得选取的点更能处理外点,将down sampling的点选取在attention score大的点上。很形象的对比如下图:

接下来就介绍一下本文提出的两个模块。
GSA:Group Shuffle Attention
这一块内容主要就是自注意力机制,注意力机制的详细内容可以参考另一篇博客。
本文使用了Scaled Dot-Product attention(在上面的博客也提到了),具体的GSA的详见论文中的公式(7)(8)和(11)。
对于点x,对应的特征向量是y,通过y=GSA(f)的变换,得到了点的新的特征向量y。在GSA过程中,参考(7)和(8),仍然是使用f内部的信息,与MLP其实作用是一样的,就是计算新的特征。
GSS:Gumbel Subset Sampling
主要是将Pointnet++中的FPS换成了使用

本文介绍了PATs(Point Attention Transformers)在点云处理中的应用,通过改进PointNet++的FPS部分,利用GSA(Group Shuffle Attention)和GSS(Gumbel Subset Sampling)提高点选择的准确性。GSA借助自注意力机制增强点特征,而GSS用Gumbel Softmax替代FPS进行下采样。实验表明,这些改进在ModelNet40数据集上取得了显著效果。
最低0.47元/天 解锁文章
1850

被折叠的 条评论
为什么被折叠?



