Involution

最新推荐文章于 2024-08-12 08:49:24 发布

转载最新推荐文章于 2024-08-12 08:49:24 发布 · 505 阅读

0 ·

CC 4.0 BY-SA版权

原文链接：https://zhuanlan.zhihu.com/p/358183591

文章标签：

#神经网络

数学与神经网络专栏收录该内容

4 篇文章

订阅专栏

该博客介绍了Involution，一种新型神经网络算子，它比卷积更轻量级且高效，同时在形式上简化了self-attention。通过Involution的设计，可以统一理解经典卷积和self-attention，并在各种视觉任务中实现精度和效率的双重提升。官方代码已开源。

论文地址：Involution: Inverting the Inherence of Convolution for Visual Recognition

官方代码：https://link.zhihu.com/?target=https%3A//github.com/d-li14/involution

这篇论文提出的主要贡献：
1）提出了一种新的神经网络算子——involution。它比convolution更轻量更高效，形式上比self-attention更加简洁，可以用在各种视觉任务的模型上取得精度和效率的双重提升。
2）通过involution的结构设计，我们能够以统一的视角来理解经典的卷积操作和近来流行的self-attention。

转载：
https://zhuanlan.zhihu.com/p/358183591