- 博客(1)
- 资源 (16)
- 收藏
- 关注
EfficientFormer-main
利用pytorch编写的关于cnn与transformer的代码程序
视觉变换器(ViT)在计算机视觉任务方面取得了快速进展,在各种基准上取得了有希望的结果。然而,由于大量的参数和模型设计,例如注意机制,基于ViT的模型通常比轻量级卷积网络慢数倍。因此,为实时应用部署ViT尤其具有挑战性,尤其是在资源受限的硬件上,如移动设备上。最近的研究试图通过网络架构搜索或与MobileNet块的混合设计来降低ViT的计算复杂度,但推理速度仍然不令人满意。这就引出了一个重要的问题:变压器能否像MobileNet一样快速运行,同时获得高性能?为了回答这个问题,我们首先回顾了基于ViT的模型中使用的网络架构和运营商,并确定了低效的设计。然后,我们引入了一个维度一致的纯变压器(没有MobileNet块)作为设计范例
在这项工作中,我们证明了视觉转换器可以在移动设备上以MobileNet速度运行。从全面的延迟分析开始,我们在一系列基于VIT的架构中识别低效的运算符,由此我们得出重要的观察结果,指导我们的新设计范式。拟议的高效变换器符合尺寸一致的设计,该设计平滑地利用了硬件友好的4D元块和强大的3D MHS
2023-03-06
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅
278