Designing Network Design Spaces,CVPR 2020 ,RegNet,,
Ilija Radosavovic, Raj Prateek Kosaraju, Ross Girshick, Kaiming He, Piotr Dollár
https://arxiv.org/abs/2003.13678
摘要:
本文作者提出一种新型的网络设计范例。目标是协助提升网络设计的理解,并发现适合不同平台(settings)的通用设计原则。
作者并不是专注于设计单个网络实例,而是设计“网络设计空间”将网络群体参数化。整个过程类似于经典的网络手工设计,
但是提升到了设计空间的水平。应用这个方法学,我们探索了网络设计的结构方面,形成了一个由简单的、规则的网络组成的
低维设计空间,称之为RegNet。RegNet参数化的核心洞察非常简单:好的网络的宽度和深度可以用量化的线性函数来解释。
作者进一步分析了RegNet的设计空间,得出了与当前网络设计实践不一致的有趣发现。RegNet设计空间提供了简单而快速的网络,
这些网络可以很好地在广泛的算力系统工作。在可比较的训练设置和算力情况下,RegNet模型的性能优于流行的EfficientNet
模型,在gpu上的速度比其快5倍。
--
ref
https://blog.youkuaiyun.com/jiaoyangwm/article/details/105245796
https://blog.youkuaiyun.com/qq_34795071/article/details/105262100
https://zhuanlan.zhihu.com/p/126616319
https://blog.youkuaiyun.com/heiyaheiya/article/details/90754003
本文介绍了一种新的网络设计方法——RegNet,它不是设计单一网络,而是创建网络设计空间。RegNet通过简单的线性函数解释网络宽度和深度,提供了一个低维设计空间,实现了高效的模型设计,性能超越EfficientNet,GPU速度提升5倍。
300

被折叠的 条评论
为什么被折叠?



