Designing Network Design Spaces,译读

本文介绍了一种新的网络设计方法——RegNet,它不是设计单一网络,而是创建网络设计空间。RegNet通过简单的线性函数解释网络宽度和深度,提供了一个低维设计空间,实现了高效的模型设计,性能超越EfficientNet,GPU速度提升5倍。

Designing Network Design Spaces,CVPR 2020 ,RegNet,,
Ilija Radosavovic, Raj Prateek Kosaraju, Ross Girshick, Kaiming He, Piotr Dollár

https://arxiv.org/abs/2003.13678

摘要:

本文作者提出一种新型的网络设计范例。目标是协助提升网络设计的理解,并发现适合不同平台(settings)的通用设计原则。
作者并不是专注于设计单个网络实例,而是设计“网络设计空间”将网络群体参数化。整个过程类似于经典的网络手工设计,
但是提升到了设计空间的水平。应用这个方法学,我们探索了网络设计的结构方面,形成了一个由简单的、规则的网络组成的
低维设计空间,称之为RegNet。RegNet参数化的核心洞察非常简单:好的网络的宽度和深度可以用量化的线性函数来解释

作者进一步分析了RegNet的设计空间,得出了与当前网络设计实践不一致的有趣发现。RegNet设计空间提供了简单而快速的网络,
这些网络可以很好地在广泛的算力系统工作。在可比较的训练设置和算力情况下,RegNet模型的性能优于流行的EfficientNet
模型,在gpu上的速度比其快5倍。
--

ref

https://blog.youkuaiyun.com/jiaoyangwm/article/details/105245796

https://blog.youkuaiyun.com/qq_34795071/article/details/105262100

https://zhuanlan.zhihu.com/p/126616319

https://blog.youkuaiyun.com/heiyaheiya/article/details/90754003

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值