
卷积操作
Jekk_cheng
这个作者很懒,什么都没留下…
展开
-
卷积神经网络中十大拍案叫绝的操作
CNN从2012年的AlexNet发展至今,科学家们发明出各种各样的CNN模型,一个比一个深,一个比一个准确,一个比一个轻量。我下面会对近几年一些具有变革性的工作进行简单盘点,从这些充满革新性的工作中探讨日后的CNN变革方向。一、卷积只能在同一组进行吗?-- Group convolutionGroup convolution 分组卷积,最早在AlexNet中出现,由于当时的硬件资源有限,训练AlexNet时卷积操作不能全部放在同一个GPU处理,因此作者把feature maps分给多个GPU分别进行处转载 2020-06-29 23:15:05 · 299 阅读 · 0 评论 -
空间可分离卷积和深度可分离卷积
一些简单而高效的轻量级模型,如,GoogLeNet中提到的Inception结构中将普通的3x3卷积替换为连续的1x3和3x1卷积,实际完成的是空间可分离卷积spatial separable convolution,如MobileNet、ShuffleNet、EffNet,都使用了深度可分离卷积depthwise separable convolution,其由逐通道卷积depthwise(DW)和逐点卷积pointwise(PW)两部分结合起来。和常规卷积操作一样,其输出为feature map。相比常原创 2020-06-18 16:44:00 · 3473 阅读 · 0 评论