SKNet 算法的介绍

代码：SKNet-PyTorch/sknet.py at master · developer0hye/SKNet-PyTorch · GitHub

原论文：https://arxiv.org/abs/1903.06586

启发自皮质神经元根据不同的刺激可动态调节其自身的receptive field，是结合了SE operator，Merge-and-Run Mappings，以及 attention on inception block 思想的产物。从设计理念上来讲也比较simple，即对所有的 > 1 的卷积kernel进行 Selective Kernel 改造，充分利用group/depthwise卷积带来的较小的理论parameters和flops的红利，从而使增加多路与动态选择的设计也不会带来很大的overhead（但实际group/depthwise