本文详细探讨了DenseNet的结构，包括Dense Block的设计，Bottleneck layers的使用，以及Compression层的功能。Dense Block通过concat方式连接所有层，Bottleneck用于减少计算量，Compression则通过降维和池化减少特征冗余。研究表明，DenseNet允许早期和后期特征的有效传递，且在DenseNet-BC中，通过压缩过渡层输出进一步提升了性能。
Dense Block: 每一层只增加 k = 4 个feature map 然后跟前面的所有concat，再 BN-->ReLU-->Conv （一般k = 12）
整体结构： Dense Block之间是Conv和Pooling
Bottleneck layers:
尽管每次只增加k个，但是到后来还是很大，所以,采用Bottleneck，即BN-ReLU-Conv变成 BN-ReLU-Conv(1×1)-BN-ReLU-Conv(3×3)，中间用1×1来降维，通常变成4k
Compression：
中间是BN-Conv(1×1)- AverPooling（2×2）组成的。这里也可以降维 比如降维一半。
Discuss：
考察filter在不同channel上的绝对值平均值，来看filter是否足够中意这个feature map：
最低0.47元/天 解锁文章
扫一扫
810
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
