CVPR2017 DenseNet, Refiner

师兄给我安利了CVPR2017的两篇最佳论文，就瞄了两眼；发觉最佳论文真的是简单易懂，特别是DenseNet感觉看图就可以了= =

越发觉越厉害的东西表述起来越简单,,ԾㅂԾ,,

首先是DenseNet，其实还是很意外是一个CNN的分类模型，因为传统去做分类模型感觉真的不受宠了，主要是很多指标太难再往上刷了，而且很少看到一个新的且普适的idea，我之前看到的最新的idea是face++的shuffleNet，加入了shuffle的操作，但它又不算是传统的分类，它的目标是移动端，很精巧（参数少）。

DenseNet的想法很暴力，像是ResNet的变种（ShuffleNet也像是它的变种），它的构建建立在卷积层如果离输入层/输入层更近，那么它更容易收敛，所以它的做法比ResNet更暴力，ResNet只是前后两层之间的输出做sum，而这个则是要求各个层之间都有关联，即原来的网络如果有L层，则有L-1个连接，而现在每两个层之间都有一个连接，即L*（L+1）/2个连接，就问你怕不怕,,ԾㅂԾ,,

啥？怎么连接的，我们看看源码

def dense_block(x, stage, nb_layers, nb_filter, growth_rate, dropout_rate=None, weight_decay=1e-4, grow_nb_filters=True):
    ''' Build a dense_block where th