Noonebirdyou的博客

DenseNet密集连接网络，顾名思义，就是每个层都会和其之前的任意层进行连接，其名称也是由此而来，从下图也可以看到每层之间都进行了连接。设计理念接下来讲解一下其设计理念，主要与ResNet的ShortCut方式进行比对，相对于ResNet，DenseNet提出了一种更激进的密集连接机制：各层之间进行互连，具体来说就是每个层都会接收其之前的所有层作为输入。可以通过下面两图进行直观的比对，第一张图是ResNet的连接机制，第二张图是DenseNet的连接机制。可以看到，ResNet是每个层与前面的某层

MobilenetV1MobileNet是专门设计用于像嵌入式设备等资源有限的一种极其轻量级的网络。其核心思想就是深度可分离卷积，并在此基础上提出了宽度缩放因子和分辨率缩放因子两个超参来进一步平衡计算量和准确率及耗时，让开发者可以基于自己不同的设备平台来选择更适合当前环境的超参。1：深度可分离卷积mobilenetV1使用的是深度可分离卷积（Depthwise Separable Convo...

NIN综述：文中有两个很重要的创新点Paper下载地址:链接：https://pan.baidu.com/s/1hL4FiBUh-oGB0854jXxSdg提取码：e8yvMlpconv通过MLP(多层感知器)替换GLM(广义线性模型),通过Mlpconv替换传统的CNN卷积层来产生更高层的特征表示.NIN使用多层感知器的原因是MLP的结构与CNN兼容,都可以使用反向传播训练,并且也...