DRU-Net--一种用于医学图像分割的高效深度卷积神经网络

Title:DRU-NET: AN EFFICIENT DEEP CONVOLUTIONAL NEURAL NETWORK FOR MEDICAL 
IMAGE SEGMENTATION

摘要

本文的网络结构是受ResNet和DenseNet两个网络的启发而提出的。与ResNet相比本文的方法增加了额外的跳跃连接，但使用的模型参数要比DenseNet少的多。

基于先前的研究，由于其以多尺度方式捕获特征的能力，编码器-解码器的深度神经网络大多通过集成复杂的网络块（例如DenseNet和attentionNet）来实现更好的性能。然后这往往需要更多的参数。

方法

在本文的方法中，除了原始的UNet之外，每一层都增加了一个BN操作，通过使用这种方法可以更快的收敛和更稳定的进行训练。

与传统的Conv-Relu操作不同，ResNet增加了跳跃连接。DenseNet由几个互相连接的DenseBlock构成。每个Dense块的输入是所有先前Dense块与第一个原始输入的级联特征图

与DenseNet相比，ResNet的一个缺点是缺乏对连续特征图所有先前卷积输出的密集连接原始ResNet在跳过连接中包含两个Conv操作（图1-（a））。如果在反向传播期间梯度在第二Conv处消失，则也不能更新第一Conv中的参数。相比之下，DenseNet利用了所有先前卷积的信息。但是DenseNet也其自身存在的固有问题，那就是较多的参数量和更重的计算负载。

通过考虑这两个网络的优缺点。本文建议在第一个卷积BN操作的输出与最后一个卷积BN的输出之间添加