DenseNet 论文笔记

DenseNet是一种使用concatenate操作连接每一层的卷积网络,它提高了信息和梯度流动,降低了参数量,解决了梯度消失问题。与ResNet相比,DenseNet更关注特征重用,其瓶颈结构和transition层的设计使其更紧凑。实验表明,DenseNet在保持高性能的同时,参数量远小于ResNet。

DenseNet:Densely Connected Convolutional Networks

摘要

DenseNet 沿着 shortcut 连接的思想,将每一层与除该层外的所有层连接起来。每一层都将前面所有层的特征图谱作为输入(使用 concatenate 来聚合信息)。DenseNet 特点:消除了梯度消失问题,增强了特征传播,鼓励特征重用,大大减少了参数量。

DenseNet 代码:https://github.com/liuzhuang13/DenseNet

TensorFlow版的DenseNet:https://github.com/taki0112/Densenet-Tensorflow

1. 简介

图1

  1. 想法和 ResNet 等类似,但 DenseNet 使用 concatenate 来聚合不同级别的特征(ResNet 使用的是 sum)。

  2. DenseNet 需要更少的参数。

  3. DenseNet 的另一个特点是 提高了整个网络的信息和梯度流动,这使得网络很容易训练。作者认为dense connection 有正则效果。

2. 相关工作

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值