Road Extraction by Deep Residual U-Net

本文介绍了一种基于深度残差网络(DeepResUnet)的道路提取方法,该方法结合了U-Net和残差单元的优势,通过大量skip connections简化深层网络训练,实现了道路面积和中心线的精准提取。与U-Net相比,DeepResUnet减少了参数数量,同时提高了性能。

Abstract

U-Net与residual单元结合的优势:
(1)residual units可以简化深层网络的训练
(2)大量的skip connections促进了信息的传播,可以设计出参数更好性能更好的网络。

1.INTRODUCTION

道路提取:道路面积的提取和道路中心线的提取
道路面积提取前人工作:
(1)shape index特征 + SVM【11】
(2)使用概率SVM设计多级框架【12】
(3)基于层次图(hierarchical)的无监督道路提取方法【6】
(4)使用RBMs(受限玻尔兹曼机)从高分辨率航空图像中检测道路区域(首次使用深度学习技术,有预处理和后处理)【2】
(5)使用卷积神经网络来进行道路提取,效果比RBMs好(直接从原始图像中提取道路和建筑物)【5】

Deep ResUnet和U-Net有两点不同:
(1)使用residual unit代替 plain neural units 作为基本单元
(2)移除了cropping operation

2.METHODOLOGY

A.Deep ResUnet

在语义分割中,为了得到更好的分割结果,在保留高层语义信息的同时使用低层的细节是非常重要的。训练这样的深度神经网络也是非常困难的。尤其是训练样本有限的情况下。
(1)使用预训练好的网络,然后在目标数据集上进行微调(fine-tuning)
(2)Data augmentation
作者相信U-Net本身的结构有助于缓解训练的问题(作者的直觉),因为将低层特征复制到相应的高层实际上为信息传播创建了一条路径,允许信号以更简单的方式在低层和高层之间传播,这不仅有助于训练期间的反向传播,而且可以将低层更精细的细节补偿到高层语义特征。

更深的网络可以提高性能,但是可能会妨碍训练,并且可能出现退化问题(degradation problem)。为了克服这些问题,我们使用residual unit,每一个residual unit都可以用一种通用形式表示:
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
由于batch normalization、ReLU activation和convolution layers在residual unit中有多种的组合方式。在【22】中对不同组合的影响进行了详细的讨论、并提出了full pre-activation design(如图1)。

Deep ResUnet的优势:
(1)residual可以简化网络的训练
Skip connections(低层和高层之间 和 residual unit内)有助于信息的传播并且不会退化(degradation),在降低参数数目的情况下获得更好的性能。

在这里插入图片描述
Encoding:将输入图像编码成紧凑的表示(compact representations)
Bridge:连接encoding paths 和 decoding paths
Decoding:将表示恢复成像素级别的分类

Encoding path中有三个residual units,在每个单元中,我们不使用池化操作来减少feature map的大小,而是对第一个卷积块应用stride为2的步

评论 6
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值