1、Feedback Network for Image Super-Resolution
设计SRFBN来用高层信息细化低层信息,在带约束的RNN中使用隐状态来实现这种反馈方式。反馈块(FB)用于处理反馈连接并生成强大的高层表示。所提出的SRFBN具有较强的早期重建能力,能够逐步生成最终的高分辨率图像。
(1)基于深度学习方法的好处主要来自于它的两个关键因素:深度和跳连接(residual or dense)。
- 第一种方法提供了强大的功能来表示和建立更复杂的LR-HR映射,同时使用更大的接受域保存更多的上下文信息;
- 第二个因素可以有效地缓解由于简单地叠加更多层来加深网络而导致的梯度消失/爆炸问题。
(2)resnet和densennet所存在的问题:
由于这些网络体系结构中的跳过连接采用自底向上的方式使用或组合层次特性,低层特性只能接收来自前一层的信息,受接受域较小的限制,缺乏足够的上下文信息。这些底层特征在以下几层中被重用,从而进一步限制了网络的重构能力。
这样的大容量网络占用了大量的存储资源,并且存在过度拟合的问题。
(3)解决方法:
为了有效降低网络参数,获得更好的泛化能力,采用了递归结构。最近的研究[22,10]表明,许多具有递归结构的网络(如DRCN[19]和DRRN[31])可以外推为单状态递归神经网络(RNN)。与大多数传统的基于深度学习的方法相似,这些具有递归结构的网络能够以前馈的方式共享信息。然而,前馈方式使得前一层不可能从下一层访问有用的信息,即使使用了跳过连接。
(4)本文的解决方法
在认知理论中,连接皮层视觉区域的反馈连接可以将响应信号从高阶区域传递到低阶区域[17,9]。受到这一现象的启发,最近的研究[30,40]将反馈机制应用于网络架构。这些体系结构中的反馈机制以自顶向下的方式工作,将高层信息带回