DRCN: Deeply-Recursive Convolutional Network for Image Super-Resolution. CVPR 2016
1 文章摘要
DRCN解决的问题:
对于图像复原问题的操作问题,深度学习处理的时候时不使用pooling层。
使用递归神经网络解决:如果增加网络的深度,将增加更多的参数,则会导致两个问题:
- 一是容易过拟合,
- 二是模型过大,难以存储和重现。
对于梯度消失/爆炸导致不易收敛,提出了两种解决方法:
- 一是每层的递归层都是监督式的;
- 二是类似于残差网络,采用skip connection 结构。
DRCN第一次将之前已有的递归神经网络(Recursive Neural Network)结构应用在超分辨率处理中。同时,利用残差学习的思想(文中的跳跃连接(Skip-Connection)),加深了网络结构(16个递归),增加了网络感受野,提升了性能。
DRCN输入的是插值后的图像,分为三个模块,第一个是Embedding network,相当于特征提取,第二个是Inference network, 相当于特征的非线性映射,第三个是Reconstruction network,即从特征图像恢复最后的重建结果。其中的Inference network是一个递归网络,即数据循环地通过该层多次。将这个循环进行展开,等效于使用同一组参数的多个串联的卷积层。