RED: Image Restoration Using Convolutional Auto-encoders with Symmetric Skip Connections. NIPS 2016

1 文章摘要

这篇文章提出了由对称的卷积层-反卷积层构成的网络结构，作为一个编码-解码框架，可以学习由低质图像到原始图像端到端的映射。

这样的结构能够让反向传播信号能够直接传递到底层，解决了梯度消失问题，同时能将卷积层的细节传递给反卷积层，能够恢复出更干净的图片。

RED中间的卷积层和反卷积层学习的特征是目标图像和低质图像之间的残差。

RED的网络深度为30层，损失函数用的均方误差。

损失函数：MSE

2 网络结构

3 主要贡献

• 提出了卷积反卷积对称网络结构；

• 卷积和反卷积利用跳层结构相连；

• 提出的卷积反卷积架构可用于多任务，如image denoising,image super-resolution,JPEG deblocking, non-blind image deblurring image inpainting.

4 相关结构

卷积反卷积网络结构：

• 卷积：特征提取，随卷积进行，图像特征被提取，同时噪声的效果被降低，经过多层卷积后，图像的特征被提取出来，也降低了噪声的影响。
• 反卷积：针对特征的上采样，完成由图像特征到图像的转换，由于利用的是过滤后的噪声后的图像特征，因此达到了降噪、图像修复的目的。
• 文中通过实验说明利用反卷积结构而不用padding 和upsampling的原因：反卷积对图像细节有补偿作用

跳层结构（skip connections）

• 保留更多的图像细节，协助反卷积层完成图像的恢复工作；
• 反向传播过程中的梯度反向，减少梯度消失，加快模型训练

结论：滤波器个数越多，大小越大，训练图像越大，跳层越少性能越好；