本文主要是介绍【图像超分辨】DRRN,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
DRRN
- 网络结构
- 参考博客
这是一篇CVPR2017的关于图像超分辨率的文章,相较于VDSR取得了更好的结果,从结构上看,还是之前的基调,更深的网络结构(52层),同时采取了递归操作,递归模块中存在权重共享,减少了模型的参数,取得了较好的成果。
创新点:
-
更深的网络层次,不过深度增加的网络对梯度传播带来困难,此篇论文采取的是VDSR的调整梯度裁剪加DRCN的递归学习;
-
递归学习,其实这不算是一个创新点,无论是DRCN还是ResNet都有递归模块,不过此篇的递归模块更接近于DRCN,递归模块中权重共享减少了模型所需要的参数,从而保证不发生梯度爆炸或者梯度消失;
-
残差学习,残差学习可以算是图像超清方面的一个很好的学习策略,由于低分辨率图片与高分辨率图片在图片信息上有很多地方是共享的,于是,可以只学习低分辨率与高分辨率之间的差别也就是残差,并将残差与低分辨率做element-wise也就是矩阵相加,从而得到高清结果,学习残差的好处就是 对网络的参数要求低,网络不需要记忆太多的图片细节,从而有利于梯度传输,防止梯度消失或者梯度爆炸。
DRRN和DRCN有两个主要的区别:一是并不所有卷积层共享一个权重,DRRN拥有由数个残差单元组成的递归块,权重在这些残差单元中共享;二是DRRN通过设计具有多路径结构的递归块从梯度爆炸/消失的负担中解脱出来,可以很容易的训练,并且仅仅增加卷积深度而不添加参数就能提升准确度。
网络结构
首先如上图结构所示,ResNet在同一分支下应用了两次不同的x(第二次的x用的是第一次所得到的结果),而DRRN则在同一分支的两次残差学习中应用了相同的x,这样也促进了残差学习。
VDSR在残差分支有20个权重层,这也导致了更大的感受野,GRL以及可调节的梯度裁剪使VDSR收敛更快,并且可以处理不同缩放程度的图像。
DRCN添加了更多的权重层,引进了更多的参数。为了解决多参数导致的过拟合问题,DRCN应用了递归层,所以即使递归层中有再多的递归,模型的参数也不会增加。
参考博客
DRRN阅读笔记
DRRN超分辨率
这篇关于【图像超分辨】DRRN的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!