1. Interpolation-based methods 2. Refactoring-based methods 3. Learning-based methods
图像超分辨率模型的基本假设是,如果低空间分辨率图像遵循与创建低空间分辨率图像相同的重采样过程,则低空间分辨率图像中的缺失细节可以被重建或从其他高空间分辨率图像中学习。基于这一假设,近十年来,人们一直致力于精确预测点扩散函数(point spread function, PSF),它代表了形成低分辨率像素的混合过程。主要有三组方法:1)基于插值的方法,2)基于重构的方法,3)基于学习的方法。
首先,基于插值的方法是基于一定的数学策略,从相关点计算出待恢复目标点的像素值,具有低复杂度和高效率的特点。但结果图像的边缘效应明显,插值过程中没有产生新的信息,无法恢复图像的细节。
其次,基于重构的方法对成像过程进行建模,整合来自同一场景的不同信息,获得高质量的重构结果。通常,这些方法以时间差异换取空间分辨率的提高,这通常需要预先注册和大量的计算。
第三,基于学习的方法[12-20]通过确定重建方法的分辨率提高倍数,克服了困难的局限性,可以面向单幅图像,这是目前超分辨率重建的主要发展方向。在这一类中,常用的方法有近邻嵌入方法(NE)、稀疏表示方法(SCSR)和深度学习方法。
方法类型 | 基本假设 | 代表模型 | 优点 | 缺点 |
---|---|---|---|---|
基于插值的方法 | 当前像素的值可以用附近的像素表示 | The nearest neighbor interpolation | 低复杂度,高效率 | 没有图像纹理细节可以预测,通常使图像看起来更平滑 |
The bilinear interpolation | ||||
The bicubic interpolation | ||||
基于重构的方法 | 通过图像可以恢复其物理性质和特征点扩展函数(PSF)的这些规则可以进一步应用于细节恢复 | Joint MAP registration | 将同一场景中的不同信息进行融合,获得高质量的信息重建结果 | 需要预注册,计算量大 |
Sparse regression and natural image prior | ||||
Kernel regression | ||||
PSF deconvolution | ||||
基于学习的方法 | 通过对大量图像样本的学习,可以得到点扩展函数 | Neighbor-embedding (NE) | 当训练样本更接近目标图像时获得更好的性能,当涉及大量样本时可以获得更高的PSNR | 这非常耗时,需要大量的训练数据集,并且通常限制了跨数据集的模型泛化能力 |
Convolutional neural network (SRCNN) | ||||
Bayesian networks | ||||
Kernel-based methods | ||||
SVM-based methods | ||||
Sparse representation (SCSR) | ||||
SRGAN |