一种图像重建方法及装置与流程

文档序号:24156262发布日期:2021-03-05 11:54阅读:111来源:国知局
一种图像重建方法及装置与流程

[0001]
本申请涉及图像处理技术领域,特别是涉及一种图像重建方法及装置。


背景技术:

[0002]
由于hr(high resolution,高分辨率)图像相对于lr(low resolution,低分辨率)图像具有像素密度高、细节信息丰富、画质细腻、辨识度高等优点,数字高清、卫星成像、视频监控、虚拟现实和生物医学图像分析等应用往往基于hr图像实现。
[0003]
上述hr图像可以通过高分辨率相机或者超分辨率相机进行图像采集得到。但是考虑到上述相机成本较高、hr图像对传输带宽以及存储资源的需求较高等因素,大多数应用通过sr(super resolution,超分辨率)技术对lr图像进行重建得到hr图像。其中,sr技术是指通过算法将图像的分辨率由lr提升到hr的技术。
[0004]
现有技术中,常用的sr技术是基于插值算法实现的。也就是,对lr图像进行插值处理得到hr图像。虽然应用上述方式能够对lr图像进行重建得到hr图像,但是插值处理会导致图像的细节信息丢失,从而导致得到的hr图像质量差。参见图1a和图1b,其中,图1a示出了一张原始图像,图1b示出了对图1a进行二分之下采样得到lr图像后,再对lr图像进行插值处理得到的与上述原始图像分辨率相同的hr图像。显然图1b相对于图1a损失了大量细节信息。


技术实现要素:

[0005]
本申请实施例的目的在于提供一种图像重建方法及装置,以提高对图像进行重建得到的hr图像的图像质量。具体技术方案如下:
[0006]
第一方面,本申请实施例提供了一种图像重建方法,所述方法包括:
[0007]
获得待处理图像;
[0008]
对所述待处理图像进行特征提取,得到第一特征图像;
[0009]
以蒸馏输入图像为蒸馏对象进行蒸馏处理,得到蒸馏输出图像,其中,所述蒸馏输入图像的初始图像为所述第一特征图像;
[0010]
在第一数量未达到第一预设数量的情况下,重复以所述蒸馏输入图像和已得蒸馏输出图像为蒸馏对象进行蒸馏处理,得到新的蒸馏输出图像,直至所述第一数量达到第一预设数量,其中,所述已得蒸馏输出图像包括:最近一次执行第一蒸馏处理后、且在本次执行第二蒸馏处理前得到的所有蒸馏输出图像,所述第一数量为:最近一次执行所述第一蒸馏处理后执行所述第二蒸馏处理的次数,所述第一蒸馏处理为:蒸馏对象为所述蒸馏输入图像的蒸馏处理,所述第二蒸馏处理为:蒸馏对象为所述蒸馏输入图像和已得蒸馏输出图像的蒸馏处理;
[0011]
在第二数量未达到第二预设数量的情况下,将所述蒸馏输入图像更新为最新得到的蒸馏输出图像,并返回所述以蒸馏输入图像为蒸馏对象进行蒸馏处理的步骤,直至所述第二数量达到第二预设数量,其中,所述第二数量表示:执行所述第一蒸馏处理的次数;
[0012]
根据最新得到的蒸馏输出图像进行图像重建,得到分辨率为重建分辨率的重建图像,其中,所述重建分辨率为:高于所述待处理图像的分辨率的预设分辨率。
[0013]
本申请的一个实施例中,通过以下方式进行蒸馏处理:
[0014]
对作为蒸馏对象的特征图像进行特征维度转换,得到第三预设数量张第二特征图像;
[0015]
通过卷积操作对所述第二特征图像进行特征增强处理,得到第三特征图像;
[0016]
对所述第三特征图像进行特征维度压缩,得到第四预设数量张特征图像,作为蒸馏输出图像。
[0017]
本申请的一个实施例中,所述通过卷积操作对所述第二特征图像进行特征增强处理,得到第三特征图像,包括:
[0018]
对所述第二特征图像进行连续卷积操作,得到第四特征图像;
[0019]
对第五特征图像进行连续卷积操作,得到第六特征图像,其中,所述第五特征图像为所述第四特征图像中的部分特征图像,所述第六特征图像包括第五预设数量张特征图像,所述第五预设数量=第六预设数量+第三预设数量,所述第六预设数量为:所述第四特征图像中非第五特征图像的数量;
[0020]
将所述第六特征图像与图像集中指定的图像进行相加,得到第三特征图像,其中,所述图像集包括:所述第四特征图像中的非第五特征图像和所述第二特征图像。
[0021]
本申请的一个实施例中,在所述第二预设数量大于1的情况下,第三数量与第四数量相等,所述第三数量为:所述第一特征图像的数量,所述第四数量为:第七特征图像的数量,所述第七特征图像为:最后一次进行蒸馏处理得到的蒸馏输出图像中的特征图像;
[0022]
在所述第二数量达到第二预设数量之后,所述方法还包括:
[0023]
将所述第一特征图像与所述第七特征图像进行相加,作为最新得到的蒸馏输出图像。
[0024]
本申请的一个实施例中,在所述根据最新得到的蒸馏输出图像进行图像重建,得到分辨率为重建分辨率的重建图像之前,所述方法还包括:
[0025]
对所述待处理图像进行插值处理,获得分辨率为所述重建分辨率的插值图像;
[0026]
所述根据最新得到的蒸馏输出图像进行图像重建,得到分辨率为重建分辨率的重建图像,包括:
[0027]
根据最新得到的蒸馏输出图像进行图像重建,得到初始重建图像;
[0028]
将所述插值图像和初始重建图像进行相加,得到分辨率为所述重建分辨率的重建图像。
[0029]
第二方面,本申请实施例提供了一种图像重建装置,所述装置包括:
[0030]
图像获得模块,用于获得待处理图像;
[0031]
特征提取模块,用于对所述待处理图像进行特征提取,得到第一特征图像;
[0032]
蒸馏处理模块,用于以蒸馏输入图像为蒸馏对象进行蒸馏处理,得到蒸馏输出图像,其中,所述蒸馏输入图像的初始图像为所述第一特征图像;在第一数量未达到第一预设数量的情况下,重复以所述蒸馏输入图像和已得蒸馏输出图像为蒸馏对象进行蒸馏处理,得到新的蒸馏输出图像,直至所述第一数量达到第一预设数量,其中,所述已得蒸馏输出图像包括:最近一次执行第一蒸馏处理后、且在本次执行第二蒸馏处理前得到的所有蒸馏输
出图像,所述第一数量为:最近一次执行所述第一蒸馏处理后执行所述第二蒸馏处理的次数,所述第一蒸馏处理为:蒸馏对象为所述蒸馏输入图像的蒸馏处理,所述第二蒸馏处理为:蒸馏对象为所述蒸馏输入图像和已得蒸馏输出图像的蒸馏处理;
[0033]
图像更新模块,用于在第二数量未达到第二预设数量的情况下,将所述蒸馏输入图像更新为最新得到的蒸馏输出图像,并触发所述蒸馏处理模块,直至所述第二数量达到第二预设数量,其中,所述第二数量表示:执行所述第一蒸馏处理的次数;
[0034]
图像重建模块,用于根据最新得到的蒸馏输出图像进行图像重建,得到分辨率为重建分辨率的重建图像,其中,所述重建分辨率为:高于所述待处理图像的分辨率的预设分辨率。
[0035]
本申请的一个实施例中,所述蒸馏处理模块,具体包括:
[0036]
所述维度转换单元,用于对作为蒸馏对象的特征图像进行特征维度转换,得到第三预设数量张第二特征图像;
[0037]
所述特征增强单元,用于通过卷积操作对所述第二特征图像进行特征增强处理,得到第三特征图像;
[0038]
所述维度压缩单元,用于对所述第三特征图像进行特征维度压缩,得到第四预设数量张特征图像,作为蒸馏输出图像。
[0039]
本申请的一个实施例中,所述特征增强单元,具体用于:
[0040]
对所述第二特征图像进行连续卷积操作,得到第四特征图像;
[0041]
对第五特征图像进行连续卷积操作,得到第六特征图像,其中,所述第五特征图像为所述第四特征图像中的部分特征图像,所述第六特征图像包括第五预设数量张特征图像,所述第五预设数量=第六预设数量+第三预设数量,所述第六预设数量为:所述第四特征图像中非第五特征图像的数量;
[0042]
将所述第六特征图像与图像集中指定的图像进行相加,得到第三特征图像,其中,所述图像集包括:所述第四特征图像中的非第五特征图像和所述第二特征图像。
[0043]
本申请的一个实施例中,在所述第二预设数量大于1的情况下,第三数量与第四数量相等,所述第三数量为:所述第一特征图像的数量,所述第四数量为:第七特征图像的数量,所述第七特征图像为:最后一次进行蒸馏处理得到的蒸馏输出图像中的特征图像;
[0044]
所述图像重建装置还包括:
[0045]
图像相加模块,用于在所述第二数量达到第二预设数量之后,将所述第一特征图像与所述第七特征图像进行相加,作为最新得到的蒸馏输出图像。
[0046]
本申请的一个实施例中,所述图像重建装置还包括:
[0047]
插值处理模块,用于在所述图像重建模块重建所述重建图像之前,对所述待处理图像进行插值处理,获得分辨率为所述重建分辨率的插值图像;
[0048]
所述图像重建模块,具体用于:
[0049]
根据最新得到的蒸馏输出图像进行图像重建,得到初始重建图像;
[0050]
将所述插值图像和初始重建图像进行相加,得到分辨率为所述重建分辨率的重建图像。
[0051]
第三方面,本申请实施例提供了一种电子设备,所述电子设备包括:处理器、机器可读存储介质和系统总线,所述处理器和机器可读存储介质通过所述系统总线完成相互间
的通信,所述机器可读存储介质存储有能够被所述处理器执行的机器可执行指令,所述机器可执行指令包括:获得指令、提取指令、蒸馏指令、更新指令和重建指令;
[0052]
所述处理器被所述获得指令促使实现步骤:获得待处理图像;
[0053]
所述处理器被所述提取指令促使实现步骤:对所述待处理图像进行特征提取,得到第一特征图像;
[0054]
所述处理器被所述蒸馏指令促使实现步骤:以蒸馏输入图像为蒸馏对象进行蒸馏处理,得到蒸馏输出图像,其中,所述蒸馏输入图像的初始图像为所述第一特征图像;在第一数量未达到第一预设数量的情况下,重复以所述蒸馏输入图像和已得蒸馏输出图像为蒸馏对象进行蒸馏处理,得到新的蒸馏输出图像,直至所述第一数量达到第一预设数量,其中,所述已得蒸馏输出图像包括:最近一次执行第一蒸馏处理后、且在本次执行第二蒸馏处理前得到的所有蒸馏输出图像,所述第一数量为:最近一次执行所述第一蒸馏处理后执行所述第二蒸馏处理的次数,所述第一蒸馏处理为:蒸馏对象为所述蒸馏输入图像的蒸馏处理,所述第二蒸馏处理为:蒸馏对象为所述蒸馏输入图像和已得蒸馏输出图像的蒸馏处理;
[0055]
所述处理器被所述更新指令促使实现步骤:在第二数量未达到第二预设数量的情况下,将所述蒸馏输入图像更新为最新得到的蒸馏输出图像,并返回所述处理器被所述蒸馏指令促使实现的步骤,直至所述第二数量达到第二预设数量,其中,所述第二数量表示:执行所述第一蒸馏处理的次数;
[0056]
所述处理器被所述重建指令促使实现步骤:根据最新得到的蒸馏输出图像进行图像重建,得到分辨率为重建分辨率的重建图像,其中,所述重建分辨率为:高于所述待处理图像的分辨率的预设分辨率。
[0057]
第四方面,本申请实施例提供了一种机器可读存储介质,所述机器可读存储介质存储有机器可执行指令,所述机器可执行指令包括:获得指令、提取指令、蒸馏指令、更新指令和重建指令;
[0058]
所述获得指令在被处理器调用和执行时,所述获得指令促使所述处理器实现步骤:获得待处理图像;
[0059]
所述提取指令在被处理器调用和执行时,所述提取指令促使所述处理器实现步骤:对所述待处理图像进行特征提取,得到特征图像;
[0060]
所述蒸馏指令在被处理器调用和执行时,所述蒸馏指令促使所述处理器实现步骤:以蒸馏输入图像为蒸馏对象进行蒸馏处理,得到蒸馏输出图像,其中,所述蒸馏输入图像的初始图像为所述第一特征图像;在第一数量未达到第一预设数量的情况下,重复以所述蒸馏输入图像和已得蒸馏输出图像为蒸馏对象进行蒸馏处理,得到新的蒸馏输出图像,直至所述第一数量达到第一预设数量,其中,所述已得蒸馏输出图像包括:最近一次执行第一蒸馏处理后、且在本次执行第二蒸馏处理前得到的所有蒸馏输出图像,所述第一数量为:最近一次执行所述第一蒸馏处理后执行所述第二蒸馏处理的次数,所述第一蒸馏处理为:蒸馏对象为所述蒸馏输入图像的蒸馏处理,所述第二蒸馏处理为:蒸馏对象为所述蒸馏输入图像和已得蒸馏输出图像的蒸馏处理;
[0061]
所述更新指令在被处理器调用和执行时,所述更新指令促使所述处理器实现步骤:在第二数量未达到第二预设数量的情况下,将所述蒸馏输入图像更新为最新得到的蒸馏输出图像,并返回所述蒸馏指令促使所述处理器实现的步骤,直至所述第二数量达到第
二预设数量,其中,所述第二数量表示:执行所述第一蒸馏处理的次数;
[0062]
所述更新指令在被处理器调用和执行时,所述更新指令促使所述处理器实现步骤:根据最新得到的蒸馏输出图像进行图像重建,得到分辨率为重建分辨率的重建图像,其中,所述重建分辨率为:高于所述待处理图像的分辨率的预设分辨率。
[0063]
由以上可见,应用本申请实施例提供的方案进行图像重建时,在对待处理图像进行特征提取,得到第一特征图像后,通过对第一特征图像反复进行蒸馏处理的方式,增强待处理图像的特征。在此基础上,基于蒸馏输出图像进行图像重建,所得到的高分辨率图像,能够较好的保留待处理图像中的细节信息,从而能够提高所得到高分辨率图像的图像质量。
附图说明
[0064]
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
[0065]
图1a为一种lr图像的示意图;
[0066]
图1b为一种hr图像的示意图;
[0067]
图1c为另一种hr图像的示意图;
[0068]
图2为本申请实施例提供的一种图像重建方法的流程示意图;
[0069]
图3a为本申请实施例提供的一种图像重建模型的结构示意图;
[0070]
图3b为本申请实施例提供的一种稠密块的结构示意图;
[0071]
图3c为本申请实施例提供的一种特征增强单元的数据流向示意图;
[0072]
图3d为本申请实施例提供的一种特征蒸馏层的结构示意图;
[0073]
图3e为本申请实施例提供的另一种图像重建模型的结构示意图;
[0074]
图4为本申请实施例提供的一种蒸馏处理方法的流程示意图;
[0075]
图5为本申请实施例提供的一种图像重建装置的结构示意图;
[0076]
图6为本申请实施例提供的蒸馏处理装置的结构示意图;
[0077]
图7为本申请实施例提供的一种电子设备的结构示意图。
具体实施方式
[0078]
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
[0079]
由于现有技术中对lr图像进行图像重建得到hr图像时,存在所得hr图像的图像质量差这一技术问题,为解决这一技术问题,本申请实施例提供了一种图像重建方法及装置。下面分别对本申请实施例提供的图像重建方法及装置分别进行详细说明。
[0080]
参见图2,图2提供了一种图像重建方法的流程示意图,该方法包括:
[0081]
s201:获得待处理图像。
[0082]
s202:对待处理图像进行特征提取,得到第一特征图像。
[0083]
对待处理图像进行特征提取时,可以采用多种不同的特征提取方式进行特征提取,从而得到多张特征图像。由于各种特征提取方式不同,所以所提取的图像特征的侧重点有所差异,因此,采用多种特征提取方式对待处理图像进行特征提取,可以得到多种不同类型的特征图像,也就是,可以得到从多种不同角度反映待处理图像特征的特征图像。
[0084]
为便于与其他特征图像进行区分,本申请实施例中,将对待处理图像进行特征提取得到的特征图像称为第一特征图像。
[0085]
s203:以蒸馏输入图像为蒸馏对象进行蒸馏处理,得到蒸馏输出图像。
[0086]
其中,上述蒸馏输入图像的初始图像为上述第一特征图像。
[0087]
由于上述蒸馏输入图像的初始图像为上述第一特征图像,所以,以蒸馏输入图像为蒸馏对象进行蒸馏处理,也就是,对上述第一特征图像进行蒸馏处理。
[0088]
本申请的一个实施例中,上述蒸馏处理可以理解为对蒸馏对象进行特征增强处理。例如,对待处理图像的特征图像进行特征增强处理。
[0089]
s204:在第一数量未达到第一预设数量的情况下,重复以蒸馏输入图像和已得蒸馏输出图像为蒸馏对象进行蒸馏处理,得到新的蒸馏输出图像,直至第一数量达到第一预设数量。
[0090]
为便于对上述s203和s204执行的蒸馏处理进行区分,本申请实施例中,将上述蒸馏对象为蒸馏输入图像的蒸馏处理称为第一蒸馏处理,将蒸馏对象为蒸馏输入图像和已得蒸馏输出图像的蒸馏处理称为第二蒸馏处理。
[0091]
上述已得蒸馏输出图像包括:最近一次执行上述以蒸馏输入图像为蒸馏对象进行蒸馏处理的步骤后、且本次执行上述以蒸馏输入图像和已得蒸馏输出图像为蒸馏对象进行蒸馏处理的步骤前得到的所有蒸馏输出图像,也就是,最近一次执行上述s203后、且本次执行上述s204前得到的所有蒸馏输出图像,即最近一次执行第一蒸馏处理后、且本次执行上述第二蒸馏处理前得到的所有蒸馏输出图像。
[0092]
由于上述蒸馏输入图像的初始图像为上述第一特征图像,因此,以上述蒸馏输入图像为蒸馏对象进行第一蒸馏处理后,得到的蒸馏输出图像也是特征图像。在此基础上,以蒸馏输入图像和已得蒸馏输出图像为蒸馏对象进行第二蒸馏处理后,得到的蒸馏输出图像也是特征图像。因此,上述已得蒸馏输出图像均为特征图像。
[0093]
上述第一数量为:最近一次执行上述以蒸馏输入图像为蒸馏对象进行蒸馏处理的步骤后执行上述以蒸馏输入图像和已得蒸馏输出图像为蒸馏对象进行蒸馏处理的步骤的次数,也就是,最近一次执行上述s203后执行上述s204的次数。即上述第一数量为:最近一次执行第一蒸馏处理后执行第二蒸馏处理的次数。
[0094]
具体的,上述第一预设数量可以为不小于0的整数。例如,上述第一预设数量可以为:0、1、2、3等。
[0095]
在上述第一预设数量等于0的情况下,不需要执行上述第二蒸馏处理,也就是,最近一次执行上述第一蒸馏处理后,发现上述第一数量等于0,达到上述第一预设数量,不执行上述第二蒸馏处理,即不执行上述s204,转而直接执行下述s205。
[0096]
另外,本步骤中,“重复以蒸馏输入图像和已得蒸馏输出图像为蒸馏对象进行蒸馏处理,得到新的蒸馏输出图像”的步骤可以理解为,循环执行“以蒸馏输入图像和已得蒸馏
输出图像为蒸馏对象进行蒸馏处理,得到新的蒸馏输出图像”的步骤直至上述第一数量达到第一预设数量。
[0097]
下面通过举例对本步骤中相邻两次进行蒸馏处理的过程进行说明。
[0098]
假设,蒸馏输入图像为:图像1,已得蒸馏输出图像包括:图像2,这种情况下,以上述图像1和图像2为蒸馏对象,进行蒸馏处理,得到新的蒸馏输出图像,分别记为:图像3和图像4。这时已得蒸馏输出图像包括:图像2、图像3和图像4。
[0099]
这样再次进行蒸馏处理时,以图像1、图像2、图像3和图像4为蒸馏对象,进行蒸馏处理,从而得到新的蒸馏输出图像。
[0100]
s205:在第二数量未达到第二预设数量的情况下,将蒸馏输入图像更新为最新得到的蒸馏输出图像,并返回上述s203,直至第二数量达到第二预设数量。
[0101]
其中,上述第二数量表示:执行上述以蒸馏输入图像为蒸馏对象进行蒸馏处理的步骤的次数,也就是,执行上述s203的次数。即上述第二数量表示执行第一蒸馏处理的次数。
[0102]
具体的,上述第二预设数量可以为不小于1的整数。例如,上述第二预设数量可以为:1、2、3等。
[0103]
在上述第二预设数量等于1的情况下,表征整个图像重建过程中只执行一次第一蒸馏处理,也就是,最近一次执行上述第一蒸馏处理后,发现上述第二数量等于1,达到上述第二预设数量,这种情况下不需要再返回上述s203,因此也就不需要对上述蒸馏输入图像进行更新,进而不需要执行上述s205转而直接执行下述s206。
[0104]
s206:根据最新得到的蒸馏输出图像进行图像重建,得到分辨率为重建分辨率的重建图像。
[0105]
其中,上述重建分辨率为:高于待处理图像的分辨率的预设分辨率。
[0106]
本申请的一个实施例中,上述重建分辨率为:待处理图像的分辨率预设倍数的预设分辨率。上述预设倍数大于1。具体的,上述预设倍数可以为大于1的整数,例如,2、3、4等等。当然,上述预设倍数也可以为大于1的小数,例如,1.5、1.8、2.5等等。
[0107]
另外,由于图像的分辨率对应于图像的宽、高两个方向,上述重建分辨率相对于待处理图像的分辨率在宽、高两个方向上的预设倍数可以是相同的,也可以是不相同的,本申请并不对此进行限定。
[0108]
假设,待处理图像的分辨率为:960x540,则上述重建分辨率可以为:1920x1080等,也就是说,上述重建分辨率为待处理图像的分辨率2倍的分辨率,即上述预设倍数为:2。
[0109]
由于蒸馏处理是对蒸馏对象进行特征增强处理,又由于从上述s204和s205可知对特征图像循环进行了多次蒸馏处理,也就是,多次进行了特征增强处理,因此,上述最新得到的蒸馏输出图像是经过多次特征增强后的特征图像,这样上述最新得到的蒸馏输出图像能够较好的保留待处理图像中的细节信息。在此基础上,本步骤中根据上述最新得到的蒸馏输出图像进行图像重建,所重建出的高分辨率图像会具有较高的图像质量。
[0110]
下面通过一个具体实施例对上述s202-s206进行说明。
[0111]
本申请的一个实施例中,上述s202-s206可以通过预先训练的图像重建模型实现,也就是,将上述待处理图像输入上述图像重建模型生成高分辨率图像,得到分辨率为上述重建分辨率的重建图像。
[0112]
具体的,上述图像重建模型包括:依次连接的特征提取层、特征蒸馏层和图像重建层。参见图3a,示出了一种图像重建模型的结构示意图。
[0113]
也就是说,上述图像重建模型的输入信息为上述特征提取层的输入信息,特征提取层的输出信息为特征蒸馏层的输入信息,特征蒸馏层的输出信息为图像重建层的输入信息,图像重建层的输出信息为上述图像重建模型的输出信息。
[0114]
其中,上述特征提取层,用于对待处理图像进行特征提取,得到第一特征图像。
[0115]
本申请的一个实施例中,上述特征提取层可以包含不同的卷积核,因此,上述特征提取层对待处理图像进行特征提取时,可以使用不同的卷积核对待处理图像进行卷积操作,从而对待处理图像抽象得到不同类型的第一特征图像。
[0116]
另外,对待处理图像进行特征提取时,还可以认为每一特征维度对应于一种特征提取方式。
[0117]
本申请的一个实施例中,上述特征提取层可以包括卷积层,通过卷积层实现图像的特征提取。例如,上述特征提取层可以包括两个3x3的卷积层。
[0118]
上述特征蒸馏层包括:至少一个稠密块。每一稠密块包括:多个级联连接的蒸馏子块。各个蒸馏子块,用于对特征图像进行蒸馏处理。每一稠密块中每一蒸馏子块的输入信息包括:该稠密块中位于该蒸馏子块之前的各蒸馏子块的输出信息以及该稠密块中第一个蒸馏子块的输入信息。
[0119]
本申请的一个实施例中,在上述特征蒸馏层包括一个以上稠密块时,各个稠密块之间可以采用级联连接的方式连接。也就是,各个稠密块依次连接。对于相连接的两个稠密块而言,前一个稠密块的输出信息是后一个稠密块的输入信息。
[0120]
另外,上述特征蒸馏层的输入信息为上述级联连接的稠密块中第一个稠密块的输入信息,上述级联连接的稠密块中最后一个稠密块的输出信息为上述特征蒸馏层的输出信息。
[0121]
再者,在上述特征蒸馏层包含一个稠密块时,特征蒸馏层的输入信息为上述稠密块的输入信息,上述稠密块的输出信息为上述特征蒸馏层的输出信息。
[0122]
具体的,上述稠密块的数量等于上述第二预设数量。每一稠密块中级联连接的蒸馏子块的数量等于上述第一预设数量。
[0123]
本申请的一个实施例中,对于每一稠密块的每一蒸馏子块而言,其输入信息可以是由第一输出信息和第一输入信息进行拼接而形成的信息序列。其中,第一输出信息为:该稠密块中位于该蒸馏子块之前的各蒸馏子块的输出信息,第一输入信息为:该稠密块中第一个蒸馏子块的输入信息。
[0124]
又由于特征蒸馏层是以特征图像为对象进行蒸馏处理的,所以,上述第一输出信息和第一输入信息均为特征图像,进而对第一输出信息和第一输入信息进行拼接,也就是对特征图像进行拼接,也即作为第一输出信息的特征图像和作为第一输入信息的特征图像依次排列,相连接形成图像序列。
[0125]
具体的,参见图3b,示出了一种稠密块的结构示意图。该稠密块中包含p个蒸馏子块。下面举例说明各个蒸馏子块的输入信息。
[0126]
蒸馏子块1为稠密块中的第一个蒸馏子块,在其之前没有蒸馏子块,所以其输入信息为稠密块的输入信息。
[0127]
在蒸馏子块2之前的蒸馏子块包括:蒸馏子块1,所以蒸馏子块2的输入信息包括:蒸馏子块1的输出信息和蒸馏子块1的输入信息。
[0128]
在蒸馏子块p-1之前的蒸馏子块包括:蒸馏子块1、蒸馏子块2
……
蒸馏子块p-2,所以蒸馏子块p-1的输入信息包括:蒸馏子块1的输出信息、蒸馏子块2的输出信息
……
蒸馏子块p-2的输出信息以及蒸馏子块1的输入信息。
[0129]
在蒸馏子块p之前的蒸馏子块包括:蒸馏子块1、蒸馏子块2
……
蒸馏子块p-1,所以蒸馏子块p的输入信息包括:蒸馏子块1的输出信息、蒸馏子块2的输出信息
……
蒸馏子块p-1的输出信息以及蒸馏子块1的输入信息。
[0130]
需要说明的是,考虑到图3b中空间有限,图3b中并未示出蒸馏子块p-1以及蒸馏子块p的所有输入信息。
[0131]
上述图像重建层,用于根据经蒸馏处理后的特征图像进行图像重建,得到分辨率为上述重建分辨率的重建图像。
[0132]
本申请的一个实施例中,上述图像重建层可以包括一个反卷积层和一个3x3的卷积层。
[0133]
由于在上述图像重建模型中包括的特征蒸馏层越少的情况下,进行图像重建的速度越快,而包括的特征蒸馏层越多的情况下,进行图像重建生成的图像的质量会越高,鉴于这种情况,可以根据具体场景的应用需求调整上述图像重建模型中特征蒸馏层的数量,从而兼顾图像重建的实时性和所生成图像的图像质量。
[0134]
另外,由于上述图像重建模型包括多个层,尤其是特征蒸馏层包括的稠密块可以包括多个级联连接的蒸馏子块,这样随着上述图像重建模型网络深度的增加,通过上述图像重建模型生成的高分辨率图像质量越高,也就是,图像重建效果越好。因此,相比与现有技术,在保证相同实时性要求的情况下,应用本实施例提供的方案进行图像重建,能够得到更好的图像质量。
[0135]
发明人在实现本申请实施例所提供方案的过程中,对图1a所示原始图像进行二分之一下采样得到lr图像后,采用插值方式对上述lr图像进行了图像重建,所得结果参见图1b;采用本申请实施例提供的方案对上述lr图像进行了图像重建,所得结果参见图1c。
[0136]
通过对图1b和图1c进行对比可见,图1c的图像质量要远高于图1b的图像质量。
[0137]
由以上可见,应用本实施例提供的方案进行图像重建时,在对待处理图像进行特征提取,得到第一特征图像后,通过对第一特征图像反复进行蒸馏处理的方式,增强待处理图像的特征。在此基础上,基于蒸馏输出图像进行图像重建,所得到的高分辨率图像,能够较好的保留待处理图像中的细节信息,从而能够提高所得到高分辨率图像的图像质量。
[0138]
本申请的一个实施例中,参见图4,提供了一种蒸馏处理方法的流程示意图。本实施例中,可以通过以下s401-s403进行蒸馏处理。
[0139]
s401:对作为蒸馏对象的特征图像进行特征维度转换,得到第三预设数量张第二特征图像。
[0140]
本实施例中所涉及的蒸馏处理可以是前述的第一蒸馏处理,也可以是前述的第二蒸馏处理。
[0141]
下面以第二蒸馏处理为例进行说明。
[0142]
在进行第二蒸馏处理时,其蒸馏对象包括:上述蒸馏输入图像和已得蒸馏输出图
像,而上述已得蒸馏输出图像的数量是随着第二蒸馏处理的进行而变化的。上述蒸馏输入图像和已得蒸馏输出图像又均是特征图像,因此,每次进行第二蒸馏处理时,蒸馏对象中包含的特征图像数量不相同,这样在每次进行第二蒸馏处理时,先对蒸馏对象中包含的特征图像进行特征维度转换,可以使得后续进行特征增强处理时所要处理的特征图像对应的特征的维度相同,也即,特征图像的数量相同。
[0143]
s402:通过卷积操作对第二特征图像进行特征增强处理,得到第三特征图像。
[0144]
本申请的一个实施例中,可以通过如下步骤a-c得到第三特征图像。
[0145]
步骤a:对第二特征图像进行连续卷积操作,得到第四特征图像。
[0146]
例如,可以依次对上述第二特征图像进行两次3x3的卷积操作,这种情况下,第一次卷积操作是对第二特征图像进行卷积操作,得到中间卷积结果,然后第二次卷积操作是对上述中间卷积结果进行卷积操作,得到第四特征图像。
[0147]
步骤b:对第五特征图像进行连续卷积操作,得到第六特征图像。
[0148]
其中,上述第五特征图像为第四特征图像中的部分特征图像。
[0149]
第六特征图像包括第五预设数量张特征图像。
[0150]
上述第五预设数量=第六预设数量+第三预设数量。
[0151]
上述第六预设数量为:第四特征图像中非第五特征图像的数量。
[0152]
例如,可以依次对上述第五特征图像进行两次3x3的卷积操作,这种情况下,第一次卷积操作是对第五特征图像进行卷积操作,得到中间卷积结果,然后第二次卷积操作是对上述中间卷积结果进行卷积操作,得到第六特征图像。
[0153]
具体的,上述第五特征图像可以是按照预先设定的第五特征图像的数量从第四特征图像中按顺序选择的。
[0154]
步骤c:将第六特征图像与图像集中指定的图像进行相加,得到第三特征图像。
[0155]
其中,上述图像集包括:第四特征图像中非第五特征图像和第二特征图像。
[0156]
两张图像进行相加,是指将图像中位于相同位置的像素点的像素值相加。
[0157]
例如,对图像1和图像2进行相加得到图像3时,以坐标为(0,0)的像素点为例,将图像1中坐标为(0,0)的像素点的像素值与图像2中坐标为(0,0)的像素点的像素值相加,并根据相加结果得到图像3中坐标为(0,0)的像素点的像素值。对其他坐标对应的像素点的像素值进行相加的过程与此类似,这里不再详述。
[0158]
基于此,本步骤可以理解为:将第六特征图像与图像集内指定的图像中位于相同位置的像素点的像素值相加,得到上述第三特征图像。
[0159]
具体的,上述图像集可以是对第四特征图像中非第五特征图像和各个第二特征图像进行拼接得到的,也就是各个非第五特征图像和各个第二特征图像依次相连接形成上述图像集。
[0160]
本申请的一个实施例中,第六特征图像中的各张特征图像可以是具有序号的,而图像集中的各张图像也可以是具有序号的,因此,可以按照相同序号的图像相加的原则进行相加,得到上述第二特征图像。
[0161]
s403:对第三特征图像进行特征维度压缩,得到第四预设数量张特征图像,作为蒸馏输出图像。
[0162]
本步骤中,对第三特征图像进行特征维度压缩,也可以理解为改变上述蒸馏输出
图像中特征图像的数量。
[0163]
上述第三预设数量和第四预设数量可以是根据具体场景对应的应用需求进行设定。
[0164]
由于第二特征图像的数量为上述第三预设数量,对第二特征图像进行特征增强处理一般不会改变图像数量,而对特征图像进行特征维度压缩会减少特征图像的数量,因此,在预先设定上述第三预设数量和第四预设数量时,第三预设数量一般大于上述第四预设数量。
[0165]
需要说明的是,在上述蒸馏处理分别指代第一蒸馏处理和第二蒸馏处理时,上述第三预设数量可以相同,也可以不相同。与第三预设数量相类似,在上述蒸馏处理分别指代第一蒸馏处理和第二蒸馏处理时,上述第四预设数量可以相同,也可以不相同,本申请实施例并不对此进行限定。
[0166]
具体的,本实施例所提供的蒸馏处理方案也可以在前述图像重建模型中实现。
[0167]
本申请的一个实施例中,上述图4提供的蒸馏处理方案可以由上述蒸馏子块实现,这种情况下,每一蒸馏子块可以包括:维度转换单元、特征增强单元和维度压缩单元。
[0168]
其中,上述维度转换单元,用于对输入的特征图像进行特征维度转换,得到第三预设数量张第二特征图像。
[0169]
上述特征增强单元,用于通过卷积操作对第二特征图像进行特征增强处理,得到第三特征图像。
[0170]
上述维度压缩单元,用于对第三特征图像进行特征维度压缩,得到第四预设数量张特征图像,作为蒸馏子块的输出信息,也就是上述蒸馏输出图像。
[0171]
由以上可见,维度转换单元、特征增强单元和维度压缩单元依次相连接。维度转换单元的输出信息为特征增强单元的输入信息,特征增强单元的输出信息为维度压缩单元的输入信息,维度压缩单元的输出信息作为蒸馏子块的输出信息。
[0172]
具体的,由于各个蒸馏子块的输入信息所包含的特征图像数量可能不相同,也就是,各个维度转换单元输入的特征图像对应的特征的维度可能不相同,因此,各个维度转换单元可以对输入的特征图像进行维度转换,使得后续特征增强单元所要处理的特征图像对应的特征的维度相同,也即,特征图像的数量相同。
[0173]
在此基础上,上述维度压缩单元对第三特征图像进行维度压缩,也可以理解为改变维度压缩单元最终输出的特征图像的数量。
[0174]
本申请的一个实施例中,从上述描述可以看出,上述特征增强单元可以包括卷积层,用于实现上述卷积操作,为了在对图像重建模型进行训练时,较快收敛,还可以在特征增强单元包括的每一卷积层增加非线性变换,也就是,每一卷积层执行卷积操作后,再对卷积操作结果进行非线性变换。具体的,上述非线性变换可以通过relu等函数实现。
[0175]
本申请的另一个实施例中,上述特征增强单元通过卷积操作对第二特征图像进行特征增强处理,得到第三特征图像时,可以通过以下步骤d-f实现:
[0176]
步骤d:通过依次连接的第一类卷积层对第二特征图像进行卷积操作,得到第四特征图像。
[0177]
例如,上述第一类卷积层可以为两个3x3的卷积层,这种情况下,第一个第一类卷积层对第二特征图像进行卷积操作,得到中间卷积结果,然后第二个第一类卷积层再对上
述中间卷积结果进行卷积操作,得到第四特征图像。
[0178]
步骤e:通过依次连接的第二类卷积层对第四特征图像中的第五特征图像进行卷积操作,得到第六特征图像。
[0179]
例如,上述第二类卷积层也可以为两个3x3的卷积层,这种情况下,第一个第二类卷积层对第五特征图像进行卷积操作,得到中间卷积结果,然后第二个第二类卷积层再对上述中间卷积结果进行卷积操作,得到第六特征图像。
[0180]
具体的,上述第五特征图像可以是按照预先设定的第五特征图像的数量从第四特征图像中按顺序选择的。
[0181]
步骤f:将第六特征图像与图像集中指定的图像进行相加,得到第三特征图像。
[0182]
下面通过具体实例对上述实施例进行说明。
[0183]
假设,第一类卷积层和第二类卷积层均为两个3x3的卷积层。参见图3c,示出了特征增强单元的数据流向示意图。
[0184]
第一类卷积层中两个3x3的卷积层依次对num1张第二特征图像进行卷积操作,得到num2张第四特征图像。
[0185]
经对第四特征图像进行切分后,从第四特征图像中选择出num3张第五特征图像,num4张非第五特征图像,也就是,num3+num4=num2。
[0186]
然后第二类卷积层中两个3x3的卷积层依次对num3张第五特征图像进行卷积操作,得到num5张第六特征图像。除此之外,上述num4张非第五特征图像和num1张第二特征图像进行拼接,得到图像集。
[0187]
由于第六特征图像的数量与上述图像集中包含的特征图像的数量相等,因此,上述num5=num4+num1。
[0188]
对上述第六特征图像与图像集中指定的特征图像进行相加,得到第三特征图像。
[0189]
需要说明的是,图3c中,“s”表示对第四特征图像进行切分,将第四特征图像分为第五特征图像和非第五特征图像,“c”表示对图像进行拼接,也就是,使得各张图像依次连接形成图像序列,“+”表示对图像进行相加,也就是,将第六特征图像与图像集中指定的特征图像进行相加。
[0190]
本申请的一个实施例中,在上述第二预设数量大于1的情况下,第三数量与第四数量相等。
[0191]
上述第三数量为:第一特征图像的数量。上述第四数量为:第七特征图像的数量。第七特征图像为:最后一次进行蒸馏处理得到的蒸馏输出图像中的特征图像。
[0192]
鉴于上述情况,本实施例中,在第二数量达到第二预设数量之后,还可以将第一特征图像与第七特征图像进行相加,作为最新得到的蒸馏输出图像。这样可以加强待处理图像各个维度的特征在各次蒸馏处理之间的传递,并且使得待处理图像在各个维度的特征在各次蒸馏处理中得到复用。
[0193]
具体的,上述实施例所提供的方案也可以在前述图像重建模型中实现。
[0194]
本申请的一个实施例中,在上述特征蒸馏层包括多个稠密块的情况下,各个稠密块依次连接。这种情况下,上述第三数量为:最后一个稠密块输出的特征图像数量,上述第四数量为:第一个稠密块输入的特征图像数量。
[0195]
这种情况下,上述特征蒸馏层的输出信息为:最后一个稠密块输出的特征图像与
第一个稠密块输入的特征图像进行相加得到的特征图像。
[0196]
具体的,参见图3d,图3d示出了上述情况下特征蒸馏层的结构示意图。
[0197]
将最后一个稠密块输出的特征图像与第一个稠密块输入的特征图像进行相加得到的特征图像作为特征蒸馏层的输出信息,可以加强待处理图像各个维度的特征在各个稠密块之间的传递,并且使得待处理图像在各个维度的特征在各个稠密块中得到复用,从而可以减少各个稠密块中使用的参数,使得各个稠密块能够提供更多用于加深网络的资源。
[0198]
在上述特征蒸馏层的最后一个稠密块中最后一个蒸馏子块输出的特征图像数量与上述第四数量不一致时,可以在上述最后一个蒸馏子块后增加卷积层,用于对上述最后一个蒸馏子块输出的特征图像进行卷积操作,使得卷积操作后得到的特征图像的数量与上述第四数量相等。
[0199]
本申请的一个实施例中,在根据最新得到的蒸馏输出图像进行图像重建,得到分辨率为重建分辨率的重建图像之前,还可以对待处理图像进行插值处理,获得分辨率为上述重建分辨率的插值图像。
[0200]
这种情况下,根据最新得到的蒸馏输出图像进行图像重建,得到分辨率为重建分辨率的重建图像时,根据最新得到的蒸馏输出图像进行图像重建,得到初始重建图像,并将插值图像和初始重建图像进行相加,得到分辨率为重建分辨率的重建图像。这样在重建高分辨率图像时,不仅通过蒸馏处理对待处理图像的图像特征进行特征增强处理,而且还引入了对待处理图像进行插值处理的结果,使得进行图像重建时考虑的信息更加丰富,从而使得生成的高分辨率图像质量更高。
[0201]
具体的,上述实施例所提供的方案也可以在前述图像重建模型中实现。
[0202]
本申请的一个实施例中,上述图像重建模型还可以包括:插值处理层。
[0203]
上述插值处理层,用于对待处理图像进行插值处理,获得分辨率为上述重建分辨率的插值图像。
[0204]
这种情况下,上述重建图像为:上述插值图像和初始重建图像进行相加得到的特征图像,其中,上述初始重建图像为:图像重建层的输出信息。
[0205]
具体的,参见图图3e,图3e示出了上述情况下图像重建模型的结构示意图。
[0206]
例如,上述差值处理层在对待处理图像进行插值处理时,可以基于bicubic(双三次)插值算法对待处理图像进行插值处理。
[0207]
本申请的一个实施例中,在对上述图像重建模型进行训练时,可以采用均方差和/或绝对均差表示由上述图像重建模型生成的图像与基准图像之间的损失,从而根据上述损失调整图像重建模型中各层的参数。
[0208]
具体的,上述均方差i
mse
为:
[0209][0210]
上述绝对均差i
mae
为:
[0211][0212]
其中,上述表达式中n表示图像中像素点的总数量,i表示像素点的序号,i
i
表示由
上述图像重建模型生成的图像中序号为i的像素点的像素值,表示基准图像中序号为i的像素点的像素值。
[0213]
与上述图像重建方法相对应,本申请实施例还提供了一种图像重建装置。
[0214]
参见图5,图5提供了一种图像重建装置的结构示意图,该装置包括:
[0215]
图像获得模块501,用于获得待处理图像;
[0216]
特征提取模块502,用于对所述待处理图像进行特征提取,得到第一特征图像;
[0217]
蒸馏处理模块503,用于以蒸馏输入图像为蒸馏对象进行蒸馏处理,得到蒸馏输出图像,其中,所述蒸馏输入图像的初始图像为所述第一特征图像;在第一数量未达到第一预设数量的情况下,重复以所述蒸馏输入图像和已得蒸馏输出图像为蒸馏对象进行蒸馏处理,得到新的蒸馏输出图像,直至所述第一数量达到第一预设数量,其中,所述已得蒸馏输出图像包括:最近一次执行第一蒸馏处理后、且在本次执行第二蒸馏处理前得到的所有蒸馏输出图像,所述第一数量为:最近一次执行所述第一蒸馏处理后执行所述第二蒸馏处理的次数,所述第一蒸馏处理为:蒸馏对象为所述蒸馏输入图像的蒸馏处理,所述第二蒸馏处理为:蒸馏对象为所述蒸馏输入图像和已得蒸馏输出图像的蒸馏处理;
[0218]
图像更新模块504,用于在第二数量未达到第二预设数量的情况下,将所述蒸馏输入图像更新为最新得到的蒸馏输出图像,并触发所述蒸馏处理模块503,直至所述第二数量达到第二预设数量,其中,所述第二数量表示:执行所述第一蒸馏处理的次数;
[0219]
图像重建模块505,用于根据最新得到的蒸馏输出图像进行图像重建,得到分辨率为重建分辨率的重建图像,其中,所述重建分辨率为:高于所述待处理图像的分辨率的预设分辨率。
[0220]
本申请的一个实施例中,在所述第二预设数量大于1的情况下,第三数量与第四数量相等,所述第三数量为:所述第一特征图像的数量,所述第四数量为:第七特征图像的数量,所述第七特征图像为:最后一次进行蒸馏处理得到的蒸馏输出图像中的特征图像;
[0221]
所述图像重建装置还可以包括:
[0222]
图像相加模块,用于在所述第二数量达到第二预设数量之后,将所述第一特征图像与所述第七特征图像进行相加,作为最新得到的蒸馏输出图像。
[0223]
本申请的一个实施例中,所述图像重建装置还可以包括:
[0224]
插值处理模块,用于在所述图像重建模块505重建所述重建图像之前,对所述待处理图像进行插值处理,获得分辨率为所述重建分辨率的插值图像;
[0225]
所述图像重建模块505,具体用于:
[0226]
根据最新得到的蒸馏输出图像进行图像重建,得到初始重建图像;
[0227]
将所述插值图像和初始重建图像进行相加,得到分辨率为所述重建分辨率的重建图像。
[0228]
本申请的一个实施例中,参见图6,提供了一种蒸馏处理装置的结构示意图。从该图可以看出,上述蒸馏处理模块503包括:维度转换单元503a、特征增强单元503b和维度压缩单元503c。
[0229]
其中,所述蒸馏处理模块503,具体通过维度转换单元503a、特征增强单元503b和维度压缩单元503c进行蒸馏处理:
[0230]
所述维度转换单元503a,用于对作为蒸馏对象的特征图像进行特征维度转换,得
到第三预设数量张第二特征图像;
[0231]
所述特征增强单元503b,用于通过卷积操作对所述第二特征图像进行特征增强处理,得到第三特征图像;
[0232]
所述维度压缩单元503c,用于对所述第三特征图像进行特征维度压缩,得到第四预设数量张特征图像,作为蒸馏输出图像。
[0233]
本申请的一个实施例中,所述特征增强单元503b,具体用于:
[0234]
对所述第二特征图像进行连续卷积操作,得到第四特征图像;
[0235]
对第五特征图像进行连续卷积操作,得到第六特征图像,其中,所述第五特征图像为所述第四特征图像中的部分特征图像,所述第六特征图像包括第五预设数量张特征图像,所述第五预设数量=第六预设数量+第三预设数量,所述第六预设数量为:所述第四特征图像中非第五特征图像的数量;
[0236]
将所述第六特征图像与图像集中指定的图像进行相加,得到第三特征图像,其中,所述图像集包括:所述第四特征图像中的非第五特征图像和所述第二特征图像。
[0237]
由以上可见,应用上述各个实施例提供的方案进行图像重建时,在对待处理图像进行特征提取,得到第一特征图像后,通过对第一特征图像反复进行蒸馏处理的方式,增强待处理图像的特征。在此基础上,基于蒸馏输出图像进行图像重建,所得到的高分辨率图像,能够较好的保留待处理图像中的细节信息,从而能够提高所得到高分辨率图像的图像质量。
[0238]
与上述图像重建方法相对应,本申请实施例提供了一种电子设备。
[0239]
参见图7,图7提供了一种电子设备的结构示意图,所述电子设备包括:处理器71、机器可读存储介质72和系统总线73,所述处理器71和机器可读存储介质通72过所述系统总线73完成相互间的通信,所述机器可读存储介质72存储有能够被所述处理器71执行的机器可执行指令,所述机器可执行指令包括:获得指令721、提取指令722、蒸馏指令723、更新指令724和重建指令725;
[0240]
所述处理器71被所述获得指令721促使实现步骤:获得待处理图像;
[0241]
所述处理器71被所述提取指令722促使实现步骤:对所述待处理图像进行特征提取,得到第一特征图像;
[0242]
所述处理器71被所述蒸馏指令723促使实现步骤:以蒸馏输入图像为蒸馏对象进行蒸馏处理,得到蒸馏输出图像,其中,所述蒸馏输入图像的初始图像为所述第一特征图像;在第一数量未达到第一预设数量的情况下,重复以所述蒸馏输入图像和已得蒸馏输出图像为蒸馏对象进行蒸馏处理,得到新的蒸馏输出图像,直至所述第一数量达到第一预设数量,其中,所述已得蒸馏输出图像包括:最近一次执行第一蒸馏处理后、且在本次执行第二蒸馏处理前得到的所有蒸馏输出图像,所述第一数量为:最近一次执行所述第一蒸馏处理后执行所述第二蒸馏处理的次数,所述第一蒸馏处理为:蒸馏对象为所述蒸馏输入图像的蒸馏处理,所述第二蒸馏处理为:蒸馏对象为所述蒸馏输入图像和已得蒸馏输出图像的蒸馏处理;
[0243]
所述处理器71被所述更新指令724促使实现步骤:在第二数量未达到第二预设数量的情况下,将所述蒸馏输入图像更新为最新得到的蒸馏输出图像,并返回所述处理器71被所述蒸馏指令723促使实现的步骤,直至所述第二数量达到第二预设数量,其中,所述第
二数量表示:执行所述第一蒸馏处理的次数;
[0244]
所述处理器71被所述重建指令725促使实现步骤:根据最新得到的蒸馏输出图像进行图像重建,得到分辨率为重建分辨率的重建图像,其中,所述重建分辨率为:高于所述待处理图像的分辨率的预设分辨率。
[0245]
需要说明的是,上述处理器71被机器可执行指令促使实现的图像重建实施例所提供方案中的其他步骤,与前述方法实施例中所提及的步骤相同,这里不再赘述。
[0246]
由以上可见,应用本实施例提供的电子设备进行图像重建时,在对待处理图像进行特征提取,得到第一特征图像后,通过对第一特征图像反复进行蒸馏处理的方式,增强待处理图像的特征。在此基础上,基于蒸馏输出图像进行图像重建,所得到的高分辨率图像,能够较好的保留待处理图像中的细节信息,从而能够提高所得到高分辨率图像的图像质量。
[0247]
与上述图像重建方法相对应,本申请实施例提供了一种机器可读存储介质,所述机器可读存储介质存储有机器可执行指令,所述机器可执行指令包括:获得指令、提取指令、蒸馏指令、更新指令和重建指令;
[0248]
所述获得指令在被处理器调用和执行时,所述获得指令促使所述处理器实现步骤:获得待处理图像;
[0249]
所述提取指令在被处理器调用和执行时,所述提取指令促使所述处理器实现步骤:对所述待处理图像进行特征提取,得到特征图像;
[0250]
所述蒸馏指令在被处理器调用和执行时,所述蒸馏指令促使所述处理器实现步骤:以蒸馏输入图像为蒸馏对象进行蒸馏处理,得到蒸馏输出图像,其中,所述蒸馏输入图像的初始图像为所述第一特征图像;在第一数量未达到第一预设数量的情况下,重复以所述蒸馏输入图像和已得蒸馏输出图像为蒸馏对象进行蒸馏处理,得到新的蒸馏输出图像,直至所述第一数量达到第一预设数量,其中,所述已得蒸馏输出图像包括:最近一次执行第一蒸馏处理后、且在本次执行第二蒸馏处理前得到的所有蒸馏输出图像,所述第一数量为:最近一次执行所述第一蒸馏处理后执行所述第二蒸馏处理的次数,所述第一蒸馏处理为:蒸馏对象为所述蒸馏输入图像的蒸馏处理,所述第二蒸馏处理为:蒸馏对象为所述蒸馏输入图像和已得蒸馏输出图像的蒸馏处理;
[0251]
所述更新指令在被处理器调用和执行时,所述更新指令促使所述处理器实现步骤:在第二数量未达到第二预设数量的情况下,将所述蒸馏输入图像更新为最新得到的蒸馏输出图像,并返回所述蒸馏指令促使所述处理器实现的步骤,直至所述第二数量达到第二预设数量,其中,所述第二数量表示:执行所述第一蒸馏处理的次数;
[0252]
所述更新指令在被处理器调用和执行时,所述更新指令促使所述处理器实现步骤:根据最新得到的蒸馏输出图像进行图像重建,得到分辨率为重建分辨率的重建图像,其中,所述重建分辨率为:高于所述待处理图像的分辨率的预设分辨率。
[0253]
需要说明的是,机器可执行指令促使处理器实现的图像重建实施例所提供方案中的其他步骤,与前述方法实施例中所提及的步骤相同,这里不再赘述。
[0254]
由以上可见,执行本实施例提供的机器可读存储介质中存储的机器可执行指令而进行图像重建时,在对待处理图像进行特征提取,得到第一特征图像后,通过对第一特征图像反复进行蒸馏处理的方式,增强待处理图像的特征。在此基础上,基于蒸馏输出图像进行
图像重建,所得到的高分辨率图像,能够较好的保留待处理图像中的细节信息,从而能够提高所得到高分辨率图像的图像质量。
[0255]
需要说明的是,上述机器可读存储介质可以包括随机存取存储器(random access memory,ram),也可以包括非易失性存储器(non-volatile memory,nvm),例如至少一个磁盘存储器。可选的,上述机器可读存储介质还可以是至少一个位于远离前述处理器的存储装置。
[0256]
上述的处理器可以是通用处理器,包括中央处理器(central processing unit,cpu)、网络处理器(network processor,np)等;还可以是数字信号处理器(digital signal processing,dsp)、专用集成电路(application specific integrated circuit,asic)、现场可编程门阵列(field-programmable gate array,fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
[0257]
在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个
……”
限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
[0258]
本说明书中的各个实施例均采用相关的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于装置、电子设备、机器可读存储介质实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
[0259]
以上所述仅为本申请的较佳实施例而已,并非用于限定本申请的保护范围。凡在本申请的精神和原则之内所作的任何修改、等同替换、改进等,均包含在本申请的保护范围内。
当前第1页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1