逐步融合特征的图像超分辨率重建方法及电子设备与流程

文档序号:26753320发布日期:2021-09-25 03:10阅读:来源:国知局

技术特征:
1.一种逐步融合特征的图像超分辨率重建方法,其特征是:包括以下步骤:s1、获取需要进行超分辨率重建的原始图像,获取训练好的图像超分辨率重建网络,所述图像超分辨率重建网络包括第一特征提取模块、第二特征提取模块、第三特征提取模块和图像重建模块,所述第三特征提取模块与所述第二特征提取模块数量相等且对称设置;s2、利用所述第一特征提取模块对所述原始图像进行特征提取,得到原始特征图;s3、所述原始特征图顺次经过多个所述第二特征提取模块和多个所述第三特征提取模块,生成中间特征图;其中,每次特征图经过所述第三特征提取模块后,先将所述第三特征提取模块输出的特征图与对应的第二特征提取模块输出的特征图融合,再将融合后得到的特征图输入下一个所述第三特征提取模块;s4、利用所述图像重建模块对所述中间特征图进行超分辨率重建,得到目标图像,所述目标图像的分辨率大于所述原始图像的分辨率。2.根据权利要求1所述的逐步融合特征的图像超分辨率重建方法,其特征是:所述第二特征提取模块和所述第三特征提取模块结构相同,所述第二特征提取模块和所述第三特征提取模块均包括relu激活函数、第一3*3卷积层、第二3*3卷积层、5*5卷积层、局部降维层和通道注意力模块;输入所述第二特征提取模块或所述第三特征提取模块的特征图经过所述第一3*3卷积层和第一relu激活函数后,得到第一特征图;将所述第一特征图经过所述第二3*3卷积层和第二relu激活函数,得到第二特征图,将所述第一特征图经过所述5*5卷积层和第三relu激活函数,得到第三特征图,将所述第一特征图、所述第二特征图和所述第三特征图拼接,得到第四特征图;将所述第四特征图输入所述通道注意力模块,生成通道注意力图,然后将所述通道注意力图与所述第四特征图融合,输入所述局部降维层进行降维,使所述局部降维层输出的特征图通道数量与输入所述第二特征提取模块或所述第三特征提取模块的特征图通道数量相同。3.根据权利要求2所述的逐步融合特征的图像超分辨率重建方法,其特征是:所述第二特征提取模块的上游端与所述第二特征提取模块的下游端之间设有第一残差连接,输入所述第二特征提取模块的特征图通过所述第一残差连接与局部降维层输出的特征图融合;所述第三特征提取模块的上游端与所述第三特征提取模块的下游端之间设有第二残差连接,输入所述第三特征提取模块的特征图通过所述第二残差连接与局部降维层输出的特征图融合。4.根据权利要求2所述的逐步融合特征的图像超分辨率重建方法,其特征是:所述通道注意力模块包括方差池化层、am池化层、第一全连接层、第二全连接层、sigmoid激活函数和第四relu激活函数;所述第四特征图经过所述方差池化层后,生成第一注意力图,所述第四特征图经过所述am池化层后,生成第二注意力图,将所述第一注意力图与所述第二注意力图融合后,顺次经过所述第一全连接层、所述第四relu激活函数、所述第二全连接层和所述sigmoid激活函数,生成所述通道注意力图;所述方差池化层可以表示为如下公式:var
c
=pool
var
(f
c
)
其中,var
c
表示所述方差池化层的输出,f
c
表示所述第四特征图通道方向上的第c层,f
c
作为所述方差池化层的输入,pool
var
(f
c
)表示所述第四特征图第c上的方差值;所述am池化层可以表示为如下公式:其中,m
c
表示所述am池化层的输出,f
c
表示所述第四特征图通道方向上的第c层,f
c
作为所述am池化层的输入,large
i
(f
c
)表示所述第四特征图在第c层上第i大的值,mean表示所述第四特征图第c层的平均值,n可以表示为如下公式:其中,w表示所述第四特征图的宽度,h表示所述第四特征图的高度,<
·
>表示对其中的值取整。5.根据权利要求1所述的逐步融合特征的图像超分辨率重建方法,其特征是:所述图像重建模块包括第三3*3卷积层、第一亚像素卷积层和第四3*3卷积层,所述中间特征图顺次经过所述第三3*3卷积层、所述第一亚像素卷积层和所述第四3*3卷积层后,生成目标图像。6.根据权利要求5所述的逐步融合特征的图像超分辨率重建方法,其特征是:所述图像超分辨率重建网络还设有跳连模块,所述跳连模块包括第一跳连卷积层、第二跳连卷积层、第二亚像素卷积层、第三跳连卷积层、第四跳连卷积层、第五relu激活函数、第六relu激活函数和第七relu激活函数;所述原始特征图经过所述第一跳连卷积层和所述第五relu激活函数后生成第一跳连特征图,提取最后一个所述第二特征提取模块输出的特征图并经过所述第二跳连卷积层和第六relu激活函数后,生成第二跳连特征图,所述第一跳连特征图与所述第二跳连特征图拼接后,顺次经过所述第三跳连卷积层、所述第二亚像素卷积层、所述第四跳连卷积层和所述第七relu激活函数,最后与所述第一亚像素卷积层输出的特征图融合。7.根据权利要求6所述的逐步融合特征的图像超分辨率重建方法,其特征是:所述第一跳连特征图的通道数量与所述第二跳连特征图的通道数量相等。8.根据权利要求1所述的逐步融合特征的图像超分辨率重建方法,其特征是:所述图像超分辨率重建网络设有de融合模块,所述第三特征提取模块输出的特征图与对应的第二特征提取模块输出的特征图通过所述de融合模块实现融合;所述de融合模块的数学模型为:f1=[l1,l2]f2=δ1(f1(l1))f3=δ2(f2(l2))f
d
=δ3(f3(f1+f2+f3))其中,l1代表所述第二特征提取模块输出的特征图,l2代表所述第三特征提取模块输出的特征图,l1和l2作为所述de融合模块的输入,[
·
]表示对其中的特征图在通道方向上进行拼接操作,δ1、δ2和δ3均表示relu激活函数,f1和f2均表示卷积核大小为3*3的卷积操作,f3表示卷积核大小为1*1的卷积操作,f
d
表示所述de融合模块输出的特征图。9.一种电子设备,包括处理器和存储器,所述存储器储存有计算机程序,其特征是:所
述处理器通过加载所述计算机程序,用于执行如权利要求1至8任一项所述的逐步融合特征的图像超分辨率重建方法。

技术总结
本发明公开了一种逐步融合特征的图像超分辨率重建方法及电子设备,所述图像超分辨率重建方法包括获取原始图像和重建网络,利用所述第一特征提取模块对所述原始图像进行特征提取,原始特征图顺次经过多个所第二特征提取模块和多个第三特征提取模块,利用所述图像重建模块对所述中间特征图进行超分辨率重建,得到分辨率更大的目标图像。本发明通过多次融合特征,多次逐步地筛选出对图像超分辨率重建有用的特征,最终输入图像重建模块的有用特征信息占比更大,模型特征提取效果更好,减少了有用信息丢失和无用信息冗余,同时模型训练和运行过程中所占用的计算机内存也更小。行过程中所占用的计算机内存也更小。行过程中所占用的计算机内存也更小。


技术研发人员:张世龙
受保护的技术使用者:柚皮(重庆)科技有限公司
技术研发日:2021.07.26
技术公布日:2021/9/24
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1