本技术涉及图像处理,特别是涉及一种图像处理器、图像处理方法、拍摄装置和电子设备。
背景技术:
1、手机等电子设备中可以设置有摄像头以实现拍照功能,目前对于拍照中的图像处理,电子设备采用多帧等曝或包围曝光的方式处理高动态范围场景的成像问题,然而,传统图像处理在高动态范围场景表现不佳,当计算复杂度较高时会存在功耗、性能等问题。
技术实现思路
1、基于此,有必要针对上述技术问题,提供一种能够降低功耗以及保证性能的图像处理器、图像处理方法、拍摄装置和电子设备。
2、第一方面,本技术提供了一种图像处理器,包括:
3、多个尺寸预处理模块,用于在预览模式下分别对多路原始图像进行尺寸修改及分块处理,得到多路第一分块数据,以及在拍照模式下分别对多路原始图像进行分块处理,得到多路第二分块数据;
4、图像矫正模块,连接各尺寸预处理模块,用于在预览模式下对多路第一分块数据进行像素级矫正,得到多路第一图像块数据,以及在拍照模式下对多路第二分块数据进行像素级矫正得到多路第二图像块数据;
5、数据选择模块,连接图像矫正模块,用于在预览模式下对多路第一图像块数据进行选择输出单帧图像,以及在拍照模式下对多路第二图像块数据进行图像对齐处理,输出图像序列;
6、图像处理模块,与数据选择模块连接,用于在预览模式下处理单帧图像以得到预览图像,以及在拍照模式下处理图像序列以得到拍照图像。
7、在其中一个实施例中,多路原始图像为多个摄像头输出的全尺寸原始图像;各尺寸预处理模块用于分别与各摄像头一一连接;
8、尺寸预处理模块用于在预览模式下,对摄像头输入的全尺寸原始图像进行下采样处理,得到下采样图像,以及对下采样图像依次进行有效区域裁切及切块处理,得到第一分块数据。
9、在其中一个实施例中,图像处理器还包括存储模块;存储模块用于存储来自摄像头的全尺寸原始图像;
10、尺寸预处理模块用于在拍照模式下,通过对从存储模块读取的全尺寸原始图像依次进行有效区域裁切及切块处理,得到第二分块数据。
11、在其中一个实施例中,图像矫正模块包括多个拜耳域处理单元,分别与各尺寸预处理模块一一连接;
12、像素级矫正包括黑电平矫正、坏点矫正、阴影矫正、3a统计以及去噪中的至少一种。
13、在其中一个实施例中,
14、数据选择模块用于在预览模式下,基于多路第一图像块数据挑选出满足清晰度条件的单帧图像,以及在拍照模式下基于多路第二图像块数据进行参考帧对齐,得到图像序列;
15、图像处理器还包括格式转换模块,与数据选择模块连接,用于在预览模式下,对单帧图像进行去马赛克处理得到rgb单帧图像,以及在拍照模式下对图像序列进行去马赛克处理得到rgb图像序列。
16、在其中一个实施例中,图像处理模块包括:
17、视觉处理单元,连接数据选择模块,用于在拍照模式下对读取到的当前完成参考帧对齐的第二图像块数据进行视觉处理;视觉处理包括以下至少一种:特征点计算、位移矢量计算和图像插值。
18、在其中一个实施例中,图像处理模块包括:
19、图像融合单元,与格式转换模块连接,用于在拍照模式下对rgb图像序列进行多帧融合处理,输出高动态范围图像;
20、其中,多帧融合处理包括基于运动信息对曝光信息的融合权重进行归一化得到目标融合权重,根据目标融合权重对rgb图像序列进行图像融合获得高动态范围图像。
21、在其中一个实施例中,图像处理模块还包括:
22、rgb域处理单元,连接格式转换模块、图像融合单元,用于在预览模式下对rgb单帧图像执行rgb域处理以生成第一rgb图像数据,以及在拍照模式下对高动态范围图像进行执行rgb域处理以生成第二rgb图像数据;其中,rgb域处理包括以下至少一种:颜色校正、伽马校正、色调映射和颜色空间转换;
23、yuv域处理单元,连接rgb域处理单元,用于在预览模式下对第一rgb图像数据执行第一yuv域处理以生成第一yuv图像数据,以及在拍照模式下对第二rgb图像数据执行第二yuv域处理以生成第二yuv图像数据;其中,第一yuv域处理包括以下至少一种:图像去噪操作、颜色增强操作、锐化操作、尺寸缩放操作和人脸检测操作;第二yuv域处理包括以下至少一种:图像去噪操作、颜色增强操作、锐化操作和尺寸缩放操作;
24、编解码单元,连接yuv域处理单元,用于在预览模式下将第一yuv图像数据转换为预览图像以进行输出显示,以及在拍照模式下将第二yuv图像数据转换为拍照图像。
25、在其中一个实施例中,图像处理模块还包括:
26、统计单元,分别连接格式转换模块,用于在预览模式下处理rgb单帧图像以获得统计数据;统计数据提供给rgb域处理单元以进行rgb域处理,以及提供给yuv域处理单元以进行第一yuv域处理、第二yuv域处理;
27、神经网络单元,连接格式转换模块,用于在预览模式下处理述rgb单帧图像以获得语义分割数据;语义分割数据提供给rgb域处理单元以进行rgb域处理,以及提供给yuv域处理单元以进行第一yuv域处理、第二yuv域处理。
28、在其中一个实施例中,图像处理模块还包括存储单元;存储单元用于存储语义分割数据;
29、神经网络单元用于在拍照模式下,通过从存储单元读取的语义分割信息,对图像序列中当前完成去马赛克算法处理的图像块数据进行处理。
30、第二方面,本技术还提供了一种图像处理方法,包括:
31、在预览模式下分别对多路原始图像进行尺寸修改及分块处理,得到多路第一分块数据,以及在拍照模式下分别对多路原始图像进行分块处理,得到多路第二分块数据;
32、在预览模式下对多路第一分块数据进行像素级矫正,得到多路第一图像块数据,以及在拍照模式下对多路第二分块数据进行像素级矫正得到多路第二图像块数据;
33、在预览模式下对多路第一图像块数据进行选择输出单帧图像,以及在拍照模式下对多路第二图像块数据进行图像对齐处理,输出图像序列;
34、在预览模式下处理单帧图像以得到预览图像,以及在拍照模式下处理图像序列以得到拍照图像。
35、第三方面,本技术还提供了一种拍摄装置,拍摄装置包括:
36、上述的图像处理器;及
37、多个摄像头,各摄像头与图像处理器连接。
38、在其中一个实施例中,摄像头包括深度传感器、图像传感器及光谱传感器中的一种或多种。
39、在其中一个实施例中,摄像头包括高动态范围hdr传感器。
40、第四方面,本技术还提供了一种电子设备,电子设备包括上述的拍摄装置及壳体,拍摄装置与壳体结合。
41、上述图像处理器、图像处理方法、拍摄装置和电子设备,图像处理器包括多个尺寸预处理模块,以及图像矫正模块、数据选择模块和图像处理模块,其中,多个尺寸预处理模块在预览模式、拍照模式下分别对多路原始图像进行处理,得到多路分块数据,图像矫正模块可以在预览模式、拍照模式下分别对多路分块数据进行像素级矫正,进而由数据选择模块在预览模式下输出单帧图像、在拍照模式下输出图像序列,以使图像处理模块处理得到预览图像、拍照图像。本技术将预览模式、拍照模式两种处理模式与多帧高动态范围hdr算法深度结合,根据多帧高动态范围hdr算法的特点深度硬件化hdr算法流程,降低当前算法功耗,通过多个尺寸预处理模块实现切块流水处理,加速图像处理的同时保证图像处理结果性能,节省硬件资源开销。