曝光处理方法、装置、电子设备及计算机可读存储介质与流程

文档序号:31305914发布日期:2022-08-30 21:20阅读:35来源:国知局
曝光处理方法、装置、电子设备及计算机可读存储介质与流程

1.本技术涉及图像处理领域,尤其涉及一种曝光处理方法、装置、电子设备及计算机可读存储介质。


背景技术:

2.随着智能终端技术的不断发展,电子设备的使用越来越普及。绝大多数电子设备都内只有摄像头,并且随着移动终端处理能力的增强以及摄像头技术的发展,用户对拍摄的图像质量的要求也越来越高。为了获得高质量的图像,很多时候都需要对图像进行曝光处理。
3.目前,在对图像进行曝光处理时,一般是手动调整相关的曝光参数。但是,为了得到曝光更好的图像,在整个拍摄的过程中需要时刻调整曝光参数,导致曝光处理的效率低。


技术实现要素:

4.本技术实施例提供一种曝光处理方法、装置、电子设备及计算机可读存储介质,能够提高曝光处理的效率。
5.本技术实施例提供一种曝光处理方法,其中,曝光处理方法包括:
6.获取当前帧图像的预估深度信息;
7.根据所述曝光参数与深度信息之间的变化趋势得到所述预估深度信息对应的预估曝光参数,其中,所述变化趋势基于多个历史帧图像而确定;
8.在拍摄时采用所述预估曝光参数进行曝光,得到所述当前帧图像。
9.本技术实施例还提供了一种曝光处理装置,其中,曝光处理装置包括:
10.第一获取模块,用于获取当前帧图像的预估深度信息;
11.第二获取模块,用于根据所述曝光参数与深度信息之间的变化趋势得到所述预估深度信息对应的预估曝光参数,其中,所述变化趋势基于多个历史帧图像而确定;
12.曝光模块,用于在拍摄时采用所述预估曝光参数进行曝光,得到所述当前帧图像。
13.本技术实施例还提供一种电子设备,其中,电子设备包括处理器和存储器,存储器中存储有计算机程序,处理器通过调用存储器中存储的计算机程序,以执行本技术实施例提供的任一种曝光处理方法中的步骤。
14.本技术实施例还提供一种计算机可读存储介质,其中,存储介质中存储有计算机程序,当计算机程序在计算机上运行时,使得计算机执行本技术实施例提供的任一种曝光处理方法中的步骤。
15.本技术实施例中,首先获取当前帧图像的预估深度信息;然后根据曝光参数与深度信息之间的变化趋势得到预估深度信息对应的预估曝光参数,其中,变化趋势基于多个历史帧图像而确定;进而在拍摄时采用预估曝光参数进行曝光,得到当前帧图像。本技术实施例根据历史帧图像确定曝光参数与深度信息之间的变化趋势,在拍摄当前帧图像时直接根据曝光参数与深度信息之间的变化趋势获取预估曝光参数,通过学习历史帧图像的曝光
情况自动处理当前帧图像的曝光,提高了曝光处理的效率。
附图说明
16.为了更清楚地说明本技术实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍。显而易见地,下面描述中的附图仅仅是本技术的一些实施例,对于本领域技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
17.图1为本技术实施例提供的曝光处理方法的第一种流程示意图。
18.图2为本技术实施例提供的曝光处理方法的第二种流程示意图。
19.图3为本技术实施例提供的曝光处理方法的第三种流程示意图。
20.图4为本技术实施例提供的曝光处理方法的第四种流程示意图。
21.图5为本技术实施例提供的曝光处理方法的第五种流程示意图。
22.图6为本技术实施例提供的曝光处理装置的第一种结构示意图。
23.图7为本技术实施例提供的曝光处理装置的第二种结构示意图。
24.图8为本技术实施例提供的电子设备的第一种结构示意图。
25.图9为本技术实施例提供的电子设备的第二种结构示意图。
26.图10为本技术实施例提供的集成电路芯片的结构示意图。
具体实施方式
27.下面将结合本技术实施例中的附图,对本技术实施例中的技术方案进行清楚、完整地描述。显然,所描述的实施例仅仅是本技术一部分实施例,而不是全部的实施例。基于本技术中的实施例,本领域技术人员在没有付出创造性劳动前提下所获得的所有实施例,都属于本技术保护的范围。
28.本技术的说明书和权利要求书以及上述附图中的术语“第一”、“第二”、“第三”等(如果存在)是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应当理解,这样描述的对象在适当情况下可以互换。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含。例如,包含了一系列步骤的过程、方法或包含了一系列模块或单元的装置、电子设备、系统不必限于清楚地列出的那些步骤或模块和单元,还可以包括没有清楚地列出的步骤或模块或单元,也可以包括对于这些过程、方法、装置、电子设备或系统固有的其它步骤或模块或单元。
29.本技术实施例提供一种曝光处理方法,该曝光处理方法应用于电子设备。该曝光处理方法的执行主体可以是本技术实施例提供的曝光处理装置,或者集成了该曝光处理装置的电子设备,该曝光处理装置可以采用硬件或者软件的方式实现,电子设备可以是智能手机、平板电脑、掌上电脑、笔记本电脑、或者台式电脑等配置有处理器而具有处理能力的设备。
30.请参照图1,图1为本技术实施例提供的曝光处理方法的第一种流程示意图。该曝光处理方法的执行主体可以是本技术实施例提供的曝光处理装置,或者集成了该曝光处理装置的集成电路芯片或电子设备。本技术实施例提供的曝光处理方法可以包括以下步骤:
31.110,获取当前帧图像的预估深度信息。
32.在一实施例中,启动相机,获取待拍摄场景的视频流,得到待拍摄场景的多帧图像。该多帧图像可以为raw(raw image format,原始)格式,即图像感应器将捕捉到的光源信号转化为数字信号后,未经加工的原始图像。多帧图像的具体数量可以根据实际需要设置,本技术对此不做限制。
33.在视频流的多帧图像中可以区分出当前帧图像和历史帧图像,当前帧图像即为当前正要拍摄的一帧图像,历史帧图像为在当前帧图像之前拍摄的图像,历史帧图像和当前帧图像可以针对同一待拍摄场景,具有相同或相似的图像内容。
34.其中,多个历史帧图像可以具有相同或不同的曝光参数。例如,在拍摄时,不断调整曝光参数,可以得到不同曝光参数的多个历史帧图像。其中,曝光参数为在拍摄图像时影响图像曝光的参数,例如光圈、曝光时长、感光度。例如,曝光参数可以包括曝光时长,而曝光时长影响曝光量,在拍摄时使用不同的曝光时长拍摄,可以得到同一待拍摄场景的不同曝光量的多个历史帧图像。除直接获取外,历史帧图像也可以是使用过本技术实施例提供的曝光处理方法进行曝光处理的图像。
35.在一实施例中,可以根据多个历史帧图像的深度信息对当前帧图像的深度信息进行预估,得到当前帧图像的预估深度信息。由于多个历史帧图像是对同一待拍摄场景先后拍摄的图像,图像中的内容一般变化不大,根据历史帧图像的深度信息,可以得到当前帧图像的预估深度信息。若待拍摄场景中有运动对象,可以根据多个历史帧图像得出运动对象的运动趋势,根据运动对象的运动趋势和运动图像在多个历史帧图像中的深度信息预估出运动对象在下一帧图像(即未拍摄的当前帧图像)中的深度信息。
36.其中,深度信息可以以至少一个深度图的形式存在,指示传感器(例如,图像传感器、深度传感器)与对象的距离(例如,从深度传感器到待拍摄场景中所有对象的距离)。由于不同对象分别有对应的深度信息,因而不同的深度信息可以反映图像中不同对象距离设备的位置。在一实施例中,电子设备设置有光线传感器,根据光线传感器发射的近红外光及其反射光的相位参数,计算出近红外光及其反射光的相位差,就可以根据相位差计算历史帧图像中各个对象的深度,从而得到历史帧图像的深度信息。
37.在一实施例中,对于历史帧图像中的静止区域和运动区域,分别采用不同的方式获取深度信息。例如,可利用线性透视方法获取静止区域的深度信息,可利用基于变形理论的高精度光流法获取运动矢量并转换为运动区域的深度信息。
38.120,根据曝光参数与深度信息之间的变化趋势得到预估深度信息对应的预估曝光参数,其中,变化趋势基于多个历史帧图像而确定。
39.在一实施例中,在根据曝光参数与深度信息之间的变化趋势得到预估深度信息对应的预估曝光参数之前,获取由多个历史帧图像训练得到的曝光处理模型,将预估深度信息输入到曝光处理模型中,根据曝光处理模型中曝光参数与深度信息之间的变化趋势得到预估深度信息对应的预估曝光参数。
40.历史帧图像成像时的亮度信息会受到深度信息和曝光参数的影响,在一实施例中,获取多个历史帧图像的深度信息、亮度信息和曝光参数,并用多个历史帧图像的深度信息、亮度信息和曝光参数训练得到曝光处理模型。例如,通过学习多个历史帧图像中的亮度信息和深度信息变化的趋势,可以得到亮度信息随深度信息变化的趋势,通过学习多个历史帧图像中的亮度信息和曝光参数,可以得到亮度信息随曝光参数变化的趋势,进而在曝
光处理模型中学习得出曝光参数与深度信息之间的变化趋势。
41.需要说明的是,当前帧图像的预估深度信息与参与训练曝光处理模型的多个历史帧图像输入的深度信息应包含相同或相似的内容。若参与训练曝光处理模型的多个历史帧图像输入的深度信息是整个图像的深度信息,则此处获取的当前帧图像的预估深度信息也是整个当前帧图像的预估深度信息;若参与训练曝光处理模型的多个历史帧图像输入的深度信息是图像中某个区域的深度信息,则此处获取的当前帧图像的预估深度信息也是当前帧图像中同一区域的预估深度信息。
42.获取到当前帧图像的预估深度信息后,将预估深度信息输入到由多个历史帧图像训练得到的曝光处理模型中。由于曝光处理模型中包含有曝光参数与深度信息之间的变化趋势,因而,可以根据该变化趋势以及输入的当前帧图像的预估深度信息,得到预估深度信息对应的预估曝光参数。
43.该预估曝光参数是由曝光处理模型根据历史帧图像总结的规律推测出的适合当前帧图像的曝光参数。预估曝光参数中可以包括预估光圈、预估曝光时间和/或预估感光值。
44.130,在拍摄时采用预估曝光参数进行曝光,得到当前帧图像。
45.在拍摄时,我们需要调整光圈、曝光时间、感光值等曝光参数。本技术实施例在拍摄当前帧图像时,可以使用模型推测出的预估曝光参数进行自动曝光处理。例如将光圈调整到预估光圈的大小,将曝光时间调整到预估曝光时间,将感光值调整到预估感光值,从而得到当前帧图像。当前帧图像的曝光处理可以由电子设备自动进行,不需用户手动处理。
46.在一实施例中,对于多个历史帧图像和当前帧图像,都可以分割为焦平面区域和非焦平面区域。用来训练曝光处理模型的多个历史帧图像的亮度信息、深度信息和曝光参数可以指的是多个历史帧图像的焦平面区域的亮度信息、深度信息和曝光参数。输入到曝光处理模型中的当前帧图像的预估深度信息,可以是对当前帧图像的焦平面区域的深度进行预估得到的预估深度信息。相应的,在使用预估曝光参数进行曝光处理时,主要保证焦平面区域的成像亮度符合预期。
47.由于焦平面区域是经过对焦处理的重点处理区域,通过对焦处理后,焦平面区域的曝光相对非焦平面的曝光更加准确,焦平面区域的曝光效果也比非焦平面的曝光效果更好。因而,采用多个历史帧图像的焦平面区域的亮度信息、深度信息和曝光参数训练模型,得到的曝光参数与深度信息之间的变化趋势更加准确。
48.在一实施例中,将图像(历史帧图像和/或当前帧图像)分割为焦平面区域和非焦平面区域可以通过以下方式实现:
49.首先,获取拍摄图像时的对焦参数,根据对焦参数确定拍摄图像时的焦平面,获取焦平面的深度区间,将图像中深度信息处于焦平面的深度区间的区域分割为焦平面区域。在分割出焦平面区域后,除焦平面区域以外的其他区域即为非焦平面区域。
50.其中,焦平面的深度区间可以是对某一对焦对象进行拍摄时,该对焦对象所处的深度区间。可以理解的是,由于物体是立体的,而焦平面对应的深度为一个具体数值,往往无法囊括对象的全部深度信息,因而需要用深度区间来概括。在划分焦平面的深度区间时,将焦平面深度的前后一段范围内的深度都归入进来,从而能够正确分割出聚焦对象所在的区域作为焦平面区域。用户可以通过对焦操作指示设备,对对焦对象进行对焦,即,对焦参
数可以基于用户的对焦操作获取。
51.在一实施例中,非焦平面区域可以包括至少两个非焦平面区域,在分割出焦平面区域后,获取除焦平面区域以外的其他区域的深度信息,根据其他区域的深度信息划分出至少两个深度区间,将其他区域按照所处的深度区间分割为至少两个非焦平面区域。
52.非焦平面区域的数量取决于深度区间的数量。例如,其中每一个非焦平面区域对应一个深度区间,或者根据每相邻的两个深度区间划分非焦平面区域,即每一个非焦平面区域对应两个深度区间,等等。本技术实施例对非焦平面区域的划分方式不做限制,只要是根据深度区间划分均可。
53.在一实施例中,在得到当前帧图像后,将当前帧图像分割为焦平面区域和非焦平面区域,分割方法可参见上述提到的方法。然后,获取当前帧图像的焦平面区域的深度信息和亮度信息,将当前帧图像的焦平面区域的深度信息、亮度信息和预估曝光参数输入到曝光处理模型中,对曝光处理模型进行更新。并且,得到的当前帧图像作为后续要拍摄的图像对应的历史帧图像。
54.也就是说,本技术实施例提供的曝光处理方法并非是只应用于某一帧图像,而是在多帧原始图像获取期间,持续应用于每一帧图像中。并且每一帧图像利用曝光处理模型获取的预估曝光参数拍摄出来后,每一帧图像的深度信息、亮度信息和预估曝光参数又重新输入到曝光处理模型中,曝光处理模型也在不断更新。下面结合附图进行说明:
55.请参阅图2,图2为本技术实施例提供的曝光处理方法的第二种流程示意图。其中示出了多帧图像利用曝光处理模型得到预估曝光参数以及对曝光处理模型进行更新的流程。其中,图像11~19按照数字从小到大的顺序依次拍摄(图中略去了图像17和18),由图像11、12、13训练得到曝光处理模型,在拍摄图像14时,图像14作为当前帧图像,图像11~13作为历史帧图像,利用图像11~13训练得到的曝光处理模型获取图像14的预估曝光参数,用预估曝光参数进行曝光,得到图像14。并且,拍摄得到图像14后,将图像14的深度信息、亮度信息和预估曝光参数输入到曝光处理模型中,曝光处理模型接收到图像14的这些数据后,将图像14的这些数据也纳入计算体系,从而曝光处理模型进行了更新,更新后的曝光处理模型相当于是由图像11~14训练得到的。
56.在拍摄图像15时,图像15作为当前帧图像,图像11~14作为历史帧图像,利用更新后的由图像11~14训练得到的曝光处理模型获取图像15的预估曝光参数,用预估曝光参数进行曝光,得到图像15,并将图像15的深度信息、亮度信息和预估曝光参数输入到曝光处理模型中,使得曝光处理模型(11~14)又进一步更新为曝光处理模型(11~15),更新后的曝光处理模型(11~15)相当于是由图像11~15训练出来的。曝光处理模型(11~16)又用于在后续拍摄图像16时获取图像16的预估曝光参数,拍摄出来的图像16又会使得曝光处理模型进行更新,
……
,如此往复,乃至之后用曝光处理模型(11~18)获取图像19的预估曝光参数,等等。
57.可见,本技术中的每一个当前帧图像在拍摄下一帧图像时都可作为下一帧图像的历史帧图像,并且本技术用于获取每一个当前帧图像的曝光处理模型都是由前面历史帧图像更新过的最新的曝光处理模型,使得更新后的曝光处理模型与最新的拍摄内容相契合。
58.其中,若用户在拍摄图像15时,手动调整了曝光参数,则在对曝光处理模型更新时,不再输入图像15的预估曝光参数,而是输入图像15的实际曝光参数,图像15的实际曝光
参数参与更新曝光处理模型,使得更新后的曝光处理模型输出的预估曝光参数也更加精准,更符合用户的预期。
59.请继续参阅图3,图3为本技术实施例提供的曝光处理方法的第三种流程示意图。在一实施例中,在拍摄当前帧图像时,参与训练曝光处理模型的历史帧图像可以不是前面所有的历史帧图像,而是只选用最新拍摄的几帧历史帧图像。例如,由图像14对曝光处理模型进行更新时,更新后的曝光处理模型中的曝光参数与深度信息之前的变化趋势可以是根据图像12、13、14的相关数据得出的,图像11的相关数据不参与此次更新,即,图2中的曝光处理模型(11~14)更改为图3中的曝光处理模型(12~14),同理,图2中的曝光处理模型(11~15)更改为图3中的曝光处理模型(13~15),图2中的曝光处理模型(11~18)更改为图3中的曝光处理模型(16~18)。只选用最新的几帧历史帧图像训练和更新曝光处理模型,可以避免太久远的历史帧图像影响到曝光处理模型的准确度。
60.需要说明的是,图2及图3中所列出的历史帧图像的选择方式和选择数量等都是示例性的。本领域技术人员应当理解,根据需求可以对历史帧图像的选择方式和选择数量进行改变。
61.在一实施例中,可以根据电子设备当前的功耗情况确定用来训练曝光处理模型的历史帧图像的数量。预先设定功耗等级与历史帧图像数量的对应关系,获取电子设备当前的功耗值(该功耗值例如可以为电子设备已消耗的电量、后台处理的进程数量等),根据预先设定的功耗等级,确定当前的功耗值所属的功耗等级,并获取与该功耗等级对应数量的历史帧图像。例如,功耗等级从低功耗到高功耗分别为一到五级,当确定出当前的功耗值所属的功耗等级为一级时,获取当前帧图像拍摄前的前7帧图像训练曝光处理模型,当确定出当前的功耗值所属的功耗等级为五级时,只获取当前帧图像拍摄前的前3帧图像训练曝光处理模型。
62.功耗等级越低,参与训练和更新模型的历史帧图像的数量越多,需要处理的数据越多,训练出的曝光处理模型越精确。功耗等级越高,参与训练和更新模型的历史帧图像的数量越少,需要处理的数据越少,越节约功耗。
63.请参照图4,图4为本技术实施例提供的曝光处理方法的第四种流程示意图。该曝光处理方法可应用于本技术实施例提供的电子设备,本技术实施例提供的曝光处理方法可以包括以下步骤:
64.201、获取多个历史帧图像。
65.在一实施例中,启动相机,获取待拍摄场景的视频流,得到待拍摄场景的多帧图像。在视频流的多帧图像中可以区分出当前帧图像和历史帧图像,当前帧图像即为当前正要拍摄的一帧图像,历史帧图像为在当前帧图像之前拍摄的图像,历史帧图像和当前帧图像可以针对同一待拍摄场景,具有相同或相似的图像内容。
66.其中,多个历史帧图像可以具有相同或不同的曝光参数。除直接拍摄获取外,历史帧图像也可以是使用过本技术实施例提供的曝光处理方法进行曝光处理的图像。
67.202、将多个历史帧图像分别分割为焦平面区域和非焦平面区域。
68.首先,获取拍摄历史帧图像时的对焦参数,根据对焦参数确定拍摄历史帧图像时的焦平面,获取焦平面的深度区间,将历史帧图像中深度信息处于焦平面的深度区间的区域分割为焦平面区域。在分割出焦平面区域后,除焦平面区域以外的其他区域即为非焦平
面区域。
69.同一历史帧图像中可以包括一个非焦平面区域,也可以包括至少两个非焦平面区域。在一实施例中,获取除焦平面区域以外的其他区域的深度信息,根据其他区域的深度信息划分出至少两个深度区间,将其他区域按照所处的深度区间分割为至少两个非焦平面区域,其中每一个非焦平面区域对应一个深度区间。
70.非焦平面区域的数量取决于深度区间的数量。例如,其中每一个非焦平面区域对应一个深度区间,或者根据每相邻的两个深度区间划分非焦平面区域,即每一个非焦平面区域对应两个深度区间,等等。本技术实施例对非焦平面区域的划分方式不做限制,只要是根据深度区间划分均可。
71.在一实施例中,首先分割出焦平面区域,在分割出焦平面区域后,除焦平面区域以外的其他区域即为非焦平面区域。其中分割出焦平面区域可以通过以下方式实现:
72.获取拍摄图像时的对焦参数;
73.根据对焦参数确定拍摄图像时的焦平面,获取焦平面的深度区间;
74.将图像中深度信息处于焦平面的深度区间的区域分割为焦平面区域。
75.203、获取多个历史帧图像的焦平面区域的深度信息、亮度信息和曝光参数。
76.204、用多个历史帧图像的焦平面区域的深度信息、亮度信息和曝光参数训练得到曝光处理模型。
77.其中,曝光处理模型中包含曝光参数与深度信息之间的变化趋势。
78.多个历史帧图像的焦平面区域可以具有相同或不同的曝光参数。例如,在拍摄时,不断调整曝光参数,可以得到不同曝光参数的多个历史帧图像。历史帧图像成像时,焦平面区域的亮度信息会受到深度信息和曝光参数的影响。在一实施例中,获取多个历史帧图像的焦平面区域的深度信息、亮度信息和曝光参数,并用多个历史帧图像的焦平面区域的深度信息、亮度信息和曝光参数训练得到曝光处理模型。例如,通过学习多个历史帧图像中焦平面区域的亮度信息和深度信息变化的趋势,可以得到焦平面区域的亮度信息随深度信息变化的趋势,通过学习多个历史帧图像中焦平面区域的亮度信息和曝光参数,可以得到焦平面区域的亮度信息随曝光参数变化的趋势,进而在曝光处理模型中学习得出曝光参数与深度信息之间的变化趋势。
79.由于焦平面区域是经过对焦处理的重点处理区域,通过对焦处理后,焦平面区域的曝光相对非焦平面的曝光更加准确,焦平面区域的曝光效果也比非焦平面的曝光效果更好。因而,采用多个历史帧图像的焦平面区域的亮度信息、深度信息和曝光参数训练模型,得到的曝光参数与深度信息之间的变化趋势更加准确。
80.205、获取多个历史帧图像的非焦平面区域的曝光指标及相对深度。
81.206、将多个历史帧图像的非焦平面区域的曝光指标及相对深度输入到曝光处理模型中进行训练,在曝光处理模型中得到曝光指标与相对深度之间的变化趋势。
82.其中,曝光指标可以是诸如白平衡之类能够对成像图像的曝光情况进行调整的指标,白平衡是描述红、绿、蓝三基色混合后生成白色精准度的一项指标,用于进行色彩还原和色调处理。白平衡设定可以校准色温的偏差,对于拍摄时和拍摄完的图像,都可以调整白平衡来达到想要的画面效果。
83.相对深度指的是同一张图像中非焦平面区域相对焦平面区域的相对深度。
84.在一实施例中,历史帧图像中可以包含至少两个非焦平面区域。在历史帧图像中分割出焦平面区域后,获取除焦平面区域以外的其他区域的深度信息,根据其他区域的深度信息划分出至少两个深度区间,将其他区域按照所处的深度区间分割为至少两个非焦平面区域,其中每一个非焦平面区域对应一个深度区间。非焦平面区域的数量取决于深度区间的数量。
85.当历史帧图像中包含一个非焦平面区域时,获取该非焦平面区域的曝光指标及相对深度;当历史帧图像中包含至少两个非焦平面区域时,对应地获取每个非焦平面的曝光指标及相对深度,即对于每一个非焦平面区域,对应获取其曝光指标及相对深度。
86.将每个历史帧图像中每个非焦平面的曝光指标及相对深度一起输入到曝光处理模型中进行训练,使得曝光处理模型在训练出焦平面区域曝光参数与深度信息之间的变化趋势之余,还训练出非焦平面区域的曝光指标与相对深度之间的变化趋势。
87.207、根据多个历史帧图像的焦平面区域的深度信息对当前帧图像的焦平面区域的深度信息进行预估,得到当前帧图像的预估深度信息。
88.为了通过曝光处理模型得到拍摄当前帧图像的合适曝光参数,需要对当前帧图像的深度信息进行预估,得到当前帧图像的预估深度信息。
89.在一实施例中,可以根据多个历史帧图像的深度信息对当前帧图像的深度信息进行预估,得到当前帧图像的预估深度信息。由于多个历史帧图像是对同一待拍摄场景先后拍摄的图像,图像中的内容一般变化不大,根据历史帧图像的深度信息,可以得到当前帧图像的预估深度信息。若待拍摄场景中有运动对象,可以根据多个历史帧图像得出运动对象的运动趋势,根据运动对象的运动趋势和运动图像在多个历史帧图像中的深度信息预估出运动对象在下一帧图像(即未拍摄的当前帧图像)中的深度信息。
90.208、根据曝光参数与深度信息之间的变化趋势得到预估深度信息对应的预估曝光参数。
91.获取到当前帧图像的预估深度信息后,将预估深度信息输入到由多个历史帧图像训练得到的曝光处理模型中。由于曝光处理模型中包含有曝光参数与深度信息之间的变化趋势,因而,可以根据该变化趋势以及输入的当前帧图像的预估深度信息,得到预估深度信息对应的预估曝光参数。
92.该预估曝光参数是由曝光处理模型根据历史帧图像总结的规律推测出的适合当前帧图像的曝光参数。预估曝光参数中可以包括预估光圈、预估曝光时间和/或预估感光值。
93.209、在拍摄时采用预估曝光参数进行曝光,得到当前帧图像。
94.在拍摄时,我们需要调整光圈、曝光时间、感光值等曝光参数。本技术实施例在拍摄当前帧图像时,可以使用模型推测出的预估曝光参数进行自动曝光处理。例如将光圈调整到预估光圈的大小,将曝光时间调整到预估曝光时间,将感光值调整到预估感光值,从而得到当前帧图像。当前帧图像的曝光处理可以由电子设备自动进行,不需用户手动处理。
95.210、将当前帧图像分割为焦平面区域和非焦平面区域。
96.得到当前帧图像后,对当前帧图像进行图像分割的方式可以参见前述对历史帧图像进行图像分割的方法(包括分割出一个焦平面区域和至少两个焦平面区域的方法),在此不再赘述。
97.211、获取当前帧图像的非焦平面区域的相对深度。
98.分割出当前帧图像的焦平面区域和非焦平面区域后,可以获取每个非焦平面区域相对于焦平面的深度,即为每个焦平面区域的相对深度。
99.212、将当前帧图像的非焦平面区域的相对深度输入到曝光处理模型中,根据曝光指标与相对深度之间的变化趋势,得到非焦平面区域的预估曝光指标。
100.将当前帧图像的非焦平面区域的相对深度输入到曝光处理模型中,由于曝光处理模型中包含有曝光指标和相对深度之间的变化趋势,根据输入的当前帧图像的非焦平面区域的相对深度,可以得到非焦平面区域的预估曝光指标。其中每个非焦平面区域对应有一个预估曝光指标,用于一一对应地调整当前帧图像的每个非焦平面区域。预估曝光指标可以包括预估白平衡指标,用于调整各非焦平面区域的白平衡。
101.213、使用预估曝光指标对当前帧图像的非焦平面区域进行曝光修正。
102.通过预估曝光指标对当前帧图像的非焦平面区域一一进行曝光修正,
103.通过预估曝光参数保证焦平面区域的自动精准曝光,通过曝光指标以焦平面区域为基准对各非焦平面区域进行曝光修正。从而在保证图像焦平面区域成像效果的同时,提升了非焦平面区域的成像效果。避免出现诸如“对亮处聚焦、亮处很清楚、暗处看不清”或者“对暗处聚焦、暗处很清楚、亮处太刺眼”等的成像问题,保证图像整体的平滑度。
104.在一实施例中,将当前帧图像的焦平面区域的深度信息、亮度信息和预估曝光参数输入到曝光处理模型中,以更新曝光处理模型中曝光参数与深度信息之间的变化趋势,使用更新后的曝光处理模型获取下一帧图像的预估曝光参数。
105.在一实施例中,将当前帧图像的非焦平面区域的曝光指标及相对深度输入到曝光处理模型中,以更新曝光处理模型中曝光指标与相对深度之间的变化趋势,使用更新后的曝光处理模型获取下一帧图像的预估曝光指标。
106.请参阅图5,图5为本技术实施例提供的曝光处理方法的第五种流程示意图。
107.本技术实施例中,首先开启相机,获取(历史帧图像的)原始图像数据,根据历史帧图像的原始图像数据计算深度信息,根据计算的深度信息以及拍摄历史帧图像时的对焦参数确定出历史帧图像中的焦平面。基于焦平面对图像进行区域分割,将历史帧图像分割为焦平面区域和非焦平面区域,对焦平面区域进行亮度检测,获取焦平面区域的亮度信息,然后将焦平面区域的亮度信息和深度信息以及曝光参数一起输入到模型中进行训练,根据训练得到的曝光参数与深度信息之间的变化趋势获取下一帧图像的预估曝光参数,在获取下一帧图像的原始图像数据时,采用该预估曝光参数进行曝光,同时,预估曝光参数重新输入到模型中,对模型进行更新。
108.除此以外,对于获取到的原始图像数据,还进行曝光修正,曝光修正的具体可实施方式可参见前述获取非焦平面区域的相对深度及曝光指标进行训练、以及获取非焦平面的预估曝光参数的相关描述,在此不再赘述。
109.在利用预估曝光参数获取原始图像数据,并对原始图像数据进行曝光修正后,得到的图像可进行后端图像处理。例如对图像进行裁剪、涂鸦、加水印、加文字等操作。
110.本技术实施例提供的曝光处理方法并非是只应用于某一帧图像,而是在多帧原始图像获取期间,持续应用于每一帧图像中。并且每一帧图像利用曝光处理模型获取的预估曝光参数拍摄出来后,每一帧图像的深度信息、亮度信息和预估曝光参数又重新输入到曝
光处理模型中,预估曝光指标也是同样,曝光处理模型也在不断更新。
111.由上可知,本技术实施例提供的曝光处理方法,首先获取当前帧图像的预估深度信息;然后根据曝光参数与深度信息之间的变化趋势得到预估深度信息对应的预估曝光参数,其中,变化趋势基于多个历史帧图像而确定;进而在拍摄时采用预估曝光参数进行曝光,得到当前帧图像。本技术实施例根据历史帧图像确定曝光参数与深度信息之间的变化趋势,在拍摄当前帧图像时直接根据曝光参数与深度信息之间的变化趋势获取预估曝光参数,通过学习历史帧图像的曝光情况自动处理当前帧图像的曝光,提高了曝光处理的效率。
112.本技术实施例还提供一种曝光处理装置。请参照图6,图6为本技术实施例提供的曝光处理装置的第一种结构示意图。其中该曝光处理装置300可应用于电子设备或集成电路芯片,该曝光处理装置300包括第一获取模块301、第二获取模块302和曝光模块303,如下:
113.第一获取模块301,用于获取当前帧图像的预估深度信息;
114.第二获取模块302,用于根据曝光参数与深度信息之间的变化趋势得到预估深度信息对应的预估曝光参数,其中,变化趋势基于多个历史帧图像而确定;
115.曝光模块303,用于在拍摄时采用预估曝光参数进行曝光,得到当前帧图像。
116.请一并参阅图7,图7为本技术实施例提供的曝光处理装置300的第二种结构示意图。在一实施例中,曝光处理装置300还包括第三获取模块304,用于:
117.获取由多个历史帧图像训练得到的曝光处理模型,曝光处理模型中包含曝光参数与深度信息之间的变化趋势。
118.在根据曝光参数与深度信息之间的变化趋势得到预估深度信息对应的预估曝光参数时,第二获取模块302可以用于:
119.将预估深度信息输入到曝光处理模型中,根据曝光参数与深度信息之间的变化趋势得到预估深度信息对应的预估曝光参数。
120.在一实施例中,在获取由多个历史帧图像训练得到的曝光处理模型时,第一获取模块301可以用于:
121.获取多个历史帧图像;
122.将多个历史帧图像分别分割为焦平面区域和非焦平面区域;
123.获取多个历史帧图像的焦平面区域的深度信息、亮度信息和曝光参数;
124.用多个历史帧图像的焦平面区域的深度信息、亮度信息和曝光参数训练得到曝光处理模型。
125.在一实施例中,在获取当前帧图像的预估深度信息时,第一获取模块301可以用于:
126.根据多个历史帧图像的焦平面区域的深度信息对当前帧图像的焦平面区域的深度信息进行预估,得到当前帧图像的预估深度信息。
127.请继续参阅图7,在一实施例中,曝光处理装置300还包括分割模块305,第四获取模块306、更新模块307和第五获取模块308:
128.分割模块305,用于将当前帧图像分割为焦平面区域和非焦平面区域;
129.第四获取模块306,用于获取当前帧图像的焦平面区域的深度信息和亮度信息;
130.更新模块307,用于将当前帧图像的焦平面区域的深度信息、亮度信息和预估曝光
参数输入到曝光处理模型中,以对曝光处理模型进行更新;
131.第五获取模块308,用于使用更新后的曝光处理模型获取下一帧图像的预估曝光参数。
132.在一实施例中,曝光处理模型中还包括曝光指标与相对深度之间的变化趋势,相对深度为同一张图像中非焦平面区域相对焦平面区域的相对深度,曝光处理装置300还包括:
133.第六获取模块309,用于获取多个历史帧图像的非焦平面区域的曝光指标及相对深度;
134.训练模块310,用于将多个历史帧图像的非焦平面区域的曝光指标及相对深度输入到曝光处理模型中进行训练,在曝光处理模型中得到曝光指标与相对深度之间的变化趋势。
135.在得到当前帧图像之后,将当前帧图像分割为焦平面区域和非焦平面区域;获取当前帧图像的非焦平面区域的相对深度;将当前帧图像的非焦平面区域的相对深度输入到曝光处理模型中,根据曝光指标与相对深度之间的变化趋势,得到非焦平面区域的预估曝光指标;使用预估曝光指标对当前帧图像的非焦平面区域进行曝光修正。
136.其中,使用预估曝光指标对当前帧图像的非焦平面区域进行曝光修正之后,将当前帧图像的非焦平面区域的曝光指标及相对深度输入到曝光处理模型中,以对曝光处理模型进行更新;使用更新后的曝光处理模型获取下一帧图像的预估曝光指标。
137.在一实施例中,当前帧图像的非焦平面区域包括至少两个非焦平面区域,在将当前帧图像分割为焦平面区域和非焦平面区域时,分割模块305可以用于:
138.从当前帧图像中分割出焦平面区域;
139.获取除焦平面区域以外的其他区域的深度信息;
140.根据其他区域的深度信息划分出至少两个深度区间;
141.将其他区域按照所处的深度区间分割为至少两个非焦平面区域,其中每一个非焦平面区域对应一个深度区间。
142.其中,在从当前帧图像中分割出焦平面区域时,获取拍摄当前帧图像时的对焦参数;根据对焦参数确定拍摄当前帧图像时的焦平面;获取焦平面的深度区间;将当前帧图像中深度信息处于焦平面的深度区间的区域分割为焦平面区域。
143.以上各个模块的具体实施可参见前面的实施例,在此不再赘述。
144.由上可知,本技术实施例提供的曝光处理方法,首先第一获取模块301获取当前帧图像的预估深度信息;然后第二获取模块302根据曝光参数与深度信息之间的变化趋势得到预估深度信息对应的预估曝光参数,其中,变化趋势基于多个历史帧图像而确定;进而曝光模块303在拍摄时采用预估曝光参数进行曝光,得到当前帧图像。本技术实施例根据历史帧图像确定曝光参数与深度信息之间的变化趋势,在拍摄当前帧图像时直接根据曝光参数与深度信息之间的变化趋势获取预估曝光参数,通过学习历史帧图像的曝光情况自动处理当前帧图像的曝光,提高了曝光处理的效率。
145.本技术实施例还提供一种电子设备。电子设备可以是智能手机、平板电脑、游戏设备、ar(augmented reality,增强现实)设备、汽车、车辆周边障碍检测装置、音频播放装置、视频播放装置、笔记本、桌面计算设备、可穿戴设备诸如手表、眼镜、头盔、电子手链、电子项
链、电子衣物等设备。
146.参考图8,图8为本技术实施例提供的电子设备400的第一种结构示意图。其中,电子设备400包括处理器401和存储器402。存储器中存储有计算机程序,处理器通过调用存储器中存储的计算机程序,以执行本技术实施例提供的任一种曝光处理方法中的步骤。处理器401与存储器402电性连接。
147.处理器401是电子设备400的控制中心,利用各种接口和线路连接整个电子设备的各个部分,通过运行或调用存储在存储器402内的计算机程序,以及调用存储在存储器402内的数据,执行电子设备的各种功能和处理数据,从而对电子设备进行整体监控。
148.在本实施例中,电子设备400中的处理器401可以按照上述曝光处理方法中的步骤,将一个或一个以上的计算机程序的进程对应的指令加载到存储器402中,并由处理器401来运行存储在存储器402中的计算机程序,从而实现上述曝光处理方法中的步骤,例如:
149.获取当前帧图像的预估深度信息;
150.根据曝光参数与深度信息之间的变化趋势得到预估深度信息对应的预估曝光参数,其中,变化趋势基于多个历史帧图像而确定;
151.在拍摄时采用预估曝光参数进行曝光,得到当前帧图像。
152.请继续参考图9,图9为本技术实施例提供的电子设备400的第二种结构示意图。其中,电子设备400还包括:显示屏403、控制电路404、输入单元405、传感器406以及电源407。其中,处理器401分别与显示屏403、控制电路404、输入单元405、传感器406以及电源407电性连接。
153.显示屏403可用于显示由用户输入的信息或提供给用户的信息以及电子设备的各种图形用户接口,这些图形用户接口可以由图像、文本、图标、视频和其任意组合来构成。
154.控制电路404与显示屏403电性连接,用于控制显示屏403显示信息。
155.输入单元405可用于接收输入的数字、字符信息或用户特征信息(例如指纹),以及产生与用户设置以及功能控制有关的键盘、鼠标、操作杆、光学或者轨迹球信号输入。例如,输入单元405可以包括触控感应模组。
156.传感器406用于采集电子设备自身的信息或者用户的信息或者外部环境信息。例如,传感器406可以包括距离传感器、磁场传感器、光线传感器、加速度传感器、指纹传感器、霍尔传感器、位置传感器、陀螺仪、惯性传感器、姿态感应器、气压计、心率传感器等多个传感器。
157.电源407用于给电子设备400的各个部件供电。在一些实施例中,电源407可以通过电源管理系统与处理器401逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。
158.尽管图8及图9中未示出,电子设备400还可以包括摄像头、蓝牙模块等,在此不再赘述。
159.在本实施例中,电子设备400中的处理器401可以按照上述翻译方法中的步骤,将一个或一个以上的计算机程序的进程对应的指令加载到存储器402中,并由处理器401来运行存储在存储器402中的计算机程序,从而实现上述曝光处理方法中的步骤,例如:
160.获取当前帧图像的预估深度信息;
161.根据曝光参数与深度信息之间的变化趋势得到预估深度信息对应的预估曝光参
数,其中,变化趋势基于多个历史帧图像而确定;
162.在拍摄时采用预估曝光参数进行曝光,得到当前帧图像。
163.在一些情况下,在根据曝光参数与深度信息之间的变化趋势得到预估深度信息对应的预估曝光参数之前,处理器401还执行以下步骤:
164.获取由多个历史帧图像训练得到的曝光处理模型,曝光处理模型中包含曝光参数与深度信息之间的变化趋势;
165.将预估深度信息输入到曝光处理模型中,根据曝光参数与深度信息之间的变化趋势得到预估深度信息对应的预估曝光参数。
166.在一些情况下,在获取由多个历史帧图像训练得到的曝光处理模型时,处理器401执行以下步骤:
167.获取多个历史帧图像;
168.将多个历史帧图像分别分割为焦平面区域和非焦平面区域;
169.获取多个历史帧图像的焦平面区域的深度信息、亮度信息和曝光参数;
170.用多个历史帧图像的焦平面区域的深度信息、亮度信息和曝光参数训练得到曝光处理模型。
171.在一些情况下,在获取当前帧图像的预估深度信息时,处理器401还执行以下步骤:
172.根据多个历史帧图像的焦平面区域的深度信息对当前帧图像的焦平面区域的深度信息进行预估,得到当前帧图像的预估深度信息。
173.在一些情况下,在得到当前帧图像之后,处理器401执行以下步骤:
174.将当前帧图像分割为焦平面区域和非焦平面区域;
175.获取当前帧图像的焦平面区域的深度信息和亮度信息;
176.将当前帧图像的焦平面区域的深度信息、亮度信息和预估曝光参数输入到曝光处理模型中,以对曝光处理模型进行更新;
177.使用更新后的曝光处理模型获取下一帧图像的预估曝光参数。
178.在一些情况下,曝光处理模型中还包括曝光指标与相对深度之间的变化趋势,相对深度为同一张图像中非焦平面区域相对焦平面区域的相对深度,处理器401还执行以下步骤:
179.获取多个历史帧图像的非焦平面区域的曝光指标及相对深度;
180.将多个历史帧图像的非焦平面区域的曝光指标及相对深度输入到曝光处理模型中进行训练,在曝光处理模型中得到曝光指标与相对深度之间的变化趋势;
181.在一些情况下,在得到当前帧图像之后,处理器401还执行以下步骤:
182.将当前帧图像分割为焦平面区域和非焦平面区域;
183.获取当前帧图像的非焦平面区域的相对深度;
184.将当前帧图像的非焦平面区域的相对深度输入到曝光处理模型中,根据曝光指标与相对深度之间的变化趋势,得到非焦平面区域的预估曝光指标;
185.使用预估曝光指标对当前帧图像的非焦平面区域进行曝光修正。
186.在一些情况下,在使用预估曝光指标对当前帧图像的非焦平面区域进行曝光修正之后,处理器401还执行以下步骤:
187.将当前帧图像的非焦平面区域的曝光指标及相对深度输入到曝光处理模型中,以对曝光处理模型进行更新;
188.使用更新后的曝光处理模型获取下一帧图像的预估曝光指标。
189.在一些情况下,当前帧图像的非焦平面区域包括至少两个非焦平面区域,在将当前帧图像分割为焦平面区域和非焦平面区域时,处理器401执行以下步骤:
190.从当前帧图像中分割出焦平面区域;
191.获取除焦平面区域以外的其他区域的深度信息;
192.根据其他区域的深度信息划分出至少两个深度区间;
193.将其他区域按照所处的深度区间分割为至少两个非焦平面区域,其中每一个非焦平面区域对应一个深度区间。
194.在一些情况下,在从当前帧图像中分割出焦平面区域时,处理器401执行以下步骤:
195.获取拍摄当前帧图像时的对焦参数;
196.根据对焦参数确定拍摄当前帧图像时的焦平面;
197.获取焦平面的深度区间;
198.将当前帧图像中深度信息处于焦平面的深度区间的区域分割为焦平面区域。
199.由上可知,本技术实施例提供了一种电子设备,电子设备中的处理器执行以下步骤:首先获取当前帧图像的预估深度信息;然后根据曝光参数与深度信息之间的变化趋势得到预估深度信息对应的预估曝光参数,其中,变化趋势基于多个历史帧图像而确定;进而在拍摄时采用预估曝光参数进行曝光,得到当前帧图像。本技术实施例根据历史帧图像确定曝光参数与深度信息之间的变化趋势,在拍摄当前帧图像时直接根据曝光参数与深度信息之间的变化趋势获取预估曝光参数,通过学习历史帧图像的曝光情况自动处理当前帧图像的曝光,提高了曝光处理的效率。
200.本技术实施例还提供一种集成电路芯片。该集成电路芯片可用于智能手机、平板电脑、游戏设备、ar(augmented reality,增强现实)设备、汽车、车辆周边障碍检测装置、音频播放装置、视频播放装置、笔记本、桌面计算设备、可穿戴设备诸如手表、眼镜、头盔、电子手链、电子项链等设备。
201.本技术实施例提供的集成电路芯片独立于中央处理器,采取了硬件加速技术,把计算量非常大的工作分配给专门的硬件来处理以减轻中央处理器的工作量,从而不需要中央处理器通过软件一层层翻译图像中的每一个像素。以硬件加速的方式实施本技术实施例提供的曝光处理方法,可以实现高速的曝光处理处理。
202.参考图10,图10为本技术实施例提供的集成电路芯片500的结构示意图。其中,集成电路芯片500包括处理器501、存储器502和曝光处理装置300。处理器501与存储器502电性连接。
203.处理器501是集成电路芯片500的控制中心,利用各种接口和线路连接整个集成电路芯片的各个部分,在本技术实施例提供的曝光处理方法中实现前端的深度信息采集和后端的多帧合成。
204.在本实施例中,曝光处理装置300,负责实现上述曝光处理方法中的步骤,例如:
205.获取当前帧图像的预估深度信息;
206.根据曝光参数与深度信息之间的变化趋势得到预估深度信息对应的预估曝光参数,其中,变化趋势基于多个历史帧图像而确定;
207.在拍摄时采用预估曝光参数进行曝光,得到当前帧图像。
208.本技术实施例还提供一种计算机可读存储介质,存储介质中存储有计算机程序,当计算机程序在计算机上运行时,计算机执行上述任一实施例的曝光处理方法。
209.例如,在一些实施例中,当计算机程序在计算机上运行时,计算机执行以下步骤:
210.获取当前帧图像的预估深度信息;
211.根据曝光参数与深度信息之间的变化趋势得到预估深度信息对应的预估曝光参数,其中,变化趋势基于多个历史帧图像而确定;
212.在拍摄时采用预估曝光参数进行曝光,得到当前帧图像。
213.需要说明的是,本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过计算机程序来指令相关的硬件来完成,计算机程序可以存储于计算机可读存储介质中,存储介质可以包括但不限于:只读存储器(rom,read only memory)、随机存取存储器(ram,random access memory)、磁盘或光盘等。
214.在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见上文针对翻译方法的详细描述,此处不再赘述。
215.以上对本技术实施例所提供的曝光处理方法、装置、电子设备及存储介质进行了详细介绍。本文中应用了具体个例对本技术的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本技术的方法及其核心思想;同时,对于本领域的技术人员,依据本技术的思想,在具体实施方式及应用范围上均会有改变之处,综上,本说明书内容不应理解为对本技术的限制。
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1