拍照方法、电子设备和计算机可读存储介质与流程

文档序号:29036983发布日期:2022-02-25 19:15阅读:81来源:国知局
拍照方法、电子设备和计算机可读存储介质与流程

1.本技术涉及图像处理领域,尤其涉及一种拍照方法、电子设备和计算机可读存储介质。


背景技术:

2.在光线较暗的环境下拍照时,为了得到相对清晰的图像,相机通常会控制闪光灯工作,从而提升环境的亮度,使得到的图像更加清晰。比如,相机在自动闪光模式下,检测到环境亮度符合闪光灯工作要求,如果接收到拍照指令并检测到当前场景的图像为高动态范围图像时,分别在闪光灯处于预闪状态和强闪状态时采集图像,根据所采集的图像合成照片。
3.由于预闪状态和强闪状态下所采集的图像的亮度和清晰度差异较大,容易导致所采集的图像中的人物或物体分割不准确,并且,在预闪状态和强闪状态之间有一个时间间隙,可能会产生画面抖动,影响3a(自动对焦、自动白平衡和自动曝光)稳定性,不利于对图像进行配准和融合操作,影响所拍摄图像的质量。


技术实现要素:

4.本技术实施例提供一种拍照方法和电子设备,以解决现有技术中在拍照时,容易导致所采集的图像分割不准确,并且可能产生画面抖动和3a稳定性,影响所拍摄图像的质量的问题。
5.第一方面,本技术实施例提供一种拍照方法,该方法包括:电子设备触发拍照指令,控制闪光灯处于常亮状态;电子设备在所述常亮状态下采集图像,所采集的图像包括在第一曝光值下采集的第一图像、第二曝光值下采集的第二图像,以及在第三曝光值下采集的第三图像,所述第一曝光值小于第二曝光值,所述第二曝光值小于第三曝光值,所述第一曝光值为当前场景的标准曝光值;电子设备根据所述第一图像、所述第二图像和所述第三图像生成需要输出的图像。
6.其中,第一曝光值下所采集的第一图像,为正常曝光的图像。第二曝光值大于第一曝光值,说明第二曝光值下所采集的第二图像的曝光量,小于第一曝光值下所采集的第一图像的曝光量。同样的道理,第三图像的曝光量,小于第二图像的曝光量。对于高亮区域,包括如纯色区域,或光源区域,可以在第三图像中较为清晰的显示。对于正常曝光的图像区域,在第一图像中可以较为清晰的显示。通过第二图像,可以分别与第一图像和第三图像配准,从而使得第一图像与第三图像能够基于第二图像进行配准,使得图像能够有效的配准融合,得到清晰的输出图像。
7.可以看出,电子设备在所采集的第一图像、第二图像和第三图像时,控制闪光灯保持固定亮度的常亮状态。电子设备在图像采集过程中,环境亮度信息基本一致。因此,在采集环境亮度信息一致的第一图像、第二图像和第三图像时,可以采用较为稳定的相机参数,包括自动曝光参数、自动白平衡参数和自动对焦参数进行图像采集,不需要频繁变动图像
采集参数,使得图像采集的可靠性更高。
8.并且,通过控制闪光灯处于恒定的常亮状态,并结合软件层面上的曝光值的调整,得到不同曝光值的第一图像、第二图像和第三图像。相对于驱动电流的调整,通过软件层面上的曝光值调整更加方便,实现更为容易,可以减少由驱动电流调整所带来的拍照稳定性问题。
9.本技术实施例通过固定出帧的方式,即固定生成第一图像、第二图像和第三图像,根据所出的第一图像、第二图像和第三图像生成hdr图像。而现有的hdr图像生成方法,需要通过环境亮度信息判断出帧的亮度,决策计算较为麻烦,因此,本技术通过固定出帧方式,可以有效的提高决策效率,可以更高效的完成拍照流程。
10.在第一方面的一些可能的实现方式中,电子设备控制闪光灯处于常亮状态,包括:电子设备获取拍照场景的亮度;根据预先设定的亮度与工作电流的对应关系,电子设备确定所述场景的亮度对应的工作电流;电子设备根据所述工作电流驱动所述闪光灯处于常亮状态。
11.在确定闪光灯处于常亮状态时,进一步结合环境的亮度,计算闪光灯的工作电流。使计算的工作电流驱动闪光灯工作时,环境的亮度不会过亮或过暗,从而能够更好的满足正常曝光获取第一图像的要求。
12.在可能的实现方式中,也可以控制闪光灯按照固定的工作电流工作。实现过程相对更为简单。使得第一图像、第二图像和第三图像基于同样的环境亮度采集得到,图像的稳定性较高。
13.在第一方面的一些可能实现方式中,电子设备在所述常亮状态下采集图像,包括:电子设备根据当前场景的亮度确定第一曝光值;根据预先设定的曝光量比例关系,电子设备确定所述第二曝光值和第三曝光值;电子设备根据所确定的第一曝光值、第二曝光值和第三曝光值分别采集图像。
14.其中,预先设定的曝光量以第一图像的正常曝光量为基础,逐步减少图像的曝光量,采集得到第二图像和第三图像。在可能的实现方式中,可以假设第一曝光值为ev0,第二曝光值可以为第一曝光值的4倍,即第二曝光值可以为第ev2。第三曝光值可以为第一曝光值的64倍,即第三曝光值可以为ev6。在实施过程中,不局限于该比例。第一曝光值为ev0,比如,第二曝光值可以为ev1-ev4中的任意值,第三曝光值可以为ev4-ev10 中的任意值。基于所设定的曝光值,可以得到不同亮度的物体,在不同曝光值下的不同清晰度的图像。
15.在第一方面的一些可能实现方式中,电子设备根据所确定的第一曝光值、第二曝光值和第三曝光值分别采集图像,包括:电子设备分别确定与所述第一曝光值、所述第二曝光值和所述第三曝光值对应的光圈大小和/或曝光时间;电子设备根据所确定的光圈大小和/或曝光时间,分别进行图像采集。
16.根据所确定的曝光值进行图像采集时,只需要通过软件层面调整曝光参数,包括光圈和曝光时间,从而能够有效的实现不同曝光值图像的采集。相对于通过电流调整实现不同闪光灯亮度来确定不同曝光值图像的方式,通过软件层面的调整参数,能够更为有效的提升拍照过程的稳定性。
17.在第一方面的一些可能实现方式中,电子设备根据所述第一图像、所述第二图像和所述第三图像生成需要输出的图像,包括:电子设备根据raw格式的第一图像、raw格式的
所述第二图像和raw格式的所述第三图像进行优化和融合处理,得到raw格式的第一输出图像;电子设备对所述第一输出图像进行颜色空间变换,得到需要输出的图像。
18.电子设备将所采集的图像在raw中进行优化和融合,相对于yuv域进行图像优化和融合的方式,或者相对于在rgb域进行图像融合和优化的方式,本技术基于raw域的图像优化和融合方式,在优化和融合过程中,可以保留更为丰富的细节,使得融合后的图像的清晰度更高,有利于提升所拍摄照片的质量。
19.在raw域进行图像优化处理时,电子设备可以根据raw格式的第一图像、raw格式的所述第二图像和raw格式的所述第三图像进行优化和融合处理,得到raw格式的第一输出图像,包括:将所述第一图像、所述第二图像和所述第三图像经过坏点校正、镜头阴影校正、黑电平校正、raw域降噪、白平衡增益和图像融合处理,得到raw格式的第一输出图像。
20.其中,raw域降噪处理时,可以基于网络模型对raw图像进行处理,使得处理后的图像的清晰度、锐度和图像信噪比更佳。该网络模型可以为卷积神经网络模型,或者也可以为u-net网络模型。
21.在第一方面的一些可能实现方式中,电子设备对所述第一输出图像进行颜色空间转换,得到需要输出的图像,包括:电子设备将所述第一输出图像进行去马赛克处理,得到rgb图像;将所述rgb图像进行色彩矫正和全局色彩映射处理,并将处理后的图像经过颜色空间变换,将变换后的图像经过yuv域处理,得到需要输出的图像。
22.由于在raw进行图像处理时,保留了图像的更多细节,将raw处理后的图像进行色彩空间转换,可以得到不同色彩空间的高清晰度的图像,满足用户对于不同色彩空间的高清晰图像的使用要求。
23.在第一方面的一些可能实现方式中,在电子设备在所述常亮状态下采集图像之后,所述方法还包括:所述电子设备的上层向所述电子设备的底层发送闪光灯的常亮状态的关闭指令;所述电子设备的上层接收到闪光灯关闭的响应时,所述电子设备的拍照功能更新为可用状态。
24.通过控制拍照功能的可用状态的更新,可以减少用户在不可用状态期间做无用的点击操作。当拍照完成并接收到闪光灯关闭的响应时,则可以恢复拍照功能的按键为可用状态,从而便于用户继续拍摄其它照片。
25.在第一方面的一些可能实现方式中,在所述电子设备的上层向所述电子设备的底层发送闪光灯关闭指令之后,所述方法还包括:所述电子设备的上层在预定的第一时长内未接收到闪光灯关闭的响应时,电子设备的hal关闭所述闪光灯。
26.通过硬件抽象层(hal)强制关闭闪光灯,可避免底层未及时关闭闪光灯,导致未能及时响应上层指令的问题。其中,预定的第一时长可以为200ms至5s。
27.第二方面本技术实施例提供了一种拍照装置,该装置包括:触发单元,用于由电子设备触发拍照指令,控制闪光灯处于常亮状态;图像采集单元,用于由电子设备在所述常亮状态下采集图像,所采集的图像包括在第一曝光值下采集的第一图像、第二曝光值下采集的第二图像,以及在第三曝光值下采集的第三图像,所述第一曝光值小于第二曝光值,所述第二曝光值小于第三曝光值,所述第一曝光值为当前场景的标准曝光值;图像生成单元,用于由电子设备根据所述第一图像、所述第二图像和所述第三图像生成需要输出的图像。
28.该拍照装置与上述的拍照方法对应。
29.第三方面,本技术实施例提供一种电子设备,包括存储器、处理器以及存储在存储器中并可在处理器上运行的计算机程序,处理器执行计算机程序时实现如上述第二方面或第三方面任一项的方法。
30.第四方面,本技术实施例提供一种计算机可读存储介质,计算机可读存储介质存储有计算机程序,计算机程序被处理器执行时实现如上述第二方面或第三方面任一项的方法。
31.第五方面,本技术实施例提供一种芯片系统,该芯片系统包括处理器,处理器与存储器耦合,处理器执行存储器中存储的计算机程序,以实现如上述第二方面或第三方面任一项所述的方法。该芯片系统可以为单个芯片,或者多个芯片组成的芯片模组。
32.第六方面,本技术实施例提供一种计算机程序产品,当计算机程序产品在电子设备上运行时,使得电子设备执行上述第二方面或第三方面任一项所述的方法。
33.可以理解的是,上述第二方面至第六方面的有益效果可以参见上述第一方面中的相关描述,在此不再赘述。
附图说明
34.图1为本技术实施例提供的一种电子设备的结构示意图;
35.图2为本技术实施例提供的一种电子设备的软件结构框图;
36.图3为本技术提供的一种拍照场景示意图;
37.图4为本技术提供的一种提升图像清晰度的拍照方法示意图;
38.图5为本技术提供的一种拍照方法实现流程示意图;
39.图6为本技术实施例提供的一种开启闪光灯常亮模式的流程示意图;
40.图7为本技术实施例提供的一种不同环境亮度的闪光灯常亮状态示意图;
41.图8为本技术实施例提供的一种拍照过程示意图;
42.图9为本技术实施例提供的一种在第一曝光值采集的第一图像示意图;
43.图10为本技术实施例提供的一种在第二曝光值采集的第二图像示意图;
44.图11为本技术实施例提供的一种在第三曝光值采集的第三图像示意图;
45.图12为本技术实施例提供的一种基于raw域的图像处理流程示意图;
46.图13为本技术实施例提供的一种夜景图像的图像信号处理流程示意图;
47.图14为本技术实施例提供的一种夜景图像的图像信号处理示意图。
具体实施方式
48.以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、技术之类的具体细节,以便透彻理解本技术实施例。
49.下面对本技术实施例可能涉及的相关内容进行示例性介绍。
50.(1)电子设备。电子设备100可以包括处理器110,外部存储器接口120,内部存储器121,通用串行总线(universal serial bus,usb)接口130,充电管理模块140,电源管理模块141,电池142,天线1,天线2,移动通信模块150,无线通信模块160,音频模块170,扬声器170a,受话器170b,麦克风170c,耳机接口170d,传感器模块 180,按键190,马达191,指示器192,摄像头193,显示屏194,以及用户标识模块 (subscriber identification module,
sim)卡接口195等。其中传感器模块180可以包括压力传感器180a,陀螺仪传感器180b,气压传感器180c,磁传感器180d,加速度传感器180e,距离传感器180f,接近光传感器180g,指纹传感器180h,温度传感器180j,触摸传感器180k,环境光传感器180l,骨传导传感器180m等。
51.可以理解的是,本发明实施例示意的结构并不构成对电子设备100的具体限定。在本技术另一些实施例中,电子设备100可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。
52.处理器110可以包括一个或多个处理单元,例如:处理器110可以包括应用处理器 (application processor,ap),调制解调处理器,图形处理器(graphics processingunit,gpu),图像信号处理器(image signal processor,isp),控制器,视频编解码器,数字信号处理器(digital signal processor,dsp),基带处理器,和/或神经网络处理器(neural-network processing unit,npu)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。
53.控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
54.处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器 110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从所述存储器中直接调用。避免了重复存取,减少了处理器110的等待时间,因而提高了系统的效率。
55.在一些实施例中,处理器110可以包括一个或多个接口。接口可以包括集成电路 (inter-integrated circuit,i2c)接口,集成电路内置音频(inter-integrated circuitsound,i2s)接口,脉冲编码调制(pulse code modulation,pcm)接口,通用异步收发传输器(universal asynchronous receiver/transmitter,uart)接口,移动产业处理器接口(mobile industry processor interface,mipi),通用输入输出(general-purposeinput/output,gpio)接口,用户标识模块(subscriber identity module,sim)接口,和/或通用串行总线(universal serial bus,usb)接口等。
56.i2c接口是一种双向同步串行总线,包括一根串行数据线(serial data line,sda) 和一根串行时钟线(derail clock line,scl)。在一些实施例中,处理器110可以包含多组i2c总线。处理器110可以通过不同的i2c总线接口分别耦合触摸传感器180k,充电器,闪光灯,摄像头193等。例如:处理器110可以通过i2c接口耦合触摸传感器180k,使处理器110与触摸传感器180k通过i2c总线接口通信,实现电子设备100的触摸功能。
57.i2s接口可以用于音频通信。在一些实施例中,处理器110可以包含多组i2s总线。处理器110可以通过i2s总线与音频模块170耦合,实现处理器110与音频模块170之间的通信。在一些实施例中,音频模块170可以通过i2s接口向无线通信模块160传递音频信号,实现通过蓝牙耳机接听电话的功能。
58.pcm接口也可以用于音频通信,将模拟信号抽样,量化和编码。在一些实施例中,音频模块170与无线通信模块160可以通过pcm总线接口耦合。在一些实施例中,音频模块170也可以通过pcm接口向无线通信模块160传递音频信号,实现通过蓝牙耳机接听电话的功能。所述i2s接口和所述pcm接口都可以用于音频通信。
59.uart接口是一种通用串行数据总线,用于异步通信。该总线可以为双向通信总线。它将要传输的数据在串行通信与并行通信之间转换。在一些实施例中,uart接口通常被用于连接处理器110与无线通信模块160。例如:处理器110通过uart接口与无线通信模块160中的蓝牙模块通信,实现蓝牙功能。在一些实施例中,音频模块170可以通过 uart接口向无线通信模块160传递音频信号,实现通过蓝牙耳机播放音乐的功能。
60.mipi接口可以被用于连接处理器110与显示屏194,摄像头193等外围器件。mipi 接口包括摄像头串行接口(camera serial interface,csi),显示屏串行接口(display serial interface,dsi)等。在一些实施例中,处理器110和摄像头193通过csi接口通信,实现电子设备100的拍摄功能。处理器110和显示屏194通过dsi接口通信,实现电子设备100的显示功能。
61.gpio接口可以通过软件配置。gpio接口可以被配置为控制信号,也可被配置为数据信号。在一些实施例中,gpio接口可以用于连接处理器110与摄像头193,显示屏194,无线通信模块160,音频模块170,传感器模块180等。gpio接口还可以被配置为i2c 接口,i2s接口,uart接口,mipi接口等。
62.usb接口130是符合usb标准规范的接口,具体可以是mini usb接口,micro usb 接口,usb type c接口等。usb接口130可以用于连接充电器为电子设备100充电,也可以用于电子设备100与外围设备之间传输数据。也可以用于连接耳机,通过耳机播放音频。该接口还可以用于连接其他电子设备,例如ar设备等。
63.可以理解的是,本发明实施例示意的各模块间的接口连接关系,只是示意性说明,并不构成对电子设备100的结构限定。在本技术另一些实施例中,电子设备100也可以采用上述实施例中不同的接口连接方式,或多种接口连接方式的组合。
64.充电管理模块140用于从充电器接收充电输入。其中,充电器可以是无线充电器,也可以是有线充电器。在一些有线充电的实施例中,充电管理模块140可以通过usb接口130接收有线充电器的充电输入。在一些无线充电的实施例中,充电管理模块140可以通过电子设备100的无线充电线圈接收无线充电输入。充电管理模块140为电池142 充电的同时,还可以通过电源管理模块141为电子设备供电。
65.电源管理模块141用于连接电池142,充电管理模块140与处理器110。电源管理模块141接收电池142和/或充电管理模块140的输入,为处理器110,内部存储器121,显示屏194,摄像头193,和无线通信模块160等供电。电源管理模块141还可以用于监测电池容量,电池循环次数,电池健康状态(漏电,阻抗)等参数。在其他一些实施例中,电源管理模块141也可以设置于处理器110中。在另一些实施例中,电源管理模块141 和充电管理模块140也可以设置于同一个器件中。
66.电子设备100的无线通信功能可以通过天线1,天线2,移动通信模块150,无线通信模块160,调制解调处理器以及基带处理器等实现。
67.天线1和天线2用于发射和接收电磁波信号。电子设备100中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。例如:可以将天线1复用为无线局域网的分集天线。在另外一些实施例中,天线可以和调谐开关结合使用。
68.移动通信模块150可以提供应用在电子设备100上的包括2g/3g/4g/5g等无线通信的解决方案。移动通信模块150可以包括至少一个滤波器,开关,功率放大器,低噪声放大器
(low noise amplifier,lna)等。移动通信模块150可以由天线1接收电磁波,并对接收的电磁波进行滤波,放大等处理,传送至调制解调处理器进行解调。移动通信模块150还可以对经调制解调处理器调制后的信号放大,经天线1转为电磁波辐射出去。在一些实施例中,移动通信模块150的至少部分功能模块可以被设置于处理器110中。在一些实施例中,移动通信模块150的至少部分功能模块可以与处理器110的至少部分模块被设置在同一个器件中。
69.调制解调处理器可以包括调制器和解调器。其中,调制器用于将待发送的低频基带信号调制成中高频信号。解调器用于将接收的电磁波信号解调为低频基带信号。随后解调器将解调得到的低频基带信号传送至基带处理器处理。低频基带信号经基带处理器处理后,被传递给应用处理器。应用处理器通过音频设备(不限于扬声器170a,受话器170b 等)输出声音信号,或通过显示屏194显示图像或视频。在一些实施例中,调制解调处理器可以是独立的器件。在另一些实施例中,调制解调处理器可以独立于处理器110,与移动通信模块150或其他功能模块设置在同一个器件中。
70.无线通信模块160可以提供应用在电子设备100上的包括无线局域网(wirelesslocal area networks,wlan)(如无线保真(wireless fidelity,wi-fi)网络),蓝牙 (bluetooth,bt),全球导航卫星系统(global navigation satellite system,gnss),调频(frequency modulation,fm),近距离无线通信技术(near field communication, nfc),红外技术(infrared,ir)等无线通信的解决方案。无线通信模块160可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块160经由天线2接收电磁波,将电磁波信号调频以及滤波处理,将处理后的信号发送到处理器110。无线通信模块160 还可以从处理器110接收待发送的信号,对其进行调频,放大,经天线2转为电磁波辐射出去。
71.在一些实施例中,电子设备100的天线1和移动通信模块150耦合,天线2和无线通信模块160耦合,使得电子设备100可以通过无线通信技术与网络以及其他设备通信。所述无线通信技术可以包括全球移动通讯系统(global system for mobilecommunications,gsm),通用分组无线服务(general packet radio service,gprs),码分多址接入(code division multiple access,cdma),宽带码分多址(wideband codedivision multiple access,wcdma),时分码分多址(time-division code divisionmultiple access,td-scdma),长期演进(long term evolution,lte),bt,gnss,wlan, nfc,fm,和/或ir技术等。所述gnss可以包括全球卫星定位系统(global positioningsystem,gps),全球导航卫星系统(global navigation satellite system,glonass),北斗卫星导航系统(beidou navigation satellite system,bds),准天顶卫星系统 (quasi-zenith satellite system,qzss)和/或星基增强系统(satellite basedaugmentation systems,sbas)。
72.电子设备100通过gpu,显示屏194,以及应用处理器等实现显示功能。gpu为图像处理的微处理器,连接显示屏194和应用处理器。gpu用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个gpu,其执行程序指令以生成或改变显示信息。
73.显示屏194用于显示图像,视频等。显示屏194包括显示面板。显示面板可以采用液晶显示屏(liquidcrystal display,lcd),有机发光二极管(organic light-emittingdiode,oled),有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrixorganic light emitting diode的,amoled),柔性发光二极管(flex light-emittingdiode,fled),miniled,microled,micro-oled,量子点发光二极管(quantum dot light
emitting diodes,qled)等。在一些实施例中,电子设备100可以包括1个或n个显示屏194,n为大于1的正整数。
74.电子设备100可以通过isp,摄像头193,视频编解码器,gpu,显示屏194以及应用处理器等实现拍摄功能。
75.isp用于处理摄像头193反馈的数据。例如,拍照时,打开快门,光线通过镜头被传递到摄像头感光元件上,光信号转换为电信号,摄像头感光元件将所述电信号传递给 isp处理,转化为肉眼可见的图像。isp还可以对图像的噪点,亮度,肤色进行算法优化。isp还可以对拍摄场景的曝光,色温等参数优化。在一些实施例中,isp可以设置在摄像头193中。
76.摄像头193用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device,ccd)或互补金属氧化物半导体 (complementary metal-oxide-semiconductor,cmos)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给isp转换成数字图像信号。isp将数字图像信号输出到dsp加工处理。dsp将数字图像信号转换成标准的rgb,yuv等格式的图像信号。在一些实施例中,电子设备100可以包括1个或n个摄像头193,n为大于1的正整数。
77.数字信号处理器用于处理数字信号,除了可以处理数字图像信号,还可以处理其他数字信号。例如,当电子设备100在频点选择时,数字信号处理器用于对频点能量进行傅里叶变换等。
78.视频编解码器用于对数字视频压缩或解压缩。电子设备100可以支持一种或多种视频编解码器。这样,电子设备100可以播放或录制多种编码格式的视频,例如:动态图像专家组(moving picture experts group,mpeg)1,mpeg2,mpeg3,mpeg4等。
79.npu为神经网络(neural-network,nn)计算处理器,通过借鉴生物神经网络结构,例如借鉴人脑神经元之间传递模式,对输入信息快速处理,还可以不断的自学习。通过 npu可以实现电子设备100的智能认知等应用,例如:图像识别,人脸识别,语音识别,文本理解等。
80.外部存储器接口120可以用于连接外部存储卡,例如micro sd卡,实现扩展电子设备100的存储能力。外部存储卡通过外部存储器接口120与处理器110通信,实现数据存储功能。例如将音乐,视频等文件保存在外部存储卡中。
81.内部存储器121可以用于存储计算机可执行程序代码,所述可执行程序代码包括指令。内部存储器121可以包括存储程序区和存储数据区。其中,存储程序区可存储操作系统,至少一个功能所需的应用程序(比如声音播放功能,图像播放功能等)等。存储数据区可存储电子设备100使用过程中所创建的数据(比如音频数据,电话本等)等。此外,内部存储器121可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universal flash storage,ufs)等。处理器110通过运行存储在内部存储器121的指令,和/或存储在设置于处理器中的存储器的指令,执行电子设备100的各种功能应用以及数据处理。
82.电子设备100可以通过音频模块170,扬声器170a,受话器170b,麦克风170c,耳机接口170d,以及应用处理器等实现音频功能。例如音乐播放,录音等。
83.音频模块170用于将数字音频信息转换成模拟音频信号输出,也用于将模拟音频输入转换为数字音频信号。音频模块170还可以用于对音频信号编码和解码。在一些实施例
中,音频模块170可以设置于处理器110中,或将音频模块170的部分功能模块设置于处理器110中。
84.扬声器170a,也称“喇叭”,用于将音频电信号转换为声音信号。电子设备100可以通过扬声器170a收听音乐,或收听免提通话。
85.受话器170b,也称“听筒”,用于将音频电信号转换成声音信号。当电子设备100 接听电话或语音信息时,可以通过将受话器170b靠近人耳接听语音。
86.麦克风170c,也称“话筒”,“传声器”,用于将声音信号转换为电信号。当拨打电话或发送语音信息时,用户可以通过人嘴靠近麦克风170c发声,将声音信号输入到麦克风170c。电子设备100可以设置至少一个麦克风170c。在另一些实施例中,电子设备 100可以设置两个麦克风170c,除了采集声音信号,还可以实现降噪功能。在另一些实施例中,电子设备100还可以设置三个,四个或更多麦克风170c,实现采集声音信号,降噪,还可以识别声音来源,实现定向录音功能等。
87.耳机接口170d用于连接有线耳机。耳机接口170d可以是usb接口130,也可以是 3.5mm的开放移动电子设备平台(open mobile terminal platform,omtp)标准接口,美国蜂窝电信工业协会(cellular telecommunications industry association of the usa, ctia)标准接口。
88.压力传感器180a用于感受压力信号,可以将压力信号转换成电信号。在一些实施例中,压力传感器180a可以设置于显示屏194。压力传感器180a的种类很多,如电阻式压力传感器,电感式压力传感器,电容式压力传感器等。电容式压力传感器可以是包括至少两个具有导电材料的平行板。当有力作用于压力传感器180a,电极之间的电容改变。电子设备100根据电容的变化确定压力的强度。当有触摸操作作用于显示屏194,电子设备100根据压力传感器180a检测所述触摸操作强度。电子设备100也可以根据压力传感器180a的检测信号计算触摸的位置。在一些实施例中,作用于相同触摸位置,但不同触摸操作强度的触摸操作,可以对应不同的操作指令。例如:当有触摸操作强度小于第一压力阈值的触摸操作作用于短消息应用图标时,执行查看短消息的指令。当有触摸操作强度大于或等于第一压力阈值的触摸操作作用于短消息应用图标时,执行新建短消息的指令。
89.陀螺仪传感器180b可以用于确定电子设备100的运动姿态。在一些实施例中,可以通过陀螺仪传感器180b确定电子设备100围绕三个轴(即,x,y和z轴)的角速度。陀螺仪传感器180b可以用于拍摄防抖。示例性的,当按下快门,陀螺仪传感器180b检测电子设备100抖动的角度,根据角度计算出镜头模组需要补偿的距离,让镜头通过反向运动抵消电子设备100的抖动,实现防抖。陀螺仪传感器180b还可以用于导航,体感游戏场景。
90.气压传感器180c用于测量气压。在一些实施例中,电子设备100通过气压传感器 180c测得的气压值计算海拔高度,辅助定位和导航。
91.磁传感器180d包括霍尔传感器。电子设备100可以利用磁传感器180d检测翻盖皮套的开合。在一些实施例中,当电子设备100是翻盖机时,电子设备100可以根据磁传感器180d检测翻盖的开合。进而根据检测到的皮套的开合状态或翻盖的开合状态,设置翻盖自动解锁等特性。
92.加速度传感器180e可检测电子设备100在各个方向上(一般为三轴)加速度的大小。当电子设备100静止时可检测出重力的大小及方向。还可以用于识别电子设备姿态,应
用于横竖屏切换,计步器等应用。
93.距离传感器180f,用于测量距离。电子设备100可以通过红外或激光测量距离。在一些实施例中,拍摄场景,电子设备100可以利用距离传感器180f测距以实现快速对焦。
94.接近光传感器180g可以包括例如发光二极管(led)和光检测器,例如光电二极管。发光二极管可以是红外发光二极管。电子设备100通过发光二极管向外发射红外光。电子设备100使用光电二极管检测来自附近物体的红外反射光。当检测到充分的反射光时,可以确定电子设备100附近有物体。当检测到不充分的反射光时,电子设备100可以确定电子设备100附近没有物体。电子设备100可以利用接近光传感器180g检测用户手持电子设备100贴近耳朵通话,以便自动熄灭屏幕达到省电的目的。接近光传感器180g也可用于皮套模式,口袋模式自动解锁与锁屏。
95.环境光传感器180l用于感知环境光亮度。电子设备100可以根据感知的环境光亮度自适应调节显示屏194亮度。环境光传感器180l也可用于拍照时自动调节白平衡。环境光传感器180l还可以与接近光传感器180g配合,检测电子设备100是否在口袋里,以防误触。
96.指纹传感器180h用于采集指纹。电子设备100可以利用采集的指纹特性实现指纹解锁,访问应用锁,指纹拍照,指纹接听来电等。
97.温度传感器180j用于检测温度。在一些实施例中,电子设备100利用温度传感器 180j检测的温度,执行温度处理策略。例如,当温度传感器180j上报的温度超过阈值,电子设备100执行降低位于温度传感器180j附近的处理器的性能,以便降低功耗实施热保护。在另一些实施例中,当温度低于另一阈值时,电子设备100对电池142加热,以避免低温导致电子设备100异常关机。在其他一些实施例中,当温度低于又一阈值时,电子设备100对电池142的输出电压执行升压,以避免低温导致的异常关机。
98.触摸传感器180k,也称“触控器件”。触摸传感器180k可以设置于显示屏194,由触摸传感器180k与显示屏194组成触摸屏,也称“触控屏”。触摸传感器180k用于检测作用于其上或附近的触摸操作。触摸传感器可以将检测到的触摸操作传递给应用处理器,以确定触摸事件类型。可以通过显示屏194提供与触摸操作相关的视觉输出。在另一些实施例中,触摸传感器180k也可以设置于电子设备100的表面,与显示屏194所处的位置不同。
99.骨传导传感器180m可以获取振动信号。在一些实施例中,骨传导传感器180m可以获取人体声部振动骨块的振动信号。骨传导传感器180m也可以接触人体脉搏,接收血压跳动信号。在一些实施例中,骨传导传感器180m也可以设置于耳机中,结合成骨传导耳机。音频模块170可以基于所述骨传导传感器180m获取的声部振动骨块的振动信号,解析出语音信号,实现语音功能。应用处理器可以基于所述骨传导传感器180m获取的血压跳动信号解析心率信息,实现心率检测功能。
100.按键190包括开机键,音量键等。按键190可以是机械按键。也可以是触摸式按键。电子设备100可以接收按键输入,产生与电子设备100的用户设置以及功能控制有关的键信号输入。
101.马达191可以产生振动提示。马达191可以用于来电振动提示,也可以用于触摸振动反馈。例如,作用于不同应用(例如拍照,音频播放等)的触摸操作,可以对应不同的振动反馈效果。作用于显示屏194不同区域的触摸操作,马达191也可对应不同的振动反馈效果。不同的应用场景(例如:时间提醒,接收信息,闹钟,游戏等)也可以对应不同的振动反馈效
果。触摸振动反馈效果还可以支持自定义。
102.指示器192可以是指示灯,可以用于指示充电状态,电量变化,也可以用于指示消息,未接来电,通知等。
103.sim卡接口195用于连接sim卡。sim卡可以通过插入sim卡接口195,或从sim卡接口195拔出,实现和电子设备100的接触和分离。电子设备100可以支持1个或n个 sim卡接口,n为大于1的正整数。sim卡接口195可以支持nano sim卡,micro sim卡, sim卡等。同一个sim卡接口195可以同时插入多张卡。所述多张卡的类型可以相同,也可以不同。sim卡接口195也可以兼容不同类型的sim卡。sim卡接口195也可以兼容外部存储卡。电子设备100通过sim卡和网络交互,实现通话以及数据通信等功能。在一些实施例中,电子设备100采用esim,即:嵌入式sim卡。esim卡可以嵌在电子设备 100中,不能和电子设备100分离。
104.在介绍完电子设备100的硬件架构之后,下面示例性地对电子设备100的软件架构进行介绍。
105.电子设备100的软件系统可以采用分层架构,事件驱动架构,微核架构,微服务架构,或云架构。本技术实施例以分层架构的android系统为例,示例性说明电子设备100 的软件结构。
106.图2为本技术实施例的电子设备100的软件结构框图。
107.分层架构将软件分成若干个层,每一层都有清晰的角色和分工。层与层之间通过软件接口通信。在一些实施例中,将android系统分为四层,从上至下分别为应用程序层,应用程序框架层,安卓运行时(android runtime)和系统库,以及内核层。
108.应用程序层可以包括一系列应用程序包。
109.如图2所示,应用程序包可以包括相机,图库,日历,通话,地图,导航,wlan,蓝牙,音乐,视频,短信息等应用程序。
110.应用程序框架层为应用程序层的应用程序提供应用编程接口(applicationprogramming interface,api)和编程框架。应用程序框架层包括一些预先定义的函数。
111.如图2所示,应用程序框架层可以包括窗口管理器,内容提供器,视图系统,电话管理器,资源管理器,通知管理器等。
112.窗口管理器用于管理窗口程序。窗口管理器可以获取显示屏大小,判断是否有状态栏,锁定屏幕,截取屏幕等。内容提供器用来存放和获取数据,并使这些数据可以被应用程序访问。这些数据可以包括视频,图像,音频等。
113.视图系统包括可视控件,例如显示文字的控件,显示图片的控件等。视图系统可用于构建应用程序。显示界面可以由一个或多个视图组成的。例如,包括短信通知图标的显示界面,可以包括显示文字的视图以及显示图片的视图。
114.电话管理器用于提供电子设备100的通信功能。例如通话状态的管理(包括接通,挂断等)。资源管理器为应用程序提供各种资源,比如本地化字符串,图标,图片,布局文件,视频文件等等。通知管理器使应用程序可以在状态栏中显示通知信息,可以用于传达告知类型的消息,可以短暂停留后自动消失,无需用户交互。比如通知管理器被用于告知下载完成,消息提醒等。通知管理器还可以是以图表或者滚动条文本形式出现在系统顶部状态栏的通知,例如后台运行的应用程序的通知,还可以是以对话窗口形式出现在屏幕上的通知。例如在状态栏提示文本信息,发出提示音,电子设备振动,指示灯闪烁等。
115.android runtime(安卓进行时)包括核心库和虚拟机。android runtime负责安卓系统的调度和管理。
116.核心库包含两部分:一部分是java语言需要调用的功能函数,另一部分是安卓的核心库。
117.应用程序层和应用程序框架层运行在虚拟机中。虚拟机将应用程序层和应用程序框架层的java文件执行为二进制文件。虚拟机用于执行对象生命周期的管理,堆栈管理,线程管理,安全和异常的管理,以及垃圾回收等功能。
118.系统库可以包括多个功能模块。例如:表面管理器(surface manager),媒体库(media libraries),三维图形处理库(例如:opengl es),2d图形引擎(例如:sgl)等。
119.表面管理器用于对显示子系统进行管理,并且为多个应用程序提供了2d和3d图层的融合。
120.媒体库支持多种常用的音频,视频格式回放和录制,以及静态图像文件等。媒体库可以支持多种音视频编码格式,例如,mpeg4,h.264,mp3,aac,amr,jpg,png等。
121.三维图形处理库用于实现三维图形绘图,图像渲染,合成,和图层处理等。2d图形引擎是2d绘图的绘图引擎。内核层是硬件和软件之间的层。内核层至少包含显示驱动,摄像头驱动,音频驱动,传感器驱动。
122.下面结合拍照场景,示例性说明电子设备100软件以及硬件的工作流程。
123.拍照场景下,用户的手指或手写笔与电子设备100的显示屏105接触,设置于显示屏105的触摸传感器107接收触摸操作,相应的硬件中断被发给内核层。内核层将触摸操作加工成上层能够读取的触摸事件(例如,action down事件、action move事件和 action up事件等)。其中,action down事件表示手指或手写笔与触摸屏初次接触,例如,用户使用手写笔在触摸屏上的某个区域落笔;action move事件表示手指或手写笔在触摸屏上滑动,例如,在落笔后,手写笔在触摸屏上滑动;action up事件表示手指或手写笔与触摸屏分离,例如,在手写笔落笔并滑动一段距离后,用户抬起手写笔,使得手写笔与触摸屏分离。
124.触摸事件被存储在内核层。应用程序框架层从内核层获取触摸事件,识别该高级触摸事件所对应的控件以及该触摸事件对应的触摸操作,例如,触摸操作包括单击、双击和滑动等。以该触摸操作是触摸单击操作,该单击操作所对应的控件为视频应用的拍照控件为例,视频应用调用应用框架层的接口,进而通过调用对应的回调函数,实现与该次触摸操作对应的应用功能。
125.(2)拍照场景。在示例性介绍完本技术实施例提供的电子设备100的硬件架构和软件架构之后,下面对本技术实施例涉及的投屏场景进行示例性介绍。
126.如图3所示为一种拍照场景示意图。该拍照场景可以包括室内场景、夜景等环境亮度较低的场所。电子设备(如图3中的手机)为了提高所拍摄的照片的清晰度,通常会通过补光来提高场景的亮度。处于亮度较低场景中的电子设备,用户打开相机应用程序后,进入拍照界面。在所述拍照界面中,包括预览区域和按键区域。其中,预览区域用于显示电子设备当前的拍摄角度下的预览图像。在该预览区域的右部,包括有缩放按键,即预览区域右侧的圆按钮。当所述圆按钮接收到上下拖动的指令时,可相应的调整拍摄的图像的放大或缩小的倍数。在预览区域下方包括第一按键区域,在该按键区域包括拍照模式选择按键、拍摄按键、相册按键、镜头切换按键。通过模式按键可以进入相应的拍摄模式。在预览区域的上方
包括有拍摄参数按键和功能选择按键。比如,拍摄参数按键可以包括闪光模式按键、参数设置按键等。功能选择按键可以包括如智能拍照按键、颜色样式按键、拍照购物按键等。如图3左图所示,当用户选择自动闪光模式时,电子设备会根据当前场景的亮度,确定是否需要开启闪光灯。
127.在自动闪光模式下,确定是否需要开启闪光灯时,可以将获取的环境亮度与预先设定的亮度阈值进行比较。如果当前的环境亮度大于或等于预先设定的亮度阈值,如图3 右侧的下图所示,则在拍照时,不会触发闪光灯工作。如果当前的环境亮度小于预先设定的亮度阈值,如图3右侧的上图所示,则在拍照时,触发闪光灯工作。在确定拍照时会触发闪光灯在工作时,如果电子设备接收到用户的拍照指令,则会控制闪光灯发出强闪光线,电子设备在该强闪光线发出时,可以采集到通过强闪光线提升了环境亮度的图像。
128.图4给出了目前基于强闪状态和预闪状态的图像来提升图像清晰度的一种实现过程。如图4所示,电子设备处于亮度较低的场景中,并且电子设备的闪光灯工作模式为自动闪光模式。电子设备将采集的环境亮度与预设的亮度阈值进行比较,确定所采集的环境的亮度小于预设的亮度阈值,在拍照时可以触发闪光。
129.在进行拍照时,可以将图像采集过程分为预闪状态和强闪状态。其中,预闪状态为电子设备接收到拍照指令后,在闪光灯发出闪光之前的时间段。强闪状态为闪光灯发出闪光的时间段。在预闪状态下,电子设备可以采集一张或多张图像。在强闪状态下,电子设备可采集一张或多张图像。如果电子设备在预闪状态或强闪状态下采集多张图像时,可以将预闪状态下的多张图像融合为一张图像,或者将强闪状态下的多张图像融合为一张图像。由于预闪状态下,电子设备并没有提高场景的亮度,所采集的图像的亮度较低。在强闪状态下,电子设备通过闪光灯提升了场景亮度,所采集的图像的亮度比预闪状态下采集的图像的亮度更高。由于不同亮度的图像,所反映的细节信息也不同,比如低亮度图像能够更清楚的显示较高亮度的对象,较高亮度的图像,能够更清晰的显示较低亮度的对象。如图4中的第三行图像所示,将预闪状态生成的图像与强闪状态生成的图像融合,可以得到清晰度更高的图像。
130.虽然通过强闪状态和预闪状态采集和融合的方式,可以有效的提升图像质量。但是,在强闪状态和预闪状态采集图像时,由于场景中的亮度会有较大的差异,会使得在这两种状态下所采集的图像的亮度和清晰度的差异较大,不利于对图像中的对象,包括人物或物体等对象进行准确的分割。并且在预闪状态采集图像的时间点,与在强闪状态采集图像的时间点之间存在较大的时间间隙,在此间隙内可能会产生画面抖动,会影响图像自动对焦、自动白平衡和自动曝光的稳定性,不利于准确高效的对图像进行配准和融合操作,从而会影响图像的拍摄质量。
131.基于此,本技术实施例提出了一种拍照方法。该拍照方法对闪光灯的控制方式进行了调整,在拍照期间,将闪光灯的预闪状态和强闪状态调整为常亮状态,从而使得电子设备可以采集到场景亮度一致的图像,有利于对场景中的人物或物体进行分割。通过调整所采集的图像的曝光值,基于标准曝光值(即第一曝光值)采集第一图像、基于第二曝光值采集第二图像和基于第三曝光值采集第三图像,并且第一曝光值大于第二曝光值,第二曝光值大于第三曝光值。由于通过调整曝光值进行图像采集的时间间隙,相对于预闪状态和强闪状态进行图像采集的时间间隙更短,因而能够更为有效的减少图像抖动,提高自动对焦、
自动白平衡和自动曝光的稳定性,有利于对图像进行配准和融合操作,提高图像拍照质量。
132.图5为本技术实施例提供的一种拍照方法的实现流程示意图,详述如下:
133.在s501中,电子设备触发拍照指令,控制闪光灯处于常亮状态。
134.本技术实施例中的电子设备,包括智能手机、平板电脑、笔记本电脑或者其它具有摄像头的电子设备。
135.电子设备所触发的拍照指令,可以为按键指令、触摸指令、声控指令或画面内容触发的指令。其中,按键指令可以包括电子设备中的相机应用程序处于运行状态时,根据预先设定的拍照功能键触发的指令。比如,在相机应用程序运行状态下,用户点击音量增加键或音量减少键,触发相机应用程序的拍照指令。或者,按键指令也可以为电子设备与其它拍摄辅助设备相连时,由拍摄辅助设备的拍照按键所发出的指令,比如辅助设备包括如自拍杆,可以通过有线或无线连接的方式,将自拍杆的按键指令传送至电子设备,使得电子设备触发拍照指令。或者,按键指令也可以在相机应用程序未运行状态下,通过快捷按键快速的启动相机并触发拍照指令,以用于快速抓拍场景的拍照需求。
136.触摸指令可以为电子设备的触摸屏中拍照按键被触发时所生成的指令。比如图3左图所示的电子设备的拍照界面中,位于预览区域下方包括三个触摸按钮,当接到用户的位于该按键范围内的触摸指令时,则触发拍照指令。
137.声控指令可以为电子设备的相机应用程序运行过程中,通过语音检测系统检测用户的语音内容。如果所检测的语音内容中包括预先设定的拍照指令关键词,则触发拍照指令。或者,也可以通过语音检测系统实时检测用户的语音内容。如果所检测的内容与预先设定的拍照指令关键词匹配,则启动相机应用程序,并触发拍照指令。
138.根据画面内容触发拍照指令时,可以根据需要选择需要触发拍照指令的特征内容。比如,可以设定预览画面中包括笑脸特征时,则自动触发拍照指令。不局限于此,还可以包括其它特征内容,包括如特定人脸、车辆等。
139.电子设备在触发拍照指令后,则控制闪光灯处于常亮状态。
140.其中,闪光灯处于常亮状态,是指闪光灯在图像采集过程中处于常亮状态。当图像采集完成时,则可以关闭闪光灯。处于常亮状态的闪光灯的亮度,可以为固定亮度,也可以根据环境的亮度,确定常亮状态的亮度。
141.图6为本技术实施例提供的一种电子设备触发拍照指令,控制闪光灯处于常亮状态的实现流程示意图。如图6所示,电子设备触发拍照指令,控制闪光灯处于常亮状态的实现流程包括:
142.在s601中,电子设备根据预先设定的闪光模式,确定拍照需要闪光灯工作。
143.其中,预先设定的闪光模式,可以为自动闪光模式,或者闪光模式。
144.其中,闪光模式为自动闪光模式,电子设备在每次拍照时,会通过下层硬件采集环境中的亮度,即电子设备的拍摄场景中的亮度,并将采集的亮度与预设的亮度阈值进行比较。如果采集的亮度低于预设的亮度阈值,则将比较结果报上给上层。上层根据上报结论,确定在拍摄时触发闪光灯工作。如果采集的亮度低于预设的亮度阈值,则在拍摄时不触发闪光灯工作。
145.当闪光模式为闪光模式时,电子设备在每次拍照时,不需要将环境亮度与预先设定的亮度阈值比较,上层决定在拍摄时始终触发闪光灯工作。
146.在s602中,电子设备触发拍照指令。
147.电子设备触发拍照指令时,电子设备的相机应用程序可以处于运行状态,也可以处于非运行状态。如果电子设备中的相机应用程序处于非运行状态,则可以通过该拍照指令,启动相机应用程序。
148.该拍照指令可以根据预先设定的按键操作、触摸操作、声音或画面内容触发的指令。
149.在s603中,电子设备根据环境亮度确定闪光灯的工作电流。
150.其中,s603、s602和s601可以不必严格按照序号的先后顺序执行。比如,可以先触发拍照指令,然后确定拍照需要闪光灯工作,以及确定闪光灯的工作电流,或者,先确定拍照需要闪光灯工作以及闪光灯的工作电流,然现再触发拍照指令。
151.电子设备根据环境亮度确定闪光灯的工作电流时,可以预先设定亮度与工作电流的对应关系。当检测到环境亮度时,根据预先设定的对应关系,查找到环境亮度对应的工作电流。
152.和固定的工作电流的方式相比,通过环境亮度所确定的工作电流,可以适应不同亮度的亮度调整需求,并且使得调整后的环境亮度处于较为稳定的范围。而固定的工作电流驱动闪光灯进行补光时,则会在环境亮度的基础上,增加固定的亮度,使得调整后的亮度可能存在较大偏差。
153.在s604中,根据所述工作电流点亮所述闪光灯,并保持预定时长的常亮状态。
154.当环境的亮度较低时,所确定的工作电流较大,当环境的亮度较高时,所确定的工作电流较低。比如,图7所示的不同环境亮度下的闪光灯亮度示意图中,左图中的环境亮度相对于中图和右图的亮度较高,所确定的工作电流较小,由该工作电流所驱动的闪光灯的亮度较低。右图中的环境亮度相对于中图和左图的亮度较低,所确定的工作电流较大,由该工作电流所驱动的闪光灯的亮度较高。
155.当闪光灯根据所确定的工作电流点亮后,闪光灯在预定时长内,保持该工作电流对应的亮度不变,即闪光灯维持常亮状态。在该常亮状态下,即可进入s502,对场景中的图像进行采集,得到场景亮度一致的多个图像。
156.如果图像采集完成后,电子设备的上层向电子设备的底层发送闪光灯的常亮状态的关闭指令,使底层根据该关闭指令,关闭闪光灯,并反馈关闭的响应信息。如果上层接收到底层所反馈的关闭指令的响应信息,比如可以为寄存器的状态位信息,确定当前已关闭闪光灯,则可将相机应用程序的拍照功能,由不可用状态更新为可用状态。其中,拍照功能不可用状态,为电子设备触发拍照指令至电子设备上层接收到闪光灯关闭指令的响应的时段。
157.或者,当电子设备的上层在预定时长(可以设定为300毫秒至5秒内的任意值)内,未能接收到电子设备的底层的响应指令时,则可通过hal(抽象硬件层)关闭所述闪光灯,使闪光灯退出常亮状态。通过hal关闭闪光灯时,相机应用程序的拍照功能,由不可用状态更新为可用状态。在这种情况下,相机应用程序的拍照功能的不可用状态,为电子设备触发拍照指令至电子设备的hal关闭闪光灯的时间段。
158.当电子设备处于拍照功能不可用状态时,触发指令无响应,或者可以生成无响应的提示信息。包括如提示窗口等。
159.在s502中,电子设备在所述常亮状态下采集图像,所采集的图像包括在第一曝光值下采集的第一图像、第二曝光值下采集的第二图像,以及在第三曝光值下采集的第三图像。
160.其中,本技术实施例中的曝光值包括第一曝光值、第二曝光值和第三曝光值。曝光值是一个以2为底的对数刻度系统。其计算公式可以表示为:其中,n表示光圈(f值),ev表示曝光值,t表示曝光时间(单位为秒)。由于曝光值与曝光时间和光圈计算得到,因此,对于同一曝光值,可以选择不同的光圈和曝光时间的组合计算得到。
161.其中,第一曝光值,为当前场景的标准曝光值。所述标准曝光值,是为使得图像正常曝光所设定的曝光值。因此,对于不同亮度的环境,所设定的标准曝光值也不相同。在本技术实施例中,通过调整不同的工作电流,使得环境中的亮度保持在一定范围。因此,通过工作电流点亮闪光灯,使得场景的亮度保持一致时,本技术实施例中的标准曝光值可以为相同的曝光值。
162.在可能的实现方式中,可以预先建立标准曝光值与环境亮度或环境照度的对应关系表,或者所拍摄的图像所在区域的亮度与标准曝光值的对应关系表。根据电子设备所检测到的环境亮度、环境照度,或所拍摄的图像所在区域的亮度,确定所述标准曝光值。
163.在确定了标准曝光值,即第一曝光值的基础上,本技术还设置有第二曝光值和第三曝光值。其中,第二曝光值大于第一曝光值,第三曝光值大于第二曝光值。根据曝光值的定义可知,曝光值越大,图像的亮度越小。如图8所示的图像采集及合成示意图,通过第二曝光值所采集的第二图像82的亮度,小于第一曝光值所采集的第一图像81的亮度。通过第三曝光值所采集的第三图像83的亮度,小于第二曝光值所采集的第二图像 82的亮度。
164.在本技术实施例中,第一曝光值可以表示为ev0,第二曝光值可以选择ev1至ev4 范围内的任意值,第三曝光值可以选择ev4至ev8的任意值,且第二曝光值小于第三曝光补偿值。比如,第一曝光值为ev0,第二曝光值为ev3。根据曝光值的定义,第二曝光值的曝光参数值是第一曝光值的曝光参数值的23倍,即第一曝光值的曝光量为第二曝光值的曝光量的8倍。当第二曝光值为ev0,第三曝光值为ev6时。根据曝光值的定义,第三曝光值的曝光参数值是第一曝光值的曝光参数的26倍。即第一曝光值的曝光量为第三曝光值的曝光量的64倍。其中,n1、n2、n3分别表示第一曝光值的光圈大小、第二曝光值的光圈大小和第三曝光值的光圈大小,t1、t2、t3分别表示第一曝光值的曝光时间、第二曝光值的曝光时间和第三曝光值的曝光时间。
165.由于电子设备在所采集的第一图像、第二图像和第三图像时,控制闪光灯保持固定亮度的常亮状态。电子设备在图像采集过程中,环境亮度信息基本一致。因此,在采集环境亮度信息一致的第一图像、第二图像和第三图像时,可以采用较为稳定的相机参数,包括自动曝光参数、自动白平衡参数和自动对焦参数进行图像采集,不需要频繁变动图像采集参数,使得图像采集的可靠性更高。
166.并且,通过控制闪光灯处于恒定的常亮状态,并结合软件层面上的曝光值的调整,
得到不同曝光值的第一图像、第二图像和第三图像。相对于驱动电流的调整,通过软件层面上的曝光值调整更加方便,实现更为容易,可以减少由驱动电流调整所带来的拍照稳定性问题。
167.本技术实施例通过固定出帧的方式,即固定生成第一图像、第二图像和第三图像,根据所出帧图像生成hdr图像。而现有的hdr图像生成方法,需要通过环境亮度信息判断出帧的亮度,决策计算较为麻烦,因此,本技术通过固定出帧方式,可以有效的提高决策效率,可以更高效的完成拍照流程。
168.本技术实施例中的第一图像为正常曝光的图像,因此,第一图像中包括更多的图像细节信息。为了提升所拍摄的照片质量,可以使第一图像中包括多个图像。通过将第一图像中包括的多个图像进行去噪和图像画质优化处理,从而便于得到更为清晰的融合图像。
169.在s503中,电子设备根据所述第一图像、所述第二图像和所述第三图像生成需要输出的图像。
170.如图8所示,本技术实施例通过一曝光值,可以采集得到第一图像81。由于第一曝光值为标准曝光值,第一图像81中的大部分物品或人像的清晰度比第二图像82和第三图像83的清晰高。如图9所示的第一曝光值的第一图像,通过第一曝光值所采集的第一图像中,人像信息较为清晰,但是位于人像上方的纯色区域由于过曝导致图像较为模糊。
171.在可能的实现方式中,第一图像可以包括多个,比如可以包括5-8帧图像。通过第一曝光值采集多个图像,可以采用去噪处理,融合为清晰度更高的标准曝光图像。
172.通过第二曝光值采集第二图像82。由于第二曝光值大于第一曝光值,如图10所示的第二曝光值的第二图像中,人像的清晰度有所下降,但是人像上方的纯色区域的清晰度有所提高。
173.第三曝光值的曝光量远小于第一曝光值的曝光量,因此,第三曝光值下所采集的第三图像83中,如图11所示的基于第三曝光值所采集的第三图像中,纯色区域可采集较为清晰的图像,但是,人像内容则非常模糊。
174.由于第一图像中的清晰区域,在第三图像中非常模糊,而第三图像中的清晰区域在第一图像中非常模糊。因此,第一图像与第三图像无法准确的完成图像配准。第二图像中的人像区域相对于第三图像的人像区域更为清晰,第二图像中的纯色区域相对于第一图像更为清晰。因此,可以根据人像区域,将第一图像与第二图像配准,根据纯色区域,将第二图像与第三图像配准。根据第一图像与第二图像的配准结果,以及第二图像与第三图像的配准结果,即可得到第一图像与第三图像的配准结果。根据配准后的第一图像、第三图像可生成清晰度更佳的需要输出的图像84。
175.在本技术实施例中,人像区域和纯色区域仅为举例说明,用于图像配准的区域不限于人像区域和纯色区域。在可能的实现方式中,人像区域可以为其它正常曝光的图像区域。纯色区域可以替换为第一图像中高亮度的区域,比如可以替换为光源区域等。
176.另外,在本技术实施例中,基于第一图像、第二图像和第三图像,可以合成清晰度更高的hdr图像。与目前的hdr图像合成方式相比,可以减少对合成hdr图像所需要的照片的决策计算。比如,目前在合成hdr图像时,先根据场景亮度信息确定是否需要采集过曝图像和欠曝图像。根据计算结果再确定所需要采集的图像。而本技术则可以直接采集所需要的第一图像、第二图像和第三图像,能够获取清晰的hdr图像的同时,能够有效的减少决策计
算,提高图像生成效率。
177.图13为本技术实施例提供的一种采集图像并在raw域处理流程示意图。如图13所示,该拍摄流程包括:
178.1301,触发闪光灯常亮模式。
179.可以根据预先设定的触发指令,使相机应用程序响应拍照功能或视频拍摄功能,在拍照功能或视频拍摄功能的实现过程中,使闪光灯保持常亮状态。
180.由于本技术实施例中的拍照方法,主要可用于夜景图像拍摄、室内图像拍摄或其它低亮度场景。因此,可以在用户选择夜景拍摄模式时,或者电子设备检测到当前场景的亮度较低,电子设备自动切换为夜景模式时,触发闪光灯常亮模式。
181.在该常亮模式下,电子设备根据环境的亮度,确定闪光灯的工作电流,使得工作电流与场景的亮度关联。当场景的亮度较高,则工作电流较小,如果场景的亮度较低,则工作电流较大。通过采用与环境或场景亮度匹配的工作电流,使得闪光灯常亮状态下的环境亮度保持稳定。
182.1302,采集多帧不同ev的raw图像。
183.在闪光灯处于常亮状态时,环境的亮度保持稳定。在环境亮度保持稳定状态下进行图像采集,可以使得采集图像的参数,包括如自动曝光参数、自动白平衡参数和自动对焦参数更为稳定,从而能够得到画质更优的图像。
184.并且,基于相同驱动电流下,调整曝光值来得到不同曝光度的图像。只需要在软件层面上修改曝光参数,避免对驱动电流进行调整,可提高操作便利性,减少由于电流调整所带来的稳定性问题。
185.通过固定出帧的方式,即固定生成第一图像、第二图像和第三图像,根据所出帧图像生成hdr图像。而现有的hdr图像生成方法,需要通过环境亮度信息判断出帧的亮度,决策计算较为麻烦,因此,本技术通过固定出帧方式,可以有效的提高决策效率,可以更高效的完成拍照流程。
186.1303,图像配准。
187.本技术实施例所采集的第一图像、第二图像和第三图像中,第一图像为正常曝光的图像,因此,第一图像的细节内容更多。可以采集两帧或两帧以上的图像作为第一图像,通过去噪和融合处理,从而便于得到更为清晰的照片。
188.第一图像中保留较多的细节内容的同时,场景中的高亮区域在第一图像中较为模糊。
189.第三图像为曝光值最高的图像,即第三图像的曝光量最低。在第三图像中,场景中的高亮区域可以较为清晰的显示,但场景中的低亮度区域则较为模糊。
190.相对于第一图像,场景中的过曝区域在第二图像中较为清晰。相对于第三图像,场景中的低亮度区域在第二图像中较为清晰。因此,可以将第一图像与第三图像配准,将第二图像与第三图像配准。根据第一图像与第二图像的配准结果,以及第二图像与第三图像的配准结果,实现第一图像与第三图像的配准。从而使得场景中的低亮度区域的清晰图像与场景中的高亮度区域的清晰图像能够有效的配合。
191.1304,镜头阴影校正/黑电平校正。
192.其中,镜头阴影校正(英文全称为lens shading correction,英文简称为lsc)是
为了解决镜头对光学折射不均匀导致的镜头周围出现阴影的情况所做的校正。镜头阴影校正方法可以包括同心圆法和网格法等。
193.黑电平即黑色数据的最低电平值,通常指感光图像数据为0时所对应的传感器信号的电平值。目前的黑电平校正(英文全称为black level correction,英文简称为blc) 方案包括减去固定数值的方式进行黑电平校正,以及利用黑电平随温度和增益的漂移曲线进行黑电平校正。
194.1305,网络模型处理。
195.在本技术实施例中,所述网络模型可以卷积神经网络模型,或者也可以为u-net网络模型等。在使用网络模型进行优化前,可以预先将用于训练的图像输入到网络模型,判断网络模型输出的图像与输入图像的清晰度、信噪比和锐度等参数的变化。通过不断调整模型中的参数,使得输出图像相对于输入图像的清晰度更高、信噪比更高,锐度更高。完成网络模型的参数优化的训练后,可以通过训练后的网络模型,对第一图像、第二图像和第三图像进行优化处理,从而得到清晰度更高、信噪比更高、锐度更佳的输出图像。
196.1306,自动白平衡。
197.为了能够将不同光照下物体颜色调整为人眼认同的颜色,需要对图像进行白平衡处理。自动抓拍平衡方法通常包括灰色世界法、白块法、光源参数投票法和色阶纠正法等。
198.1307,图像融合。
199.将所采集的第一图像、第二图像和第三图像经过去噪等优化处理后,在raw域直接将优化的图像进行融合处理,得到融合后的图像。由于raw中保留了图像的大量细节,与yuv进行优化和融合的图像相比,在raw域进行优化和融合的图像的细节内容更为丰富,便于得到更高画质的图像。
200.1308,非线性叠加&鬼影矫正。
201.在本技术实施例中,还可以对融合后的图像进行非线性叠加处理。可以指将图像中包括hdr图像,通过非线性映射和叠加的方式,生成ldr图像,使得ldr屏幕能够有效的显示所生成的图像。
202.由于画面配准问题,或者图像中出现物体移动时,融合后的图像可能会存在鬼形。鬼影即为图像中存在的同一物体的重影,或者也可称为伪影。可以通过鬼影检测,确定融合后的图像中包括的鬼影区域,并通过可以选择融合前的其中一张图像的相应区域替换融合图像的鬼影区域,对鬼影图像进行矫正。不局限于此,还可以通过提高配准精度等方式,实现鬼影矫正处理。
203.1309,raw图像输出。
204.通过上述处理后,与yuv域的图像优化融合方式相比,本技术的图像处理过程可以在细节内容较为丰富的raw域实现图像优化和融合处理,得到细节内容更为清晰丰富的 raw输出图像。
205.图14为本技术实施例提供的一种夜景图像的图像信号处理示意图,如图14所示,该流程包括:
206.1401,传感器采集多帧raw图像。
207.其中,传感器采集多帧raw图像时,可以基于图5中的s502,在闪光灯处于常亮状态下,采集多帧图像,包括第一图像、第二图像和第三图像。其中,可以基于软件层面的参数控
制,使得第一图像、第二图像和第三图像的曝光值不同。并且,第一图像的曝光值为标准曝光值,第一图像的标准曝光图像。采集第二图像的第二曝光值大于采集第一图像的第一曝光值,采集第三图像的第三曝光值大于采集第二图像的第二曝光值。
208.1402,坏点及pd点去除。
209.受限于cmos工艺以及低廉的成本,传感器出厂时一般都是存在坏点(举例某款sensor是200个左右且坏点不相邻),这些坏点需要在isp处理中去除。
210.坏点去除方法可以包括均值法、联动方法或调试方法等。
211.1403,镜头阴影校正。
212.其中,镜头阴影校正(英文全称为lens shading correction,英文简称为lsc)是为了解决镜头对光学折射不均匀导致的镜头周围出现阴影的情况所做的校正。镜头阴影校正方法可以包括同心圆法和网格法等。
213.1404,raw域夜景处理。
214.该raw域夜景处理方法,可以包括图13中所示的1303、1304、1305、1306、1307、 1308等步骤。
215.1405,去马赛克处理/raw2grg。
216.去马赛克处理用于将拜耳阵列,或raw格式的图像转换为rgb图像。去马赛克处理是用于从覆盖有颜色滤波器阵列(cfa)的图像传感器输出的不完整颜色样本重建全色图像的数字图像处理。也称为cfa插值或颜色重建。重建图像通常在均匀着色的区域中是精确的,但是具有分辨率(细节和清晰度)的损失并且具有边缘伪影。
217.1406,色彩矫正。
218.由于相机的颜色匹配特性通常不满足卢瑟条件,即传感器的rgb响应通常不是线性无关的,相机的颜色匹配特性与cie(国际发光照明委员会)标准观察者之间并不存在线性关系。因此,我们需要校正相机的特性,即通过色彩校正,使其接近标准观察者。通常使用颜色校正矩阵完成对图像的色彩矫正。
219.1407,色调影射。
220.由于所合成的图像的亮度范围较大,为了使得所生成的图像在普通的ldr显示器中能够正常显示,需要将高动态范围的图像通过色调映射为低动态范围的图像。色调映射可以包括全局色调映射和局部色调映射。
221.1408,rgb2yuv。
222.完成色调映射后,可以将rgb图像转换为yuv格式的图像,或者也可以直接输出rgb 格式的图像。
223.1409,yuv处理。
224.在yuv域,还可以进一步对图像进行降噪等优化处理,进一步提升图像质量。
225.在整个夜景图像的图像信号处理过程中,本技术的拍照方案选择在raw域进行图像优化和融合,使得图像能够保留更多的图像细节,有利于提升所输出的图像的清晰度,提升输出图像的画质。值得注意的是,上述应用于图像处理的方法,可以用于拍照场景下生成清晰度更高、质量更为稳定的照片,也可以用于拍摄视频场景,生成清晰度更高、质量更为稳定的视频。
226.本技术实施例提供的电子设备,可以包括存储器、处理器以及存储在存储器中并
可在处理器上运行的计算机程序,处理器执行计算机程序时实现如上述方法实施例中任一项的方法。
227.本技术实施例还提供了一种计算机可读存储介质,计算机可读存储介质存储有计算机程序,计算机程序被处理器执行时实现可实现上述各个方法实施例中的步骤。
228.本技术实施例提供了一种计算机程序产品,当计算机程序产品在电子设备上运行时,使得电子设备执行时实现可实现上述各个方法实施例中的步骤。
229.本技术实施例还提供一种芯片系统,所述芯片系统包括处理器,所述处理器与存储器耦合,所述处理器执行存储器中存储的计算机程序,以实现如上述各个方法实施例所述的方法。所述芯片系统可以为单个芯片,或者多个芯片组成的芯片模组。
230.在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。应理解,上述实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本技术实施例的实施过程构成任何限定。此外,在本技术说明书和所附权利要求书的描述中,术语“第一”、“第二”、“第三”等仅用于区分描述,而不能理解为指示或暗示相对重要性。在本技术说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本技术的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此,在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例,而是意味着“一个或多个但不是所有的实施例”,除非是以其他方式另外特别强调。
231.最后应说明的是:以上所述,仅为本技术的具体实施方式,但本技术的保护范围并不局限于此,任何在本技术揭露的技术范围内的变化或替换,都应涵盖在本技术的保护范围之内。因此,本技术的保护范围应以所述权利要求的保护范围为准。
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1