一种图像处理方法及相关装置与流程

文档序号:33416085发布日期:2023-03-10 22:41阅读:38来源:国知局
一种图像处理方法及相关装置与流程

1.本技术涉及计算机视觉领域,尤其涉及一种图像处理方法及相关装置。


背景技术:

2.智能手机发展至今,拍照和摄像已成为最为重要的特性之一。随着智能手机等电子设备的拍照功能越来越强大,使用智能手机等电子设备替代相机拍照的人也越来越多。其中,人像场景是用户拍摄的一个重要场景。
3.在使用智能手机等电子设备拍摄人像时,由于智能手机等电子设备上的器件尺寸和性能受限,电子设备往往需要用图像处理算法进行图像效果增强,例如,常用的多帧图像处理算法,人工智能(artificial intelligence,ai)深度学习算法等等。虽然电子设备上多帧算法处理,大大扩展了单帧图像的信噪比范围,但是由于需要在拍照时采集多帧数据,处理时间较长,实时性较低。对于一些实时性要求较高拍摄场景(例如,人像抓拍场景)的处理效果也很难提升。ai深度学习算法的应用虽然大大提升了拍照效果,但是受限于学习数据和电子设备上算力的限制,在电子设备上的成像质量也不高。


技术实现要素:

4.本技术提供了一种图像处理的方法及相关装置,实现了利用图库中的人像图片,提取出指定用户的高清人脸数据,利用指定用户的高清人脸数据对拍摄到的指定用户的人脸图像进行融合处理,以提高人脸图像的图像质量。
5.第一方面,本技术提供了一种图像处理方法,包括:电子设备从图库应用中保存的多张图片中筛选出第一用户的一张或多张高清人脸图像;该电子设备基于该第一用户的一张或多张高清人脸图像,生成第一用户的高清人脸数据;该电子设备获取到第一图像;当该电子设备确定出该第一图像中包括有第一用户的人脸时,该电子设备将该第一用户的高清人脸数据中的人脸细节融合至该第一图像中该第一用户的人脸区域,得到第一高清图像。
6.通过本技术提供的一种图像处理方法,电子设备可以利用图库中的人像图片,提取出多个用户的高清人脸数据。电子设备可以在获取到实时拍摄到的指定用户的人脸图像或用户选择的指定用户的人脸图像时,利用指定用户的高清人脸数据对指定用户的人脸图像进行融合处理,以提高人脸图像的图像质量。这样,可以增强人脸图像的图像质量。
7.在一种可能的实现方式中,当电子设备确定出该第一图像中包括有第一用户的人脸时,该电子设备将该第一用户的人脸数据中的人脸细节融合至该第一图像中该第一用户的人脸区域,得到第一高清图像,具体包括:当该电子设备确定出该第一图像中包括有第一用户的人脸且该第一图像的拍摄场景为低清拍摄场景时,该电子设备将该第一用户的人脸数据中的人脸细节融合至该第一图像中该第一用户的人脸区域,得到第一高清图像。这样,可以在第一图像的拍摄场景处于低清拍摄场景时,才对第一图像进行融合处理,减少了对高清图像的不必要的融合处理。
8.其中,该第一图像的拍摄场景为低清拍摄场景,包括:该第一图像的亮度小于预设
亮度阈值且该第一图像中该第一用户的人脸与该电子设备的距离小于预设距离阈值。
9.其中,该电子设备可以保存该第一高清图像。
10.在一种可能的实现方式中,该方法还包括:该电子设备对该第一高清图像中的人脸进行美肤和/或磨皮处理,得到第二高清图像。
11.其中,该电子设备保存该第二高清图像。
12.这样,可以在对第一图像融合处理后,进一步优化人脸的图像效果。
13.在一种可能的实现方式中,在该电子设备从图库应用中保存的多张图片中筛选出第一用户的高清人脸图像之前,该方法还包括:该电子设备获取人脸认证注册时录入的该第一用户的第一人脸认证图像;该电子设备裁剪出第一人脸认证图像中的人脸所在区域,得到第一人脸区域图像;该电子设备从图库应用中保存的多张图片中筛选出第一用户的高清人脸图像,具体包括:该电子设备基于该第一人脸区域图像,从该图库应用中保存的多张图片筛选出该第一用户的多张人脸图像;该电子设备从该第一用户的多张人脸图像中筛选出该第一用户的一张或多张高清人脸图像。
14.这样,可以在电子设备配置有人脸认证解锁的功能时,基于用户在人脸认证注册时录入的机主用户的人脸认证图像,从图库中存储的图片中筛选出机主用户的高清人脸图像。
15.在一种可能的实现方式中,该电子设备从图库应用中保存的多张图片中筛选出第一用户的高清人脸图像,具体包括:该电子设备从图库中保存的多张图片中识别出一个或多个用户的人脸图像,该一个或多个用户包括第一用户;当该第一用户的人脸图像的数量或出现频率满足一定阈值时,该电子设备从该第一用户的多张人脸图像中筛选出该第一用户的一张或多张高清人脸图像。
16.这样,电子设备可以直接从图库中指定用户(例如,图库中人脸图像的数量大于一定值的用户)的多张人脸图像中,筛选出指定用户的一张或多张高清人脸图像,并基于一张或多张高清人脸图像生成指定用户的高清人脸数据。
17.在一种可能的实现方式中,在该电子设备从图库应用中保存的多张图片中筛选出第一用户的高清人脸图像之前,该方法还包括:该电子设备获取人脸认证注册时录入的第二用户的第二人脸认证图像;该电子设备裁剪出第二人脸认证图像中的人脸所在区域,得到第二人脸区域图像;该电子设备从图库应用中保存的多张图片中筛选出第一用户的高清人脸图像,具体包括:该电子设备基于该第二人脸区域图像,从该图库应用中保存的多张图片筛选出该第一用户与该第二用户的多张合照图像,该合照图像包括该第一用户的人脸和该第二用户的人脸;当该合照图像的数量或出现频率大于指定阈值时,该电子设备从该合照图像中裁剪出该第第一用户的第三人脸区域图像;该电子设备基于该第三人脸区域图像,从该图库应用中保存的多张图片筛选出该第一用户的多张人脸图像;该电子设备从该第一用户的多张人脸图像中筛选出该第一用户的一张或多张高清人脸图像。
18.这样,可以将与机主用户的合照次数或合照频率确定出可以利用第一用户的高清人脸数据对第一用户的人脸图像进行融合处理。
19.在一种可能的实现方式中,该第一用户的一张或多张高清人脸图像包括第一高清人脸图像,该第一高清人脸图像的图像参数信息满足筛选条件,该图像参数信息包括以下一种或多种:拍摄信息、人脸区域清晰度和人脸偏转角度;该拍摄信息包括拍摄摄像头、
iso、曝光时间、人脸区域尺寸和变焦倍率中的一张或多种。
20.其中,该第一高清人脸图像的拍摄信息满足筛选条件,具体包括:
21.该第一高清人脸图像的拍摄摄像头为主摄像头,且该第一高清人脸图像的iso小于第一阈值,且该第一高清人脸图像的曝光时间小于第二阈值,且该第一高清人脸图像中人脸区域的尺寸与该第一高清人脸图像的尺寸的占比大于第三阈值,且该第一高清人脸图像的人脸区域清晰度大于第八阈值,且该第一高清人脸图像的人脸偏转角度小于第九阈值;或,该第一高清人脸图像的拍摄摄像头为长焦摄像头,且该第一高清人脸图像的iso小于第四阈值,且该第一高清人脸图像的曝光时间小于第五阈值,且该第一高清人脸图像中人脸区域的尺寸与该第一高清人脸图像的尺寸的占比大于第六阈值,且该第一高清人脸图像的变焦倍率小于第七阈值,且该第一高清人脸图像的人脸区域清晰度大于第八阈值,且该第一高清人脸图像的人脸偏转角度小于第九阈值。
22.在一种可能的实现方式中,在该电子设备获取到第一图像之前,该方法还包括:该电子设备启动相机应用;该电子设备显示该相机应用的拍摄预览界面,该拍摄预览界面用于显示摄像头捕捉到的预览画面,该拍摄预览界面包括拍摄控件。这样,可以在电子设备的拍摄环境较差时,利用电子设备已存储的指定用户的高清人脸图像,提升正在拍摄的指定用户的人脸图像的图像质量。
23.在一种可能的实现方式中,该第一图像为该摄像头捕捉到的预览画面;在该电子设备得到第一高清图像后,该方法还包括:该电子设备在该拍摄预览界面显示该第一高清图像。这样,可以直接对拍摄预览画面进行融合处理,提升拍摄预览画面的人脸图像质量。
24.其中,该电子设备在该拍摄预览界面显示该第一高清图像时,接收到用户针对该拍摄控件的第一输入;响应于该第一输入,该电子设备保存该第一高清图像。
25.在一种可能的实现方式中,该方法还包括:该电子设备接收到针对该拍摄控件的第二输入;该电子设备获取到第一图像,具体包括:响应于该第二输入,该电子设备获取到该摄像头采集到的第一图像。这样,可以在用户按下拍摄键后,才对拍摄预览界面中的人脸图像进行融合处理。
26.在一种可能的实现方式中,该方法还包括:该电子设备判断该拍摄预览界面中显示的预览画面中是否包括有该第一用户的人脸,若有,则在电子设备响应于第二输入获取到该摄像头采集到的第一图像后,该电子设备确定出该第一图像中包括有第一用户的人脸。这样,在拍摄场景下,电子设备可以通过预览画面判断第一图像中包括有第一用户的人脸。
27.在一种可能的实现方式中,该第一图像为该摄像头捕捉到的预览画面;该方法还包括:当该电子设备确定出该第一图像中的人脸为第三用户的人脸或拍摄场景不为低清拍摄场景时,该电子设备获取到摄像头采集到的多帧图像;该电子设备可以基于该摄像头的多帧图像进行人脸细节融合,得到第二图像;该电子设备对该第二图像中的人脸进行美肤和/或磨皮处理,得到第三图像;该电子设备保存该第三图像。
28.这样,可以在第一图像中没有人物数据库中第一用户的人脸或不在低清拍摄场景时,直接进行多帧预览图像的人脸融合,提高图像质量。
29.在一种可能的实现方式中,在该电子设备获取到第一图像之前,该方法还包括:该电子设备启动图库应用;该电子设备显示人像相册界面,该人像相册界面显示包括有一个
或多个人像图片的缩略图,该一个或多个人像图片包括该第一图像;该电子设备接收到用户针对该第一图像的缩略图的第一选择操作;该电子设备获取到该第一图像,具体包括:响应于该第一选择操作,该电子设备获取到该第一图像,并显示出图片浏览界面,该图片浏览界面包括有该第一图像和贵宾用户vip焕新控件。
30.这样,可以方便用户在拍摄完图片或视频后,无论何时都能够使对已拍摄完图片或视频中指定用户的人脸区域进行融合处理,提升指定用户的人脸图像的图像质量。
31.其中,该当该电子设备确定出该第一图像中包括有第一用户的人脸时,该电子设备将该第一用户的高清人脸数据中的人脸细节融合至该第一图像中该第一用户的人脸区域,得到第一高清图像,具体包括:该电子设备接收到针对该vip焕新控件的第三输入;响应于该第三输入,该电子设备在确定出该第一图像中包括有第一用户的人脸时,将该第一用户的高清人脸数据中的人脸细节融合至该第一图像中该第一用户的人脸区域,得到该第一高清图像。
32.在一种可能的实现方式中,该第一用户的高清人脸数据包括该第一用户的一张或多张高清人脸图像的以下一种或多种数据:rgb数据、yuv数据、raw数据、人脸特征数据、五官模型数据和人脸特征点数据。
33.第二方面,本技术提供了一种电子设备,包括:摄像头、收发器、一个或多个处理器和一个或多个存储器。该一个或多个处理器与该摄像头、该一个或多个存储器以及该收发器耦合,该一个或多个存储器用于存储计算机程序代码,计算机程序代码包括计算机指令,当该一个或多个处理器执行该计算机指令时,使得该电子设备执行上述任一方面任一项可能的实现方式中的图像处理方法。
34.第三方面,本技术实施例提供了一种计算机存储介质,包括计算机指令,当计算机指令在电子设备上运行时,使得电子设备执行上述任一方面任一项可能的实现方式中的图像处理方法。
35.第四方面,本技术实施例提供了一种计算机程序产品,当计算机程序产品在计算机上运行时,使得计算机执行上述任一方面任一项可能的实现方式中的图像处理方法。
36.第五方面,本技术实施例提供了一种电子设备上的图形用户界面,电子设备具有摄像头、显示屏、一个或多个存储器、以及一个或多个处理器,一个或多个处理器用于执行存储在所述一个或多个存储器中的一个或多个计算机程序,图形用户界面包括电子设备执行上述第一方面及其第一方面任一可能设计的技术方案时显示的图形用户界面。
37.第六方面,本技术实施例的一种电子设备,所述电子设备包括执行上述第一方面或者第一方面的任意一种可能的设计的方法的模块/单元;这些模块/单元可以通过硬件实现,也可以通过硬件执行相应的软件实现。
38.其中,第二方面至第六方面的有益效果,请参见第一方面的有益效果,不重复赘述。
附图说明
39.图1为本技术实施例提供的一种电子设备的硬件结构示意图;
40.图2为本技术实施例提供的一种电子设备的软件架构示意图;
41.图3a-图3f为本技术实施例提供的一组用户界面示意图;
42.图4a-图4e为本技术实施例提供的另一组用户界面示意图;
43.图5a-图5c为本技术实施例提供的另一组用户界面示意图;
44.图6a-图6f为本技术实施例提供的另一组用户界面示意图;
45.图7a-图7d为本技术实施例提供的另一组用户界面示意图;
46.图8为本技术实施例提供的一种高清人脸数据的提取过程的示意图;
47.图9a-图9h为本技术实施例提供的一组人脸认证注册的界面示意图;
48.图10为本技术实施例中提供的一种高清人脸图像的判断过程示意图;
49.图11为示出了本技术实施例提供的另一种高清人脸数据的提取过程的示意图;
50.图12为示出了本技术实施例中提供的一种图像处理方法的流程示意图。
具体实施方式
51.下面将结合附图对本技术实施例中的技术方案进行清除、详尽地描述。其中,在本技术实施例的描述中,除非另有说明,“/”表示或的意思,例如,a/b可以表示a或b;文本中的“和/或”仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,a和/或b,可以表示:单独存在a,同时存在a和b,单独存在b这三种情况,另外,在本技术实施例的描述中,“多个”是指两个或多于两个。
52.以下,术语“第一”、“第二”仅用于描述目的,而不能理解为暗示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征,在本技术实施例的描述中,除非另有说明,“多个”的含义是两个或两个以上。
53.图1示出了电子设备100的结构示意图。
54.下面以电子设备100为例对实施例进行具体说明。应该理解的是,图1所示电子设备100仅是一个范例,并且电子设备100可以具有比图1中所示的更多的或者更少的部件,可以组合两个或多个的部件,或者可以具有不同的部件配置。图中所示出的各种部件可以在包括一个或多个信号处理和/或专用集成电路在内的硬件、软件、或硬件和软件的组合中实现。
55.电子设备100可以包括:处理器110,外部存储器接口120,内部存储器121,通用串行总线(universal serial bus,usb)接口130,充电管理模块140,电源管理模块141,电池142,天线1,天线2,移动通信模块150,无线通信模块160,音频模块170,扬声器170a,受话器170b,麦克风170c,耳机接口170d,传感器模块180,按键190,马达191,指示器192,摄像头193,显示屏194,以及用户标识模块(subscriber identification module,sim)卡接口195等。其中传感器模块180可以包括压力传感器180a,陀螺仪传感器180b,气压传感器180c,磁传感器180d,加速度传感器180e,距离传感器180f,接近光传感器180g,指纹传感器180h,温度传感器180j,触摸传感器180k,环境光传感器180l,骨传导传感器180m等。
56.可以理解的是,本发明实施例示意的结构并不构成对电子设备100的具体限定。在本技术另一些实施例中,电子设备100可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。
57.处理器110可以包括一个或多个处理单元,例如:处理器110可以包括应用处理器
(application processor,ap),调制解调处理器,图形处理器(graphics processing unit,gpu),图像信号处理器(image signal processor,isp),控制器,存储器,视频编解码器,数字信号处理器(digital signal processor,dsp),基带处理器,和/或神经网络处理器(neural-network processing unit,npu)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。
58.其中,控制器可以是电子设备100的神经中枢和指挥中心。控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
59.处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从所述存储器中直接调用。避免了重复存取,减少了处理器110的等待时间,因而提高了系统的效率。
60.在一些实施例中,处理器110可以包括一个或多个接口。接口可以包括集成电路(inter-integrated circuit,i2c)接口,集成电路内置音频(inter-integrated circuit sound,i2s)接口,脉冲编码调制(pulse code modulation,pcm)接口,通用异步收发传输器(universal asynchronous receiver/transmitter,uart)接口,移动产业处理器接口(mobile industry processor interface,mipi),通用输入输出(general-purpose input/output,gpio)接口,用户标识模块(subscriber identity module,sim)接口,和/或通用串行总线(universal serial bus,usb)接口等。
61.i2c接口是一种双向同步串行总线,包括一根串行数据线(serial data line,sda)和一根串行时钟线(derail clock line,scl)。在一些实施例中,处理器110可以包含多组i2c总线。处理器110可以通过不同的i2c总线接口分别耦合触摸传感器180k,充电器,闪光灯,摄像头193等。例如:处理器110可以通过i2c接口耦合触摸传感器180k,使处理器110与触摸传感器180k通过i2c总线接口通信,实现电子设备100的触摸功能。
62.i2s接口可以用于音频通信。在一些实施例中,处理器110可以包含多组i2s总线。处理器110可以通过i2s总线与音频模块170耦合,实现处理器110与音频模块170之间的通信。在一些实施例中,音频模块170可以通过i2s接口向无线通信模块160传递音频信号,实现通过蓝牙耳机接听电话的功能。
63.pcm接口也可以用于音频通信,将模拟信号抽样,量化和编码。在一些实施例中,音频模块170与无线通信模块160可以通过pcm总线接口耦合。在一些实施例中,音频模块170也可以通过pcm接口向无线通信模块160传递音频信号,实现通过蓝牙耳机接听电话的功能。所述i2s接口和所述pcm接口都可以用于音频通信。
64.uart接口是一种通用串行数据总线,用于异步通信。该总线可以为双向通信总线。它将要传输的数据在串行通信与并行通信之间转换。在一些实施例中,uart接口通常被用于连接处理器110与无线通信模块160。例如:处理器110通过uart接口与无线通信模块160中的蓝牙模块通信,实现蓝牙功能。在一些实施例中,音频模块170可以通过uart接口向无线通信模块160传递音频信号,实现通过蓝牙耳机播放音乐的功能。
65.mipi接口可以被用于连接处理器110与显示屏194,摄像头193等外围器件。mipi接口包括摄像头串行接口(camera serial interface,csi),显示屏串行接口(display serial interface,dsi)等。在一些实施例中,处理器110和摄像头193通过csi接口通信,实
现电子设备100的拍摄功能。处理器110和显示屏194通过dsi接口通信,实现电子设备100的显示功能。
66.gpio接口可以通过软件配置。gpio接口可以被配置为控制信号,也可被配置为数据信号。在一些实施例中,gpio接口可以用于连接处理器110与摄像头193,显示屏194,无线通信模块160,音频模块170,传感器模块180等。gpio接口还可以被配置为i2c接口,i2s接口,uart接口,mipi接口等。
67.usb接口130是符合usb标准规范的接口,具体可以是mini usb接口,micro usb接口,usb type c接口等。usb接口130可以用于连接充电器为电子设备100充电,也可以用于电子设备100与外围设备之间传输数据。也可以用于连接耳机,通过耳机播放音频。该接口还可以用于连接其他电子设备,例如ar设备等。
68.可以理解的是,本发明实施例示意的各模块间的接口连接关系,只是示意性说明,并不构成对电子设备100的结构限定。在本技术另一些实施例中,电子设备100也可以采用上述实施例中不同的接口连接方式,或多种接口连接方式的组合。
69.充电管理模块140用于从充电器接收充电输入。其中,充电器可以是无线充电器,也可以是有线充电器。在一些有线充电的实施例中,充电管理模块140可以通过usb接口130接收有线充电器的充电输入。在一些无线充电的实施例中,充电管理模块140可以通过电子设备100的无线充电线圈接收无线充电输入。充电管理模块140为电池142充电的同时,还可以通过电源管理模块141为电子设备供电。
70.电源管理模块141用于连接电池142,充电管理模块140与处理器110。电源管理模块141接收电池142和/或充电管理模块140的输入,为处理器110,内部存储器121,外部存储器,显示屏194,摄像头193,和无线通信模块160等供电。电源管理模块141还可以用于监测电池容量,电池循环次数,电池健康状态(漏电,阻抗)等参数。在其他一些实施例中,电源管理模块141也可以设置于处理器110中。在另一些实施例中,电源管理模块141和充电管理模块140也可以设置于同一个器件中。
71.电子设备100的无线通信功能可以通过天线1,天线2,移动通信模块150,无线通信模块160,调制解调处理器以及基带处理器等实现。
72.天线1和天线2用于发射和接收电磁波信号。电子设备100中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。例如:可以将天线1复用为无线局域网的分集天线。在另外一些实施例中,天线可以和调谐开关结合使用。
73.移动通信模块150可以提供应用在电子设备100上的包括2g/3g/4g/5g等无线通信的解决方案。移动通信模块150可以包括至少一个滤波器,开关,功率放大器,低噪声放大器(low noise amplifier,lna)等。移动通信模块150可以由天线1接收电磁波,并对接收的电磁波进行滤波,放大等处理,传送至调制解调处理器进行解调。移动通信模块150还可以对经调制解调处理器调制后的信号放大,经天线1转为电磁波辐射出去。在一些实施例中,移动通信模块150的至少部分功能模块可以被设置于处理器110中。在一些实施例中,移动通信模块150的至少部分功能模块可以与处理器110的至少部分模块被设置在同一个器件中。
74.调制解调处理器可以包括调制器和解调器。其中,调制器用于将待发送的低频基带信号调制成中高频信号。解调器用于将接收的电磁波信号解调为低频基带信号。随后解调器将解调得到的低频基带信号传送至基带处理器处理。低频基带信号经基带处理器处理
后,被传递给应用处理器。应用处理器通过音频设备(不限于扬声器170a,受话器170b等)输出声音信号,或通过显示屏194显示图像或视频。在一些实施例中,调制解调处理器可以是独立的器件。在另一些实施例中,调制解调处理器可以独立于处理器110,与移动通信模块150或其他功能模块设置在同一个器件中。
75.无线通信模块160可以提供应用在电子设备100上的包括无线局域网(wireless local area networks,wlan)(如无线保真(wireless fidelity,wi-fi)网络),蓝牙(bluetooth,bt),全球导航卫星系统(global navigation satellite system,gnss),调频(frequency modulation,fm),近距离无线通信技术(near field communication,nfc),红外技术(infrared,ir)等无线通信的解决方案。无线通信模块160可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块160经由天线2接收电磁波,将电磁波信号调频以及滤波处理,将处理后的信号发送到处理器110。无线通信模块160还可以从处理器110接收待发送的信号,对其进行调频,放大,经天线2转为电磁波辐射出去。
76.在一些实施例中,电子设备100的天线1和移动通信模块150耦合,天线2和无线通信模块160耦合,使得电子设备100可以通过无线通信技术与网络以及其他设备通信。所述无线通信技术可以包括全球移动通讯系统(global system for mobile communications,gsm),通用分组无线服务(general packet radio service,gprs),码分多址接入(code division multiple access,cdma),宽带码分多址(wideband code division multiple access,wcdma),时分码分多址(time-division code division multiple access,td-scdma),长期演进(long term evolution,lte),bt,gnss,wlan,nfc,fm,和/或ir技术等。所述gnss可以包括全球卫星定位系统(global positioning system,gps),全球导航卫星系统(global navigation satellite system,glonass),北斗卫星导航系统(beidou navigation satellite system,bds),准天顶卫星系统(quasi-zenith satellite system,qzss)和/或星基增强系统(satellite based augmentation systems,sbas)。
77.电子设备100通过gpu,显示屏194,以及应用处理器等实现显示功能。gpu为图像处理的微处理器,连接显示屏194和应用处理器。gpu用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个gpu,其执行程序指令以生成或改变显示信息。
78.显示屏194用于显示图像,视频等。显示屏194包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display,lcd),有机发光二极管(organic light-emitting diode,oled),有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrix organic light emitting diode的,amoled),柔性发光二极管(flex light-emitting diode,fled),miniled,microled,micro-oled,量子点发光二极管(quantum dot light emitting diodes,qled)等。在一些实施例中,电子设备100可以包括1个或n个显示屏194,n为大于1的正整数。
79.电子设备100可以通过isp,摄像头193,视频编解码器,gpu,显示屏194以及应用处理器等实现拍摄功能。
80.isp用于处理摄像头193反馈的数据。例如,拍照时,打开快门,光线通过镜头被传递到摄像头感光元件上,光信号转换为电信号,摄像头感光元件将所述电信号传递给isp处理,转化为肉眼可见的图像。isp还可以对图像的噪点,亮度,肤色进行算法优化。isp还可以对拍摄场景的曝光,色温等参数优化。在一些实施例中,isp可以设置在摄像头193中。
81.摄像头193用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device,ccd)或互补金属氧化物半导体(complementary metal-oxide-semiconductor,cmos)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给isp转换成数字图像信号。isp将数字图像信号输出到dsp加工处理。dsp将数字图像信号转换成标准的rgb,yuv等格式的图像信号。在一些实施例中,电子设备100可以包括1个或n个摄像头193,n为大于1的正整数。
82.数字信号处理器用于处理数字信号,除了可以处理数字图像信号,还可以处理其他数字信号。例如,当电子设备100在频点选择时,数字信号处理器用于对频点能量进行傅里叶变换等。
83.视频编解码器用于对数字视频压缩或解压缩。电子设备100可以支持一种或多种视频编解码器。这样,电子设备100可以播放或录制多种编码格式的视频,例如:动态图像专家组(moving picture experts group,mpeg)1,mpeg2,mpeg3,mpeg4等。
84.npu为神经网络(neural-network,nn)计算处理器,通过借鉴生物神经网络结构,例如借鉴人脑神经元之间传递模式,对输入信息快速处理,还可以不断的自学习。通过npu可以实现电子设备100的智能认知等应用,例如:图像识别,人脸识别,语音识别,文本理解等。
85.外部存储器接口120可以用于连接外部存储卡,例如micro sd卡,实现扩展电子设备100的存储能力。外部存储卡通过外部存储器接口120与处理器110通信,实现数据存储功能。例如将音乐,视频等文件保存在外部存储卡中。
86.内部存储器121可以用于存储计算机可执行程序代码,所述可执行程序代码包括指令。处理器110通过运行存储在内部存储器121的指令,从而执行电子设备100的各种功能应用以及数据处理。内部存储器121可以包括存储程序区和存储数据区。其中,存储程序区可存储操作系统,至少一个功能所需的应用程序(比如声音播放功能,图像播放功能等)等。存储数据区可存储电子设备100使用过程中所创建的数据(比如音频数据,电话本等)等。此外,内部存储器121可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universal flash storage,ufs)等。
87.电子设备100可以通过音频模块170,扬声器170a,受话器170b,麦克风170c,耳机接口170d,以及应用处理器等实现音频功能。例如音乐播放,录音等。
88.音频模块170用于将数字音频信息转换成模拟音频信号输出,也用于将模拟音频输入转换为数字音频信号。音频模块170还可以用于对音频信号编码和解码。在一些实施例中,音频模块170可以设置于处理器110中,或将音频模块170的部分功能模块设置于处理器110中。
89.扬声器170a,也称“喇叭”,用于将音频电信号转换为声音信号。电子设备100可以通过扬声器170a收听音乐,或收听免提通话。
90.受话器170b,也称“听筒”,用于将音频电信号转换成声音信号。当电子设备100接听电话或语音信息时,可以通过将受话器170b靠近人耳接听语音。
91.麦克风170c,也称“话筒”,“传声器”,用于将声音信号转换为电信号。当拨打电话或发送语音信息时,用户可以通过人嘴靠近麦克风170c发声,将声音信号输入到麦克风170c。电子设备100可以设置至少一个麦克风170c。在另一些实施例中,电子设备100可以设
置两个麦克风170c,除了采集声音信号,还可以实现降噪功能。在另一些实施例中,电子设备100还可以设置三个,四个或更多麦克风170c,实现采集声音信号,降噪,还可以识别声音来源,实现定向录音功能等。
92.耳机接口170d用于连接有线耳机。耳机接口170d可以是usb接口130,也可以是3.5mm的开放移动电子设备平台(open mobile terminal platform,omtp)标准接口,美国蜂窝电信工业协会(cellular telecommunications industry association of the usa,ctia)标准接口。
93.压力传感器180a用于感受压力信号,可以将压力信号转换成电信号。在一些实施例中,压力传感器180a可以设置于显示屏194。压力传感器180a的种类很多,如电阻式压力传感器,电感式压力传感器,电容式压力传感器等。电容式压力传感器可以是包括至少两个具有导电材料的平行板。当有力作用于压力传感器180a,电极之间的电容改变。电子设备100根据电容的变化确定压力的强度。当有触摸操作作用于显示屏194,电子设备100根据压力传感器180a检测所述触摸操作强度。电子设备100也可以根据压力传感器180a的检测信号计算触摸的位置。在一些实施例中,作用于相同触摸位置,但不同触摸操作强度的触摸操作,可以对应不同的操作指令。例如:当有触摸操作强度小于第一压力阈值的触摸操作作用于短消息应用图标时,执行查看短消息的指令。当有触摸操作强度大于或等于第一压力阈值的触摸操作作用于短消息应用图标时,执行新建短消息的指令。
94.陀螺仪传感器180b可以用于确定电子设备100的运动姿态。在一些实施例中,可以通过陀螺仪传感器180b确定电子设备100围绕三个轴(即,x,y和z轴)的角速度。陀螺仪传感器180b可以用于拍摄防抖。示例性的,当按下快门,陀螺仪传感器180b检测电子设备100抖动的角度,根据角度计算出镜头模组需要补偿的距离,让镜头通过反向运动抵消电子设备100的抖动,实现防抖。陀螺仪传感器180b还可以用于导航,体感游戏场景。
95.气压传感器180c用于测量气压。在一些实施例中,电子设备100通过气压传感器180c测得的气压值计算海拔高度,辅助定位和导航。
96.磁传感器180d包括霍尔传感器。电子设备100可以利用磁传感器180d检测翻盖皮套的开合。在一些实施例中,当电子设备100是翻盖机时,电子设备100可以根据磁传感器180d检测翻盖的开合。进而根据检测到的皮套的开合状态或翻盖的开合状态,设置翻盖自动解锁等特性。
97.加速度传感器180e可检测电子设备100在各个方向上(一般为三轴)加速度的大小。当电子设备100静止时可检测出重力的大小及方向。还可以用于识别电子设备姿态,应用于横竖屏切换,计步器等应用。
98.距离传感器180f,用于测量距离。电子设备100可以通过红外或激光测量距离。在一些实施例中,拍摄场景,电子设备100可以利用距离传感器180f测距以实现快速对焦。
99.接近光传感器180g可以包括例如发光二极管(led)和光检测器,例如光电二极管。发光二极管可以是红外发光二极管。电子设备100通过发光二极管向外发射红外光。电子设备100使用光电二极管检测来自附近物体的红外反射光。当检测到充分的反射光时,可以确定电子设备100附近有物体。当检测到不充分的反射光时,电子设备100可以确定电子设备100附近没有物体。电子设备100可以利用接近光传感器180g检测用户手持电子设备100贴近耳朵通话,以便自动熄灭屏幕达到省电的目的。接近光传感器180g也可用于皮套模式,口
袋模式自动解锁与锁屏。
100.环境光传感器180l用于感知环境光亮度。电子设备100可以根据感知的环境光亮度自适应调节显示屏194亮度。环境光传感器180l也可用于拍照时自动调节白平衡。环境光传感器180l还可以与接近光传感器180g配合,检测电子设备100是否在口袋里,以防误触。
101.指纹传感器180h用于采集指纹。电子设备100可以利用采集的指纹特性实现指纹解锁,访问应用锁,指纹拍照,指纹接听来电等。
102.温度传感器180j用于检测温度。在一些实施例中,电子设备100利用温度传感器180j检测的温度,执行温度处理策略。例如,当温度传感器180j上报的温度超过阈值,电子设备100执行降低位于温度传感器180j附近的处理器的性能,以便降低功耗实施热保护。在另一些实施例中,当温度低于另一阈值时,电子设备100对电池142加热,以避免低温导致电子设备100异常关机。在其他一些实施例中,当温度低于又一阈值时,电子设备100对电池142的输出电压执行升压,以避免低温导致的异常关机。
103.触摸传感器180k,也称“触控面板”。触摸传感器180k可以设置于显示屏194,由触摸传感器180k与显示屏194组成触摸屏,也称“触控屏”。触摸传感器180k用于检测作用于其上或附近的触摸操作。触摸传感器可以将检测到的触摸操作传递给应用处理器,以确定触摸事件类型。可以通过显示屏194提供与触摸操作相关的视觉输出。在另一些实施例中,触摸传感器180k也可以设置于电子设备100的表面,与显示屏194所处的位置不同。
104.骨传导传感器180m可以获取振动信号。在一些实施例中,骨传导传感器180m可以获取人体声部振动骨块的振动信号。骨传导传感器180m也可以接触人体脉搏,接收血压跳动信号。在一些实施例中,骨传导传感器180m也可以设置于耳机中,结合成骨传导耳机。音频模块170可以基于所述骨传导传感器180m获取的声部振动骨块的振动信号,解析出语音信号,实现语音功能。应用处理器可以基于所述骨传导传感器180m获取的血压跳动信号解析心率信息,实现心率检测功能。
105.按键190包括开机键,音量键等。按键190可以是机械按键。也可以是触摸式按键。电子设备100可以接收按键输入,产生与电子设备100的用户设置以及功能控制有关的键信号输入。
106.马达191可以产生振动提示。马达191可以用于来电振动提示,也可以用于触摸振动反馈。例如,作用于不同应用(例如拍照,音频播放等)的触摸操作,可以对应不同的振动反馈效果。作用于显示屏194不同区域的触摸操作,马达191也可对应不同的振动反馈效果。不同的应用场景(例如:时间提醒,接收信息,闹钟,游戏等)也可以对应不同的振动反馈效果。触摸振动反馈效果还可以支持自定义。
107.指示器192可以是指示灯,可以用于指示充电状态,电量变化,也可以用于指示消息,未接来电,通知等。
108.sim卡接口195用于连接sim卡。sim卡可以通过插入sim卡接口195,或从sim卡接口195拔出,实现和电子设备100的接触和分离。电子设备100可以支持1个或n个sim卡接口,n为大于1的正整数。sim卡接口195可以支持nano sim卡,micro sim卡,sim卡等。同一个sim卡接口195可以同时插入多张卡。所述多张卡的类型可以相同,也可以不同。sim卡接口195也可以兼容不同类型的sim卡。sim卡接口195也可以兼容外部存储卡。电子设备100通过sim卡和网络交互,实现通话以及数据通信等功能。在一些实施例中,电子设备100采用esim,
即:嵌入式sim卡。esim卡可以嵌在电子设备100中,不能和电子设备100分离。
109.电子设备100的软件系统可以采用分层架构,事件驱动架构,微核架构,微服务架构,或云架构。本发明实施例以分层架构的android系统为例,示例性说明电子设备100的软件结构。
110.图2是本发明实施例的电子设备100的软件结构框图。
111.分层架构将软件分成若干个层,每一层都有清晰的角色和分工。层与层之间通过软件接口通信。在一些实施例中,将android系统分为四层,从上至下分别为应用程序层,应用程序框架层,安卓运行时(android runtime)和系统库,以及内核层。
112.应用程序层可以包括一系列应用程序包。
113.如图2所示,应用程序包可以包括相机,图库,日历,通话,地图,导航,wlan,蓝牙,音乐,视频,短信息等应用程序。
114.应用程序框架层为应用程序层的应用程序提供应用编程接口(application programming interface,api)和编程框架。应用程序框架层包括一些预先定义的函数。
115.如图2所示,应用程序框架层可以包括窗口管理器,内容提供器,视图系统,电话管理器,资源管理器,通知管理器等。
116.窗口管理器用于管理窗口程序。窗口管理器可以获取显示屏大小,判断是否有状态栏,锁定屏幕,截取屏幕等。
117.内容提供器用来存放和获取数据,并使这些数据可以被应用程序访问。所述数据可以包括视频,图像,音频,拨打和接听的电话,浏览历史和书签,电话簿等。
118.视图系统包括可视控件,例如显示文字的控件,显示图片的控件等。视图系统可用于构建应用程序。显示界面可以由一个或多个视图组成的。例如,包括短信通知图标的显示界面,可以包括显示文字的视图以及显示图片的视图。
119.电话管理器用于提供电子设备100的通信功能。例如通话状态的管理(包括接通,挂断等)。
120.资源管理器为应用程序提供各种资源,比如本地化字符串,图标,图片,布局文件,视频文件等等。
121.通知管理器使应用程序可以在状态栏中显示通知信息,可以用于传达告知类型的消息,可以短暂停留后自动消失,无需用户交互。比如通知管理器被用于告知下载完成,消息提醒等。通知管理器还可以是以图表或者滚动条文本形式出现在系统顶部状态栏的通知,例如后台运行的应用程序的通知,还可以是以对话窗口形式出现在屏幕上的通知。例如在状态栏提示文本信息,发出提示音,电子设备振动,指示灯闪烁等。
122.android runtime包括核心库和虚拟机。android runtime负责安卓系统的调度和管理。
123.核心库包含两部分:一部分是java语言需要调用的功能函数,另一部分是安卓的核心库。
124.应用程序层和应用程序框架层运行在虚拟机中。虚拟机将应用程序层和应用程序框架层的java文件执行为二进制文件。虚拟机用于执行对象生命周期的管理,堆栈管理,线程管理,安全和异常的管理,以及垃圾回收等功能。
125.系统库可以包括多个功能模块。例如:表面管理器(surface manager),媒体库
(media libraries),三维图形处理库(例如:opengl es),2d图形引擎(例如:sgl)等。
126.表面管理器用于对显示子系统进行管理,并且为多个应用程序提供了2d和3d图层的融合。
127.媒体库支持多种常用的音频,视频格式回放和录制,以及静态图像文件等。媒体库可以支持多种音视频编码格式,例如:mpeg4,h.264,mp3,aac,amr,jpg,png等。
128.三维图形处理库用于实现三维图形绘图,图像渲染,合成,和图层处理等。
129.2d图形引擎是2d绘图的绘图引擎。
130.内核层是硬件和软件之间的层。内核层至少包含显示驱动,摄像头驱动,音频驱动,传感器驱动。
131.下面结合捕获拍照场景,示例性说明电子设备100软件以及硬件的工作流程。
132.当触摸传感器180k接收到触摸操作,相应的硬件中断被发给内核层。内核层将触摸操作加工成原始输入事件(包括触摸坐标,触摸操作的时间戳等信息)。原始输入事件被存储在内核层。应用程序框架层从内核层获取原始输入事件,识别该输入事件所对应的控件。以该触摸操作是触摸单击操作,该单击操作所对应的控件为相机应用图标的控件为例,相机应用调用应用框架层的接口,启动相机应用,进而通过调用内核层启动摄像头驱动,通过摄像头193捕获静态图像或视频。
133.下面结合应用场景,具体介绍本技术实施例提供的一种图像处理方法。
134.在一些应用场景中,用户可以在使用电子设备100的相机应用中指定模式(例如“人像模式”)拍摄人像图像。当电子设备100处于指定模式(例如“人像模式”)下,若电子设备100可以识别预览画面中是否包括有指定用户的人脸图像,且所述电子设备100处于低清拍摄场景,则电子设备100可以在接收到用户拍摄输入后,利用已存储的指定用户的高清人脸数据,对实时拍摄到的指定用户的人脸图像进行融合处理,以提高电子设备100拍摄的人脸图像的图像质量。这样,可以在电子设备100的拍摄环境较差时,利用电子设备100已存储的指定用户的高清人脸图像,提升拍摄到的指定用户的人脸图像的图像质量。
135.示例性的,如图3a所示,电子设备100可以显示有桌面310,该桌面310中显示了一个放置有应用图标的页面,该页面包括多个应用图标(例如,天气应用图标、股票应用图标、计算器应用图标、设置应用图标、邮件应用图标、图库应用图标312、音乐应用图标、视频应用图标、浏览器应用图标等等)。多个应用图标下方还显示包括有页面指示符,以表明当前显示的页面与其他页面的位置关系。页面指示符的下方有多个托盘图标(例如拨号应用图标、信息应用图标、联系人应用图标、相机应用图标311),托盘图标在页面切换时保持显示。在一些实施例中,上述页面也可以包括多个应用图标和页面指示符,页面指示符可以不是页面的一部分,单独存在,上述托盘图标也是可选的,本技术实施例对此不作限制。
136.电子设备100可以接收用户作用于相机应用图标311的输入操作(例如单击),响应于该输入操作,电子设备100可以显示如图3b所示的拍摄界面320。
137.如图3b所示,该拍摄界面320可以包括有回显控件321、拍摄控件322、摄像头转换控件323、预览框、设置控件325、变焦倍率控件326、一个或多个拍摄模式控件(例如,“夜景模式”控件372a、“普通拍照模式”控件372b、“大光圈模式”控件372c、“人像模式”控件372d、“录像模式”控件372e、“专业模式”控件372f、更多模式控件327g)。其中,预览框中显示有预览画面324。该回显控件321可用于显示已拍摄的图像。该拍摄控件322用于触发保存摄像头
拍摄到的图像。该摄像头转换控件323可用于切换拍照的摄像头。该设置控件325可用于设置拍照功能。该变焦倍率控件326可用于设置摄像头的变焦倍数。该拍摄模式控件可用于触发开启该拍摄模式对应的图像处理流程。例如,“夜景模式”控件372a可用于触发增加拍摄图像中的亮度和色彩丰富度等。“人像模式”控件372b可用于触发对拍摄图像中人像的美化处理。如图3b所示,当前用户选择的拍摄模式为“人像模式”。
138.在人像模式下,电子设备100可以识别预览画面324中是否包括有指定用户的人脸,若有,则电子设备100可以输出用户识别提示,该用户识别提示可用于提示用户已识别到预览图像中的指定用户。
139.示例性的,如图3c所示,电子设备100可以输出提示331,该提示331可用于提示用户已识别到预览图像中的指定用户。该提示331可以为文字提示(例如“vip人像”)。在一些可能的实现方式中,该提示331还可以是图片、视频、声音等类型的提示。
140.在电子设备100识别预览画面324中包括有指定用户的人脸且确定出电子设备100是否处于低清拍摄场景后,电子设备100可以接收到针对拍摄控件322的第二输入(例如单击),响应于该第二输入,电子设备100可以将摄像头捕捉到的预览画面324作为目标图像,并基于已存储的指定用户的高清人脸数据,对目标图像中指定用户的人脸区域进行融合处理,以提升目标图像中指定用户的人脸区域的图像质量。电子设备100可以将融合处理后的目标图像保存至图库中。可选的,电子设备100还可以将融合处理之前的目标图像保存至图库中。
141.可选的,如图3d所示,在电子设备100基于已存储的指定用户的高清人脸数据,对目标图像中指定用户的人脸进行融合处理时,电子设备100可以输出提示332,该提示332可用于提示用户正在基于已存储的指定用户的高清人脸数据,对目标图像中指定用户的人脸进行融合处理。其中,提示332可以是文字提示,例如,“正在对vip人像进行ai焕新
…”
等等。在一些可能的实现方式中,该提示332还可以是图片、视频、声音等类型的提示,不作限定。
142.如图3e所示,当电子设备100基于已存储的指定用户的高清人脸数据对目标图像中指定用户的人脸区域进行融合处理后,电子设备100可以将融合处理后的目标图像保存至图库中,并将融合后的人脸图像对应的缩略图显示在回显控件321上。
143.电子设备100可以接收用户作用于该回显控件321的输入(例如单击),响应于该输入,电子设备100可以显示如图3f所示的图片浏览界面340。
144.如图3f所示,该图片浏览界面340可以包括有人脸图像341、标记342、菜单343、图库控件344。其中,该标记342用于提示用户该人脸图像341为基于指定用户的高清人脸数据融合处理后的目标图像。该菜单343可以包括分享按钮、收藏按钮、编辑按钮、删除按钮、更多按钮。分享按钮可用于触发对该人脸图像341的分享。该收藏按钮可用于触发收藏该人脸图像341到图片收藏文件夹。编辑按钮可用于触发对人脸图像341的旋转、修剪、增加滤镜、虚化等编辑功能。删除按钮可用于触发删除该人脸图像341。更多按钮可用于触发打开更多与该人脸图像341相关的功能。该图库控件344可用于触发电子设备100打开图库应用。
145.在一些应用场景中,电子设备100的相机应用中的拍摄模式可以包括vip模式。当用户使用vip模式拍摄照片时,电子设备100可以识别预览画面中是否包括有指定用户的人脸,若是,则电子设备100可以利用已存储的指定用户的高清人脸数据,对预览画面中指定用户的人脸区域进行融合处理,以提高电子设备100拍摄的人脸图像的图像质量。这样,可
以在电子设备100处于特定的拍摄模式时,利用电子设备100已存储的指定用户的高清人脸数据,提升预览画面中指定用户的人脸区域的图像质量。
146.示例性的,如图4a所示,电子设备100可以接收用户选择vip模式控件327h的输入(例如单击),响应于该输入,电子设备100可以从“人像模式”切换至“vip模式”。在vip模式下,电子设备100可以在识别出预览画面324中包括有指定用户的人脸图像。电子设备100可以通过指定用户的高清人脸数据,对指定用户的人脸图像进行融合处理,得到融合后人脸图像328。如图4b所示,电子设备100可以将融合后人脸图像328显示在预览框中。电子设备100可以接收用户针对拍摄控件322的第一输入(例如单击),响应于该第一输入,电子设备100可以将融合后人脸图像328保存到图库中。
147.在一种可能的实现方式中,当用户使用vip模式拍摄照片时,电子设备100可以识别预览画面中是否包括有指定用户的人脸图像,若是,则电子设备100在接收到用户的拍摄输入后,可以利用已存储的指定用户的高清人脸数据,对已拍摄到画面中指定用户的人脸区域进行融合处理,以提高电子设备100拍摄的人脸图像的图像质量。这样,可以在电子设备100处于特定的拍摄模式时,利用电子设备100已存储的指定用户的高清人脸图像,提升实时拍摄到的指定用户的人脸图像的图像质量。
148.示例性的,如图4c所示,在vip模式下,电子设备100当前显示预览画面324,其中预览画面324中包括有指定用户的人脸图像。电子设备100可以接收到用户针对拍摄控件322的输入(例如单击),响应于该输入,电子设备100可以将该预览画面324作为目标图像,并利用已存储的指定用户的高清人脸数据,对目标图像中指定用户的人脸图像进行融合处理。
149.可选的,如图4d所示,在电子设备100对目标图像中指定用户的人脸图像进行融合处理的过程中,电子设备100可以输出提示411,该提示411可用于提示用户正在基于已存储的指定用户的高清人脸数据,对指定用户的人脸图像进行融合处理。其中,其中,提示411可以是文字提示,例如,“正在对vip人像进行ai焕新
…”
等等。在一些可能的实现方式中,该提示332还可以是图片、视频、声音等类型的提示,不作限定。
150.如图4e所示,当电子设备100对目标图像中指定用户的人脸图像融合处理完成后,电子设备100可以将融合处理后的目标图像保存至图库中,并将融合处理后的目标图像对应的缩略图显示在回显控件321上。电子设备100可以接收用户作用于该回显控件321的输入(例如单击),响应于该输入,电子设备100可以显示上述图3f所示的图片浏览界面340。
151.在一些实施例中,用户在使用电子设备100进行录像时,电子设备100可以识别录像视频的帧画面中是否有指定用户的人脸,当识别到有指定用户的人脸时,电子设备100可以利用已存储的指定用户的高清人脸数据,对录像视频的帧画面中指定用户的人脸区域进行融合处理,并显示融合处理后的帧画面。这样,可以在用户录视频时,提高视频中指定用户的人脸区域的图像质量。
152.示例性的,如图5a所示,电子设备100可以显示相机应用界面320。针对相机应用界面320的文字说明可以参考上述图3b所示实施例,在此不再赘述。电子设备100可以接收用户选择录像控件327e的输入(例如单击),响应于该输入,电子设备100可以从“普通拍照模式”切换至“录像模式”,并将上述拍摄控件322替换成录像开始控件501。电子设备100还可以显示出录像时间信息502。在录像模式下,电子设备100可以在识别出预览画面324中包括有指定用户的人脸时,输出提示框510。其中,该提示框510中包括有文字提示(例如,“识别
到vip用户,是否ai焕新?”)、确认控件511、否定控件512。其中,该确认控件511可用于电子设备100基于指定用户的高清人脸数据,对视频拍摄画面中指定用户的人脸区域进行融合处理。该否定控件512可用于触发电子设备100取消对视频拍摄画面的融合处理。
153.电子设备100可以接收用户针对该确认控件511的输入(例如单击),响应于该输入,电子设备100可以基于指定用户的高清人脸数据,对摄像头捕捉到的帧画面中指定用户的人脸区域进行融合处理,得到预览画面531,并在预览框中显示该预览画面531。
154.如图5b所示,该预览画面531中指定用户的人脸区域的图像质量(例如清晰度、分辨率、纹理细节等等)优于预览画面324。可选的,在电子设备100基于指定用户的高清人脸数据,对摄像头捕捉到的帧画面中指定用户的人脸区域进行融合处理,得到预览画面531后,电子设备100可以喜爱你是出提示框520。其中,该提示框520中包括有文字提示(例如,“vip人像ai焕新已准备就绪
…”
)。
155.电子设备100可以接收用户作用于录像开始控件501的输入(例如单击),响应于该输入,电子设备100可以开始录像,基于指定用户的高清人脸数据,对录像过程中每一帧画面中指定用户的人脸区域进行融合处理,并显示出融合处理后的录像画面。
156.如图5c所示,电子设备100在开始录像后,可以显示出录像界面540。其中,该录像界面540包括有录像结束控件503、录像时间信息502、录像画面532。该录像结束控件503可用于触发电子设备100结束录像。电子设备100在开始录像后,可以基于指定用户的高清人脸数据,对录像过程中每一帧画面中指定用户的人脸区域进行融合处理。例如,电子设备100在录像第10秒时显示的录像画面532为融合处理后的帧画面。
157.电子设备100可以接收用户作用于录像结束控件503的输入(例如单击),响应于该输入,电子设备100可以结束录像,并保存针对指定用户的人脸区域进行融合处理后的录像视频。
158.在一些应用场景中,电子设备100可以在拍摄图片或视频后,将拍摄到的图片或视频保存至本地。用户可以在电子设备100的图库应用中查看电子设备100拍摄的图片或视频。电子设备100可以基于指定用户的高清人脸数据对图库中的图片或视频中的指定用户的人脸区域进行融合处理。这样,可以方便用户在拍摄完图片或视频后,无论何时都能够使对已拍摄完图片或视频中指定用户的人脸区域进行融合处理,提升指定用户的人脸图像的图像质量。
159.示例性的,如图6a所示,电子设备100可以显示桌面310。其中,针对该桌面310的文字说明可以参考前述图3a所示实施例,在此不再赘述。
160.电子设备100可以接收用户作用于图库应用图标312的输入(例如单击),响应于该输入,电子设备100可以显示如图6b所示的图库应用界面610。
161.如图6b所示,该图库应用界面610可以显示包括有一个或多个相册(例如,所有照片相册、视频相册、相机相册、人像相册616、微信相册、微博相册等等)。电子设备100可以在该图库应用界面610的下方显示有图库菜单611。其中,该图库菜单611中包括有照片控件612、相册控件613、时刻控件614、发现控件615。其中,该照片控件612用于触发电子设备100以图片缩略图的形式显示本地所有的图片。该相册控件613用于触发电子设备100显示本地图片归属的相册。如图6b所示,当前相册控件613处于选中状态,电子设备100显示该图库应用界面610。该时刻控件614可用于触发电子设备100显示本地存储的精选图片。该发现控件
615可用于触发电子设备100显示图片的分类相册。
162.电子设备100可以接收用户针对人像相册616的输入(例如单击),响应于该输入,电子设备100可以显示如图6c所示的人像相册界面620。
163.如图6c所示,人像相册界面620中显示包括有一张或多张人像图片的缩略图。其中,电子设备100可以标记出该一张或多张人像图片中待融合处理的图片、已融合处理过的图片和融合处理后的图片。例如,缩略图624对应的人像图片已融合处理过,电子设备100基于指定用户的高清人脸数据对缩略图624对应的图片进行融合处理后得到缩略图625对应的人像图片。缩略图621对应的图片为待融合处理的人像图片。电子设备100可以在缩略图623上显示标记624,该标记624用于提示用户该缩略图623对应的人像图片已经基于指定用户的高清人脸数据融合处理过。电子设备100可以在缩略图625上显示标记626,该标记626用于提示用户该缩略图625对应的人像图片为基于指定用户的高清人脸数据融合处理后得到的图片。电子设备100可以在缩略图621上显示标记622,该标记622用于提示用户该缩略图621对应的人像图片等待基于指定用户的高清人脸数据进行融合处理。上述示例仅仅用于解释本技术,不应构成限定。
164.电子设备100可以接收用户作用于缩略图621的输入操作(例如单击),响应于该输入操作,电子设备100可以显示如图6d所示的图片浏览界面630。
165.如图6d所示,由于缩略图621对应的人像图片等待基于指定用户的高清人脸数据进行融合处理,电子设备100可以在该图片浏览界面630中显示该缩略图621对应的人像图片631以及vip焕新控件632,该vip焕新控件632用于触发电子设备100基于指定用户的高清人脸数据对该缩略图621对应的人像图片631中指定用户的人脸区域进行融合处理。该图片浏览界面630还包括有菜单633,针对菜单633的文字说明,可以参考前述图3f所示实施例中针对菜单343的文字描述部分,在此不再赘述。
166.电子设备100可以接收用户针对该vip焕新控件632的第三输入(例如单击),响应于该第三输入,电子设备100可以将基于指定用户的高清人脸数据,对人像图片631中指定用户的人脸区域进行融合处理,得到高清人像图片641。
167.如图6e所示,电子设备100可以在图片浏览界面630中显示该高清人像图片641、标记642、删除控件643、保存控件644、效果对比控件645。其中,删除控件643可用于触发电子设备100删除该高清人像图片641。保存控件644可用于触发电子设备100保存该高清人像图片641至图库中。该效果对比控件645可用于触发电子设备100在高清人像图片641的位置上显示该高清人像图片641融合处理之前的人像图片631。
168.电子设备100可以接收用户针对效果对比控件645的输入操作(例如单击),响应于该输入操作,如图6f所示,电子设备100可以将人像图片631显示在高清人像图片641的显示位置区域。
169.电子设备100可以再次接收用户针对效果对比控件645的输入操作(例如单击),响应于该输入操作,电子设备100可以将高清人像图片641显示在人像图片631的显示位置区域。
170.电子设备100可以接收用户针对保存控件644的输入操作(例如单击),响应于该输入操作,电子设备100可以将该高清人像图片641保存至到电子设备100本地指定存储路径。
171.在一些实施例中,电子设备100可以拍摄图片或视频后,将拍摄到的图片或视频保
存至本地。用户可以在电子设备100的图库应用中查看电子设备100拍摄的图片或视频。电子设备100在空闲时间,或者周期性筛选出图库中指定用户的图像质量较差的图片或视频。电子设备100可以基于指定用户的高清人脸数据对图像质量较差的图片或视频中指定用户的人脸区域进行融合处理。这样,可以方便用户在拍摄完图片或视频后,无论何时都能够使对已拍摄完图片或视频中指定用户的人脸区域进行融合处理,提升指定用户的人脸图像的图像质量。
172.在一些应用场景中,电子设备100可以扫描图库中已存储的多张人脸图像中所包括的用户人脸。电子设备100可以基于用户的不同,将图库中已存储的多张人脸图像归类到多个人脸相册中,其中,一个人脸相册中存储有同一个用户的人脸图片。这样,电子设备100可以在从已存储的人脸图片中提取指定用户的高清人脸数据时,对图库中的人脸图片进行归类,方便用户查看指定用户的人脸图片。
173.示例性的,如图7a所示,电子设备100可以响应于针对上述图库应用界面610中人像相册616的输入(例如单击),响应于该输入,电子设备100可以显示人像相册界面710。其中,该人像相册界面710可以包括有多个用户的人脸相册(例如“我”的人脸相册711、“用户2”的人脸相册713、“爸爸”的人脸相册、“儿子”的人脸相册、“女儿”的人脸相册、“合照”的相册,等等)。其中,每个人脸相册下方都显示有该人脸相册的用户名称。例如,人脸相册711的用户名称712为“我”,人脸相册713的用户名称714为“用户2”。其中,电子设备100可以基于用户的输入更改人脸相册的用户名称。
174.如图7b所示,电子设备100可以接收用户针对人脸相册713的用户名称714的输入(例如长按)后,电子设备100可以接收用户输入的文字信息,电子设备100可以将该文字信息作为人脸相册713的用户名称714。例如,人脸相册713的用户名称714可以由“用户2”改为“老公”。
175.电子设备100可以接收用户针对人脸相册711的输入,响应于该输入,电子设备100可以显示如图7c所示的人脸相册界面730。
176.如图7c所示,该人脸相册界面730中包括有一张或多张指定用户的人脸图片的缩略图。可选的,电子设备100可以标记出该一张或多张人脸图片中待融合处理的图片、已融合处理过的图片和融合处理后的图片,例如,缩略图731对应的人脸图片为待融合处理的图片,该缩略图731上可以显示有标记732,该标记732可用于提示用户该缩略图731对应的人脸图片等待基于指定用户的高清人脸数据进行融合处理。
177.电子设备100可以接收用户针对该缩略图731的输入(例如单击),响应于该输入,电子设备100可以显示如图7d所示的图片浏览界面740。
178.如图7d所示,该图片浏览界面740可以包括有该缩略图731对应人脸图片741、vip焕新控件742和菜单743。其中,针对该vip焕新控件742以及该菜单743的文字说明可以参考前述图6d中所示的vip焕新控件632以及该菜单633的文字描述部分,在此不再赘述。
179.电子设备100可以接收用户针对该vip焕新控件732的输入操作(例如单击),响应于该输入操作,电子设备100可以将基于用户“我”的高清人脸数据,对人脸图片741中的人脸区域进行融合处理,得到高清人像图片。电子设备100可以在上述图6e所述的图片浏览界面630中显示该高清人像图片。具体内容,可以参考上述图6e所示实施例,在此不再赘述。
180.下面介绍本技术实施例中电子设备100从图库中提取出机主用户的高清人脸数据
的过程。
181.在一些应用场景中,电子设备100上可以配置有人脸认证解锁的功能。在用户使用电子设备100上的人脸认证解锁功能之前,用户需要在电子设备100上进行人脸识别(faceidentity,faceid)注册,录入人脸认证图像。电子设备100可以基于用户在faceid注册时录入的机主用户的人脸认证图像,从图库中存储的图片中筛选出机主用户的高清人脸图像。电子设备100可以基于机主用户的高清人脸图像,生成机主用户的高清人脸数据。其中,该机主用户的高清人脸数据可用于对实时拍摄到的或用户选择的机主用户的人脸图像或视频画面进行融合处理,提升机主用户人脸图像的图像质量。
182.图8示出了本技术实施例提供的一种高清人脸数据的提取过程的示意图。
183.如图8所示,该高清人脸数据的提取过程可以包括如下步骤:
184.s801、电子设备100可以获取人脸认证注册成功的用户1的人脸认证图像1。
185.在电子设备100获取人脸认证注册成功的用户1的人脸认证图像1之前,电子设备100可以接收用户的人脸注册输入,响应于该人脸注册输入,电子设备100可以通过摄像头捕捉到用户录入的人脸认证图像1。在人脸认证注册完成后,电子设备100可以存储用户录入的人脸认证图像1。其中,人脸认证图像1包括用户1的人脸,电子设备100可以将用户1确定为电子设备100的机主用户。
186.可选的,电子设备100可以预先获取到用户确认将人脸认证注册成功的人脸认证图像用于图库人像分类和提升拍照图像质量的权限。在获取到该权限后,电子设备100才可以将人脸认证注册成功的人脸认证图像用于图库人像分类和提升拍照图像质量。
187.示例性的,如图9a所示,电子设备100可以显示桌面310。其中,针对该桌面310的文字说明,可以参考前述图3a所示实施例的文字部分,在此不再赘述。
188.电子设备100可以接收用户针对桌面310中设置应用图标313的输入,响应于该输入,电子设备100可以显示如图9b所示的设置应用界面910。
189.如图9b所示,设置应用界面910可以包括一个或多个设置条目。其中,一个或多个设置条目包括无线和网络设置条目、设备连接设置条目、应用和通知设置条目、电池设置条目、显示设置条目、声音设置条目、存储设置条目、生物识别和密码条目911、用户和账户设置条目、系统设置条目,等等。
190.电子设备100可以接收用户针对该生物识别和密码条目911的输入,响应于该输入,电子设备100可以显示如图9c所示的生物识别和密码设置界面920。
191.如图9c所示,该生物识别和密码设置界面920可以包括人脸识别设置条目921和其他设置条目(例如,指纹设置条目、更改锁屏密码设置条目、关闭锁屏密码设置条目、智能解锁设置条目、安全锁定设置条目,等等)。
192.电子设备100可以接收用户针对该人脸识别设置条目921的输入,响应于该输入,电子设备100可以显示如图9d所示的人脸识别界面930。
193.如图9d所示,该人脸识别界面930可以包括面容设置条目931和一个或多个权限设置条目(例如,访问保密柜设置条目、访问应用锁设置条目、访问图库照片设置条目932,等等)。其中,该访问图库照片设置条目932上可以显示有开关933,该开关933可用于触发电子设备100开启人脸识别用于图库人像分类和提升拍照图像质量。
194.电子设备100可以接收用户针对该面容设置条目931的输入,响应于该输入,电子
设备100可以显示如图9e所示的面容设置界面940。
195.如图9e所示,该面容设置界面940可以包括取景框941,该取景框941可用于显示摄像头捕捉到的画面。电子设备100可以通过摄像头捕捉到用户1的人脸图像942。在电子设备100捕捉到用户1的人脸图像942之后,电子设备100可以存储用户1的人脸图像942,并提取出人脸图像942中的人脸信息用作电子设备100的人脸解锁以及其他人脸识别功能。电子设备100在获取到用户1的人脸图像942可以显示如图9f所示的人脸认证注册成功标记943,该人脸注册成功标记943可用于指示电子设备100已完成一个用户的人脸认证注册。
196.如图9g所示,在电子设备100完成一个用户的人脸认证注册后,电子设备100可以在人脸识别界面930上显示出面部数据删除条目934和备用面容设置条目935。其中,该面部数据删除条目934可用于触发电子设备100删除已注册完的用户的人脸信息。该备用面容设置条目935可用于触发电子设备100对注册另一个用户的人脸信息用作人脸解锁以及其他人脸识别功能。
197.电子设备100可以接收用户针对访问图库照片设置条目932上开关933的输入(例如单击)。如图9h所示,响应于该针对开关933的输入,电子设备100可以将该开关933从关闭状态切换至开启状态。在该开关933处于开启状态时,电子设备100可以将人脸认证注册成功的人脸认证图像用作图库人像分类和提升拍照图像质量。
198.上述示例仅仅用于解释本技术,不应构成限定。
199.s802、电子设备100可以裁剪出人脸认证图像1中的人脸所在区域,得到人脸区域图像1。
200.s803、电子设备100可以将人脸区域图像1作为用户1的人物信息1,保存至人物数据库中。
201.这样,电子设备100先从人脸认证图像1中裁剪出人脸区域图像1,可以减少人脸认证图像1中人脸区域之外的无关信息对人脸区域之内有效信息的影响,提高后续人脸识别的精确性。
202.可选的,电子设备100也可以直接将人脸认证图像1作为用户1的人物信息1,保存至人物数据库中。
203.可选的,电子设备100也可以从人脸区域图像1中提取出用户1的人脸特征信息1,并将用户1的人脸特征信息1作为用户1的人物信息1保存至人物数据库中。
204.当电子设备100上人脸认证注册有多个机主用户的人脸认证图像时,该人物数据库中可以包括有多个机主用户的人物信息。
205.s804、电子设备100基于人物数据库中用户1的人物信息1,查找图库中用户1的多张人脸图像。
206.其中,电子设备100可以基于用户1的人物信息1,与图库中每张图片进行人脸匹配,若匹配成功,则电子设备100可以将该图片确定为用户1的人脸图像。
207.在一种可能的实现方式中,电子设备100可以先筛选出图库中的人像图片,然后再将图库中的人像图片,与用户1的人物信息1进行匹配,若匹配成功,则电子设备100可以将该匹配成功的人像图片确定为用户1的人脸图像。
208.s805、电子设备100可以从用户1的多张人脸图像中筛选出用户1的一张或多张高清人脸图像。
209.其中,电子设备100判断人脸图像是否是高清人脸图像,可以参考后续图10所示实施例,在此不再赘述。
210.s806、电子设备100基于用户1的一张或多张高清人脸图像,生成用户1的高清人脸数据。
211.其中,高清人脸数据可以包括如下一种或多种:高清人脸图像的rgb数据、高清人脸图像的yuv数据、高清人脸图像的raw数据、高清人脸图像的人脸特征数据、高清人脸图像的五官模型数据和高清人脸图像的人脸特征点数据等等。
212.s807、电子设备100可以保存用户1的高清人脸数据至高清人脸库中。
213.其中,该高清人脸库中的高清人脸数据可用于增强电子设备100拍摄图像的图像质量。
214.s808、在电子设备100裁剪出人脸认证图像1中的人脸所在区域得到人脸区域图像1后,电子设备100可以判断人脸区域图像1是否是用户1的高清人脸图像。若是,则电子设备100可以将该人脸区域图像1也作为用户1的高清人脸图像保存至高清人脸库中。
215.其中,电子设备100判断人脸区域图像1是否是高清人脸图像,可以参考后续图10所示实施例中电子设备100判断人脸图像是否是高清人脸图像的过程,在此不再赘述。
216.可选的,s809、在电子设备100基于人物数据库中用户1的人物信息1,查找出图库中用户1的人脸图像后,电子设备100可以将图库中用户1的人脸图像归类保存至用户1的人脸相册1中。
217.示例性的,如上述图7a-图7b所示实施例,用户1为机主用户“我”,用户1的人脸相册1可以为上述图7a中所示的人脸相册711。
218.在本技术实施例中,上述步骤s804至步骤s809,可以周期性多次执行。例如,上述步骤s804至步骤s809,可以每一周最后一天凌晨4点钟执行。这样,可以持续更新丰富机主用户的高清人脸数据,提高利用机主用户的高清人脸数据增强人脸图像的图像质量的效果。
219.下面介绍本技术实施例中提供的高清人脸图像的判断过程。
220.图10示出了本技术实施例中提供的一种高清人脸图像的判断过程示意图。
221.如图10所示,该高清人脸图像的判断过程可以包括如下步骤:
222.s1001、电子设备100获取人脸图像的拍摄信息,拍摄信息包括拍摄摄像头信息、感光度(iso)、曝光时间和变焦(zoom)倍率。
223.其中,在电子设备100在拍摄人脸图像时可以将人脸图像的拍摄信息与人脸图像一起保存为图片文件。因此,在电子设备100判断人脸图像是否是高清人脸图像时,可以获取该人脸图像的拍摄信息。
224.其中,拍摄摄像头信息可用于指示拍摄设备(可以是电子设备100或其他设备)在拍摄人脸图像时,拍摄设备所使用的摄像头类型。例如,摄像头类型可以包括主摄像头、前置摄像头、长焦摄像头、超广角摄像头等等。
225.s1002、电子设备100可以判断人脸图像的拍摄摄像头是否为主摄像头。若人脸图像的拍摄摄像头为主摄像头,则执行步骤s1003。若人脸图像的拍摄摄像头不为主摄像头,则执行步骤s1004。
226.s1003、电子设备100可以判断是否人脸图像的iso小于第一阈值且曝光时间小于
第二阈值且人脸区域尺寸与人脸图像的占比大于第三阈值。若是,则执行步骤s1006。
227.其中,第一阈值可以是“200”,第二阈值可以是“1/50”,第三阈值可以是“1/4”。上述第一阈值、第二阈值和第三阈值的取值,仅仅用于解释本技术,不应构成限定,具体实现中还可以取其他值。
228.s1004、电子设备100可以判断人脸图像的拍摄摄像头是否为长焦镜头。若是,则执行步骤s1005。
229.s1005、电子设备100可以判断是否人脸图像的iso小于第四阈值且曝光时间小于第五阈值且人脸区域尺寸与人脸图像尺寸的占比大于第六阈值且zoom倍率小于第七阈值。若是,则电子设备100可以执行步骤s1006。
230.其中,第四阈值可以是“100”,第五阈值可以是“1/100”,第六阈值可以是“1/4”,第七阈值可以是“长焦镜头物理变焦倍率的2倍”。上述第一阈值、第二阈值和第三阈值的取值,仅仅用于解释本技术,不应构成限定,具体实现中还可以取其他值。
231.s1006、电子设备100可以对人脸图像进行人脸检测,得到人脸图像中的人脸区域和人脸偏转角度。
232.s1007、电子设备100可以判断是否人脸图像中人脸区域的清晰度大于第八阈值且人脸偏转角度小于第九阈值,若是,则执行步骤s1008。
233.s1008、电子设备100可以确定人脸图像为高清人脸图像。
234.其中,人脸区域的清晰度可以用如下任一种清晰度评价方法:brenner梯度函数、laplacian梯度函数、灰度方差(smd)函数、灰度方差乘积(smd2)函数、方差函数、vollath函数、熵函数、eav点锐度算法函数,等等。清晰度的值越大,人脸区域越清晰。当清晰度的评价方法不同时,电子设备100上设置的第八阈值也不同。
235.人脸偏转角度用于标识人脸朝向与人脸图像所在平面的夹角。人脸偏转角度越小,表示人脸越正对人脸图像所在的平面。其中,电子设备100可以先获取到人脸图像中人脸关键点,然后基于人脸关键点计算出人脸的偏转角度。例如,第九阈值可以是“10度”。
236.在一种可能的实现方式中,电子设备100可以基于人脸图像的图像参数信息,判断人脸图像是否为高清人脸图像。当图像参数信息满足预设条件时,电子设备100可以确定人脸图像为高清人脸图像。其中,预设条件不限于如上述图10所示实施例中的判断条件,还可以是其他判断条件或是上述判断条件的任意组合。其中,图像参数信息包括但不限于以下一种或多种:拍摄信息、人脸区域清晰度和人脸偏转角度等等。拍摄信息包括但不限于以下一种或多种:拍摄摄像头、iso、曝光时间、人脸区域尺寸和变焦倍率等等。
237.例如,电子设备100还可以只通过人脸图像的人脸区域清晰度,来判断该人脸图像是否为高清人脸图像。当人脸图像的人脸区域清晰度大于第八阈值时,电子设备100可以确定该人脸图像为高清人脸图像。
238.又例如,电子设备100还可以通过人脸图像的人脸区域清晰度和人脸偏转角度,来判断该人脸图像是否为高清人脸图像。当人脸图像的人脸区域清晰度大于第八阈值且人脸偏转角度小于第九阈值时,电子设备100可以确定该人脸图像为高清人脸图像。
239.上述示例仅仅用于解释本技术,不应构成限定。
240.下面介绍本技术实施例中电子设备100从图库中提取出非机主用户的高清人脸数据的过程。
241.在一些应用场景中,电子设备100可以从图库中保存的图片中识别出多个用户的人脸图像。电子设备100可以按照用户的不同,对图库中的人脸图像进行分类。电子设备100可以从指定用户(例如,图库中人脸图像的数量大于一定值的用户)的多张人脸图像中,筛选出指定用户的一张或多张高清人脸图像,并基于一张或多张高清人脸图像生成指定用户的高清人脸数据。其中,该指定用户的高清人脸数据可用于对实时拍摄到的或用户选择的指定用户的人脸图像或视频画面进行融合处理,提升指定用户的人脸图像的图像质量。
242.图11示出了本技术实施例提供的另一种高清人脸数据的提取过程的示意图。
243.如图11所示,该高清人脸数据的提取过程可以包括如下步骤:
244.s1101、电子设备100从图库中保存的图片中识别出多个用户的人脸图像,并对多个用户的人脸图像,按照用户进行分类。
245.s1102、电子设备100可以计算图库中每个用户的人脸图像的数量/出现频率。
246.s1103、电子设备100可以判断用户2的人脸图像的图像数量/出现频率是否满足预设条件。
247.若是,则s1104、电子设备100可以从用户2的多张人脸图像中筛选出用户2的一张或多张高清人脸图像。
248.其中,当用户2的人脸图像的图像数量/出现频率满足预设条件时,电子设备100可以将用户2确定为vip用户。vip用户的高清人脸数据可用于提升包括有vip用户的人脸图像的图像质量。
249.用户2可以是在上述图库的人脸图像中识别出的多个用户的中的任意一个用户。电子设备100判断用户2的人脸图像的图像数量和/或出现频率是否满足预设条件,具体可以包括:电子设备100判断用户2的人脸图像的图像数量是否大于第一数值;或,电子设备100判断用户2的人脸图像的出现频率是否大于第一频率值。
250.用户2的人脸图像的出现频率可以指用户2的人脸图像数量占图库中所有人脸图像数量的比例。可选的,用户2的人脸图像的出现频率还可以指拍摄时间在指定时间内的用户2的人脸图像数量。
251.s1105、电子设备100基于用户2的一张或多张高清人脸图像,生成用户2的高清人脸数据。
252.其中,高清人脸数据可以包括如下一种或多种:高清人脸图像的rgb数据、高清人脸图像的yuv数据、高清人脸图像的raw数据、高清人脸图像的人脸特征数据、高清人脸图像的五官模型数据和高清人脸图像的人脸特征点数据等等。
253.s1106、电子设备100可以保存用户2的高清人脸数据至高清人脸数据库中。
254.其中,该高清人脸库中的高清人脸数据可用于增强电子设备100拍摄图像的图像质量。
255.s1107、在电子设备100从用户2的多张人脸图像中筛选出用户2的一张或多张高清人脸图像之后,电子设备100可以从用户2的一张或多张高清人脸图像中选择出高清人脸图像2。
256.其中,高清人脸图像2可以是一张或多张高清人脸图像中任意一张高清人脸图像。
257.可选的,高清人脸图像2可以是一张或多张高清人脸图像中图像质量最好的一张高清人脸图像。例如,高清人脸图像2可以是一张或多张高清人脸图像中人脸区域清晰度最
好的一张高清人脸图像。又例如,高清人脸图像2可以是一张或多张高清人脸图像中人脸区域清晰度最好且人脸偏转度最小的一张高清人脸图像。
258.s1108、电子设备100可以裁剪出用户2的高清人脸图像2中的人脸区域,得到人脸区域图像2。
259.s1109、电子设备100可以将人脸区域图像2作为用户2的人物信息2,保存至人物数据库中。
260.这样,电子设备100先从高清人脸图像2中裁剪出人脸区域图像2,可以减少高清人脸图像2中人脸区域之外的无关信息对人脸区域之内有效信息的影响,提高后续人脸识别的精确性。
261.可选的,电子设备100也可以直接将高清人脸图像2作为用户2的人物信息2,保存至人物数据库中。
262.可选的,电子设备100也可以从人脸区域图像2中提取出用户2的人脸特征信息2,并将用户2的人脸特征信息2作为用户2的人物信息2保存至人物数据库中。
263.可选的,s1110、在电子设备100多个用户的人脸图像按照用户分类之后,电子设备100可以将图库中用户2的人脸图像归类保存至用户2的人脸相册2中。
264.示例性的,如上述图7a-图7b所示实施例,用户2可以为用户“老公”、用户“爸爸”、用户“儿子”、用户“女儿”中的任一个用户。例如,用户2的人脸相册2可以为上述图7a中所示的人脸相册713。
265.在一些实施例中,电子设备100上可以配置有人脸认证解锁的功能。在用户使用电子设备100上的人脸认证解锁功能之前,用户需要在电子设备100上进行faceid注册,录入人脸认证图像。电子设备100可以基于用户在faceid注册时录入的机主用户的人脸认证图像,从图库中存储的图片中筛选出机主用户的高清人脸图像。电子设备100还可以识别出图库中的合照图像,其中,合照图像中包括有多个用户的人脸。电子设备100可以通过图库中的合照图像,筛选出与机主用户合照次数或合照频率大于一定阈值的vip用户。电子设备100可以从vip用户的多张人脸图像中筛选出vip用户的一张或多张高清人脸图像,并基于vip用户的一张或多张高清人脸图像,生成vip用户的高清人脸数据。电子设备100可以将vip用户的高清人脸数据保存至高清人脸库中。vip用户的高清人脸数据可用于提升包括有vip用户的人脸图像的图像质量。
266.可选的,电子设备100将合照图像归类保存至合照图像的人脸相册中。示例性的,合照图像的人脸相册可以为上述图7a中所示的人脸相册715。
267.在一些实施例中,电子设备100可以还可以对图库中的人脸图像作年龄检测和/或性别检测,确定出vip用户的年龄和/或性别。电子设备100可以基于图库中vip用户与机主用户的合照频率,判断vip用户是否为亲属用户。当vip用户与机主用户的合照频率大于一定阈值时,电子设备100可以将该vip用户确定为亲属用户。电子设备100可以根据亲属用户的年龄和/或性别,确定出亲属用户的亲属类型。例如,当亲属用户的年龄小于10岁且为女性时,电子设备100可以将该亲属用户的亲属类型确定为“女儿”。电子设备100可以将该亲属用户的亲属类型也作为该亲属用户的人物信息保存至人物数据库中。
268.其中,在电子设备100确定出该亲属用户的亲属类型后,电子设备100用该亲属类型的亲属名称标记出该亲属用户的相册。
269.可选的,在电子设备100在显示拍摄预览界面时,电子设备100若识别出预览画面中包括有亲属用户时,可以在拍摄预览界面上显示亲属类型提示,该亲属类型提示可用于标识预览画面中的用户与机主用户的关系。
270.下面介绍本技术实施例中提供的一种图像处理方法。
271.图12示例性的示出了本技术实施例中提供的一种图像处理方法的流程示意图。
272.如图12所示,该图像处理方法可以包括如下步骤:
273.s1201、电子设备100可以显示拍摄预览界面,拍摄预览界面中可以包括拍摄键和预览画面。
274.示例性的,该拍摄预览界面可以为上述图3b所示的相机应用界面320,或图4c所示的相机应用界面320。
275.s1202、电子设备100识别拍摄场景和预览画面中的人脸。
276.其中,电子设备100可以基于预览画面的亮度和预览画面中拍摄目标(例如人脸)与电子设备100的距离,确定出电子设备100的拍摄场景。其中,当预览画面的亮度小于预设亮度阈值且预览画面中拍摄目标(例如人脸)与电子设备100的距离小于预设距离阈值时,电子设备100可以确定拍摄场景为低清拍摄场景。
277.s1203、电子设备100接收到用户的第一输入。
278.s1204、响应于第一输入,电子设备100可以判断是否预览画面中包括有人物数据库中第一用户的人脸且拍摄场景为低清拍摄场景。若是,则执行步骤s1205至步骤s1209。若否,则执行步骤s1210至步骤s1214。
279.其中,人物数据库中可以包括有多个vip用户的人物信息。其中,多个vip用户可以包括机主用户和非机主用户。针对机主用户的人物信息的获取过程可以参考前述图8所示实施例,针对非机主用户的人物信息,可以参考前述图10所示实施例,在此不再赘述。
280.电子设备100可以从预览画面中提取出人脸信息与人物数据库中的多个vip用户的人物信息依次进行匹配。当多个vip用户中第一用户的人物信息与预览画面中的人脸信息匹配时,电子设备100可以确定出预览画面中包括第一用户的人脸。
281.可选的,当电子设备100可以判定出预览画面中不包括有人物数据库中第一用户的人脸或者拍摄场景为低清拍摄场景时,电子设备100可以直接保存在接收到第一输入时,摄像头采集到的第一图像。
282.在一种可能的实现方式中,电子设备100可以只判断预览画面中是否包括有人物数据库中第一用户的人脸,若是,则电子设备100执行步骤s1205至步骤s1209。若否,则执行步骤s1210至步骤s1214。可选的,当电子设备100判定出预览画面中不包括有人物数据库中第一用户的人脸时,电子设备100可以直接保存在接收到第一输入时,摄像头采集到的第一图像。
283.s1205、电子设备100可以获取到摄像头采集到的第一图像。
284.其中,该第一图像可以是电子设备100在接收到用户的第一输入时,摄像头采集到的图像。示例性的,该第一输入可以是上述针对图3c所示相机应用界面320中针对拍摄控件322的输入。又示例性的,该第一输入可以是针对图4a所示实施例中vip模式控件327h的输入。又示例性的,该第一输入可以是针对图4c所述实施例中拍摄控件322的输入。
285.在一些实施例中,第一图像可以是录像过程中拍摄到的人脸图像。示例性的,第一
图像可以是上述图5b-图5c所示实施例中录像过程中摄像头采集到的第一用户的人脸图像。
286.摄像头包括但不限于前置摄像头、后置摄像头、长焦摄像头、广角摄像头,等等。
287.s1206、电子设备100可以检测第一图像中的人脸特征点。
288.s1207、电子设备100可以利用第一图像的人脸特征点,将高清数据库中第一用户的高清人脸数据与第一图像进行人脸特征配准、人脸细节融合,得到第一高清图像。
289.其中,高清人脸数据可以包括如下一种或多种:高清人脸图像的rgb数据、高清人脸图像的yuv数据、高清人脸图像的raw数据、高清人脸图像的人脸特征数据、高清人脸图像的五官模型数据和高清人脸图像的人脸特征点数据等等。
290.其中,当高清人脸数据包括高清人脸图像数据(包括高清人脸图像的rgb数据或高清人脸图像的yuv数据或高清人脸图像的raw数据)时,电子设备100可以提取第一图像与高清人脸图像数据中匹配的特征点。然后,电子设备100可以通过匹配特征点对,得到图像空间坐标变换参数。然后,电子设备100可以根据该图像空间坐标变化参数进行图像配准。在配准完成后,电子设备100可以将高清人脸图像数据中的人脸细节信息融合至第一图像中人脸区域,得到第一高清图像。其中,人脸细节信息可以包括清晰度高的细节、色彩丰富的特征点等等。这样,可以提高第一图像中人脸区域的细节清晰度、色彩、白平衡等等图像质量。
291.当高清人脸数据包括高清人脸图像的人脸特征数据时,电子设备100可以在识别第一图像中人脸区域后,将高清人脸图像的人脸特征数据融合到第一图像中人脸区域中。
292.当高清人脸图像的五官模型数据时,电子设备100可以在识别出第一图像中人脸特征点后,基于人脸特征点确定出第一图像中人脸的五官位置。电子设备100可以将高清人脸图像的五官模型融合进第一图像的中人脸对应的五官位置。
293.s1208、电子设备100可以基于第一图像的人脸特征点对第一高清图像中人脸区域进行美肤和/或磨皮处理,得到第二高清图像。
294.电子设备100可以基于第一图像的人脸特征点确定出第一高清图像中人脸的五官位置。电子设备100可以基于第一高清图像中人脸的五官位置,对第一高清图像中人脸的五官位置进行美肤和/或磨皮处理,得到第二高清图像。
295.s1209、电子设备100可以保存第二高清图像。
296.其中,电子设备100获取到第二高清图像后,可以保存该第二高清图像至图库中。
297.在一种可能的实现方式中,电子设备100可以在得到第一高清图像后,直接将第一高清图像保存至图库中,不执行步骤s1208-步骤s1209。
298.s1210、电子设备100可以获取摄像头采集到的多帧图像。
299.电子设备100可以在接收到上述第一输入时,获取到摄像头采集到的多帧图像。
300.s1211、电子设备100可以基于多帧图像进行人脸配准和人脸细节融合,得到第二图像。
301.电子设备100可以将多帧图像中的人脸配准到图像中的同一位置,并在人脸配准之后,可以将多帧图像中的人脸细节信息融合到一张图像中,得到第二图像。
302.s1212、电子设备100可以检测第二图像中的人脸特征点。
303.s1213、电子设备100可以基于第二图像中的人脸特征点对第二图像中人脸区域进
行美肤和/或磨皮处理,得到第三图像。
304.电子设备100可以基于第二图像的人脸特征点确定出第二图像中人脸的五官位置。电子设备100可以基于第二图像中人脸的五官位置,对第二图像中人脸的五官位置进行美肤和/或磨皮处理,得到第三图像。
305.s1214、电子设备100可以保存第三图像。
306.在一种可能的实现方式中,电子设备100可以在得到第二图像后,直接将第二图像保存至图库中。
307.在一种可能的实现方式中,当电子设备100识别出拍摄场景不为低清拍摄场景时,电子设备100可以直接保存摄像头采集到的单帧图像。
308.在一种可能的实现方式中,当电子设备100识别出拍摄场景不为低清拍摄场景时,电子设备100可以获取摄像头采集到的多帧图像,并基于多帧图像进行人脸配准和人脸细节融合,得到第二图像。电子设备100可以直接保存该第二图像。
309.在一种可能的实现方式中,预览画面中可以不包括有人物数据库中任一用户的人脸。电子设备100在接收到针对拍摄键的第一输入后,可以保存摄像头采集到的单帧图像。可选的,预览画面中包括有人脸,但该人脸不为人物数据库中任一用户的人脸。电子设备100可以获取摄像头采集到的多帧图像,该多帧图像中包括有人脸。电子设备100可以基于多帧图像进行人脸配准和人脸细节融合,得到第二图像。
310.在一种可能的实现方式中,电子设备100还可以直接在获取到第一图像后再判断是否第一图像中包括人物数据库中第一用户的人脸且第一图像的拍摄场景为低清拍摄场景,若是,则执行上述步骤s1206至步骤s1209。若否,则执行上述步骤s1210至步骤s1214。
311.在一些实施例中,电子设备100可以在拍摄图片或视频后,将拍摄到的图片或视频保存至本地。用户可以在电子设备100的图库应用中查看电子设备100拍摄的图片或视频。上述第一图像可以是图库中的图片或视频画面。电子设备100可以基于第一用户的高清人脸数据对图库中的图片或视频画面中的第一用户的人脸区域进行融合处理。这样,可以方便用户在拍摄完图片或视频后,无论何时都能够对已拍摄完图片或视频中指定用户的人脸区域进行融合处理,提升指定用户的人脸图像的图像质量。
312.在一些实施例中,第一图像可以是多vip用户的合照。该第一图像中可以包括有多个vip用户的人脸。电子设备100可以使用这高清人脸库中这多个vip用户的高清人脸数据,分别对第一图像中这多个用户的人脸区域进行融合处理。这样,可以提高合照中多个用户的人脸区域的图像质量。
313.以上所述,以上实施例仅用以说明本技术的技术方案,而非对其限制;尽管参照前述实施例对本技术进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本技术各实施例技术方案的范围。
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1