本申请涉及光学检测技术领域,并且更具体地,涉及图像传感装置和电子设备。
背景技术:
随着3d传感技术的高速发展,越来越多的电子设备开始采用3d传感模组来感测3d场景信息。例如,3d人脸识别技术、3d手势识别技术、ar/vr、3d图绘制、3d测距、无人驾驶技术等成为各大厂商当前的研发热点。例如,以3d人脸识别技术为例,其是基于人的脸部特征进行身份识别的一种生物识别技术。
基于深度信息的3d人脸识别技术更能保证人脸识别的安全性,但是,采用该技术的电子设备上需要配置深度相机和2d相机,以及对应的光源和其他辅助电路,需要占用电子设备的一定的空间,不能满足电子设备的小型化,轻薄化的需求。
技术实现要素:
本申请提供一种图像传感装置和电子设备,能够降低成本,减小对电子设备的空间的占用。
第一方面,提供了一种图像传感装置,包括:摄像头和tof模组,其中,所述tof模组包括:
tof发射组件,包括光源和匀光元件,所述匀光元件设置在所述光源的出光一侧,其中,所述匀光元件用于对所述光源发射的光束进行扩散并均匀投射到待测对象上;和
tof接收组件,用于接收所述tof发射组件发射到所述待测对象并从所述待测对象返回的光束,以及根据接收到的光束来获得所述待测对象的深度信息;
所述摄像头用于接收所述tof发射组件发射到所述待测对象并从所述待测对象返回的光束,并根据接收到的所述光束获取所述待测对象的二维图像信息。
在一些可能的实现方式中,所述tof模组为基于间接飞行时间感测原理来执行深度信息感测的i-tof模组。
在一些可能的实现方式中,所述光源包括多个间隔设置的发光点,每个发光点用于发射光束,每个发光点发出的光束包括多个光脉冲,且所述多个脉冲为连续的,且所述光束为红外光光束。
在一些可能的实现方式中,所述光源为vcsel阵列光源。
在一些可能的实现方式中,所述匀光元件为扩散片、doe、或微透镜阵列中的任意一种,所述匀光元件用于将所述多个发光点发出来的光束扩散为强度均匀分布的泛光。
在一些可能的实现方式中,所述光源发出的光束包括多个连续的光脉冲信号,所述多个连续的光脉冲信号呈周期性变化,所述多个连续的光脉冲信号经过所述匀光元件的调整后变为泛光脉冲信号。
在一些可能的实现方式中,所述光脉冲信号为正弦波信号或方波信号。
在一些可能的实现方式中,所述图像传感装置还包括控制单元,所述控制单元用于控制所述摄像头和所述tof接收组件同时或分时工作,以分别获得所述待测对象的二维图像信息和深度信息。
在一些可能的实现方式中,当所述tof发射组件发射泛光脉冲到所述待测对象时,所述摄像头接收所述tof发射组件发射到所述待测对象并从所述待测对象返回的泛光脉冲,并根据所述泛光脉冲获得待测对象的二维图像信息;所述tof接收组件接收所述tof发射组件发射到所述待测对象并从所述待测对象返回的泛光脉冲,并根据接收到的泛光脉冲与所述tof发射组件发射出来的泛光脉冲之间的相位差来获得所述待测对象的深度信息。
在一些可能的实现方式中,所述tof模组还包括驱动组件,用于驱动所述tof发射组件中的光源发射所述光脉冲信号。
在一些可能的实现方式中,所述驱动组件设置在所述tof接收组件中。
在一些可能的实现方式中,所述控制单元用于:
控制所述摄像头首先接收从所述待测对象返回的泛光脉冲,以获取所述待测对象的二维图像;
在所述待测对象的二维图像存在人脸图像的情况下,控制所述tof接收组件接收从所述待测对象返回的泛光脉冲,以获取所述待测对象的深度信息;或
所述控制单元用于:
控制所述tof接收组件首先接收从所述待测对象返回的泛光脉冲,以获取所述待测对象的深度信息;
在所述待测对象的深度信息符合人脸特征或立体物体特征的情况下,控制所述摄像头接收从所述待测对象返回的泛光脉冲,以获取所述待测对象的二维图像。
在一些可能的实现方式中,所述摄像头和所述tof接收组件分时或同时共用所述tof接收组件的同一光源发出的光束。
在一些可能的实现方式中,当所述同一光源发出的光束均为光脉冲信号时,所述摄像头和所述tof接收组件分时或同时共用所述tof接收组件的同一光源发出的光脉冲信号;当所述同一光源用于分时发出恒定强度的光束和强度变化的光脉冲信号时,所述摄像头用于当所述同一光源发出恒定强度的光束时获得待测对象的二维图像,所述tof接收组件用于当所述同一光源发出强度变化的光脉冲信号时获得待测对象的深度信息。
在一些可能的实现方式中,所述图像传感装置用于执行3d人脸识别、3d图绘制、测距、动作识别、ar、vr中的任意一种或几种。
第二方面,提供了一种电子设备,包括如第一方面或其任一可能实现方式中的图像传感装置。
基于上述技术方案,用于二维成像的成像装置和用于深度成像的成像装置可以共用一个光源,这样,不需要为用于二维成像的成像装置专门设置对应的光源,也就不需要配置该光源对应的其他辅助电路,例如光源的驱动电路,从而能够减少图像传感装置的器件的数量,降低了产品的成本,同时降低所述图像传感装置的尺寸,更加能够适用于对尺寸和空间有要求的电子设备。
附图说明
图1是根据本申请实施例的图像传感装置的示意性图。
图2是根据本申请实施例的电子设备的示意性图。
图3是根据本申请另一实施例的图像传感装置的示意性图。
图4是根据本申请另一实施例的电子设备的示意性图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。进一步地,所描述的特征、结构可以以任何合适的方式结合在一个或更多实施方式中。
在本申请的描述中,需要理解的是,术语"第一"、"第二"仅用于描述日的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个所述特征。在本申请的描述中,“多个”的含义是两个或两个以上,除非另有明确具体的限定。
在下文的描述中,提供许多具体细节以便能够充分理解本申请的实施方式。然而,本领域技术人员应意识到,即使没有所述特定细节中的一个或更多,或者采用其它的结构、组元等,也可以实践本申请的技术方案。在其它情况下,不详细示出或描述公知结构或者操作以避免模糊本申请之重点。
请参阅图1,图1示出了本申请实施例的图像传感装置10的示意性结构图。可选的,所述图像传感装置10可以用于安装在电子设备上,以用于三维(3d)信息感测。例如但不限于,所述图像传感装置10用于人脸识别、手势识别、姿势或动作识别、建筑物识别,场景识别建模、增强现实ar/虚拟现实vr、测距、或3d图绘制等等。所述电子设备例如包括但不限于智能手机、平板电脑、计算机、笔记本电脑、台式机电脑、智能可穿戴设备、智能门锁、车载电子设备、医疗、航空等有三维(3d)信息感测功能需求的设备或装置。
具体地,如图1所示,所述图像传感装置10包括飞行时间(timeofflight,tof)模组11和摄像头12。所述tof模组11包括tof发射组件110和tof接收组件111。所述tof发射组件110用于发射泛光201到待测对象上,所述tof接收组件111用于接收从待测对象返回的泛光202,以获取所述待测对象的深度信息。所述摄像头12用于接收从所述待测对象返回的泛光203,以获取所述待测对象的二维图像信息。
所述tof接收组件111和所述摄像头12共用同一所述tof发射组件110。从而,节省与所述摄像头12相配合的泛光灯和驱动泛光灯发出泛光的驱动器,进而降低产品成本,使图像传感装置10的体积小型化。
所述tof模组11是基于飞行时间感测原理来计算待测对象的深度信息。例如,所述tof模组11为基于间接飞行时间(indirectflightoftime,i-tof)感测原理来执行深度信息感测,此类tof模组相应地被称为i-tof模组。i-tof模组是根据发出去的光束与接收到的光束之间的相位差来获得待测对象的深度信息。由相位差可间接获得时间差,因此,所述i-tof模组由此得名。又或者,可变更地,所述tof模组11为基于直接飞行时间(directflightoftime,d-tof)感测原理来执行深度信息感测,此类tof模组相应地被称为d-tof模组。d-tof模组是根据发出去的光束与接收到的光束之间的时间差来获得待测对象的深度信息。
在本申请中,所述tof模组11优选为i-tof模组。
在本实施例中,所述tof发射组件110用于发射红外泛光脉冲201,该红外泛光脉冲201照射到待测对象后产生返回光信号,或者说,返回的红外泛光脉冲,例如,红外泛光脉冲202和红外泛光脉冲203。tof接收组件111可以接收返回的红外泛光脉冲202,或者说,tof接收组件111可以感应从待测对象返回的光信号,该返回的红外泛光脉冲202中携带有所述待测对象的深度信息(或者说,景深信息),从而能够实现所述tof模组11对所述待测对象的深度成像功能。
所述摄像头12用于采集二维红外图像。具体的,所述摄像头12可以采集所述红外泛光脉冲201从待测对象返回的红外泛光脉冲203,所述红外泛光脉冲203用于获取所述待测对象的二维红外图像。
因此,在本申请实施例中,用于二维成像的成像装置和用于深度成像的成像装置可以共用一个光源,这样,不需要为用于二维成像的成像装置专门设置对应的光源,也就不需要设置该光源对应的其他辅助电路,例如光源的驱动电路,从而能够减少图像传感装置10的器件的数量,降低了产品的成本,同时降低了所述图像传感装置10的尺寸,使得该图像传感装置10更加适用于对尺寸和空间有要求的电子设备。
在本实施例中,由于摄像头12是共用所述tof接收组件111的tof发射组件110,因此,本申请的所述图像传感装置10可无需再额外设置与摄像头12相配合的泛光灯以及用于驱动所述泛光灯发出泛光的驱动器。
然,可变更地或可扩展地,在某些实施方式中,所述图像传感装置10也并不局限于采用红外光来进行二维图像以及深度信息获取,其也可以采用其它任意波段或合适波段的光束来作为激励光束执行感测。相应地,所述tof接收组件111以及摄像头12被调整为能够采集其它相应波段光束的传感装置即可。
可选的,本申请实施例的所述待测对象的二维图像和深度信息例如可以用于3d建模,人脸识别或者即时定位和地图构建(simultaneouslocalizationandmapping,slam)、ar/vr、无人驾驶、无人机等,本申请对此不作限定。
由于所述tof接收组件111和所述摄像头12共用同一光源进行成像,则所述tof发射组件110发射的红外泛光脉冲的属性,例如脉冲宽度,持续时间,脉冲形状等可以根据所述tof接收组件111和所述摄像头12的成像需求等灵活配置。在一些实现中,所述tof发射组件110可以被配置为发射同时适用于所述tof接收组件111和所述摄像头12进行成像的光信号,以兼顾深度成像和二维成像的性能。
在本申请实施例中,所述待测对象包括但不限于人脸等任意物体。
在本申请实施例中,所述tof发射组件110包括光源1101和匀光元件1102。所述光源1101用于发射红外光脉冲,所述光源1101例如可以为红外发光二极管(lightemittingdiode,led)、垂直腔面发射激光器(verticalcavitysurfaceemittinglaser,vcsel)、法布里一泊罗(fabryperot,fp)、激光器(laserdiode,ld)、分布式反馈(distributefeedback,dfb)激光器以及电吸收调制激光器(electro-absorptionmodulatedlaser,eml)等形式的光源,或者也可以是由多个光源组成的光源阵列,本申请实施例对此不做限定。所述匀光元件1102用于接收来自所述光源1101发射的红外光脉冲,并向外出射强度分布均匀的红外泛光脉冲201。可以理解的是,这里的分布均匀是相对的概念,并非绝对的均匀。
例如,所述光源1101包括多个发光点,所述多个发光点间隔设置,每个发光点用于发出红外光脉冲。所述多个发光点发出的红外光脉冲通过所述匀光元件1102后成为均匀的面光源。所述均匀的面光源例如也被称为泛光光源。相应地,当光源1101发出的光束为红外光脉冲时,从所述匀光元件1102出射的光束可以被称为红外泛光脉冲。
可选的,所述多个发光点呈阵列排布。例如,所述光源1101为vcsel阵列光源,每个发光点的光源发散角较小。进一步可选的,所多个发光点为点光源。
可选的,所述红外光脉冲为正弦波信号或方波信号。
可选的,所述均匀的面光源由于是脉冲光束,其强度是变化的。可选的,tof模组11例如为i-tof模组。相应地,所述光源1101发出的光束包括多个脉冲信号,且所述多个脉冲信号是连续的。所述多个脉冲信号例如呈周期性。
可选的,所述tof接收组件111例如根据tof发射组件110发射出来的红外泛光脉冲201与接收到红外泛光脉冲202之间的相位差来计算待测对象的深度信息。
可选的,tof模组11例如为d-tof模组。所述d-tof模组的tof发射组件110也用于发出红外泛光脉冲,所述tof接收组件111能够根据接收到的红外泛光脉冲与tof发射组件110发出的红外泛光脉冲之间的时间差来计算待测对象的深度信息。
d-tof感测模组能够直接获得发射出去的光束和接收到的返回光束之间的时间差,而i-tof模组根据发射出去的光束和接收到的返回光束获得相位差,由相位差也可间接获得时间差。
需要说明的是,不管是i-tof模组还是d-tof模组又或者其它合适类型的tof模组,当其发出到外部空间的光束为泛光脉冲光束,此泛光脉冲光束不仅可以用于感测待测对象的深度信息还可以用于感测待测对象的二维图像信息,从而能够避免再额外设置与摄像头12配合工作的泛光灯以及泛光灯的驱动器等的技术方案,均应属于本申请的保护范围。
所述摄像头12根据接收到的红外泛光脉冲203来获得待测物体的二维图像信息。
应理解,在本申请实施例中,所述光源1101也可以发射其他合适波段的光,例如,紫外光,可见光等,即在本申请实施例中,也可以采用其他波段的光信号进行二维成像或深度成像,采用红外波段的光信号进行成像有利于降低所述图像传感装置10对工作环境的依赖,提升3d感测性能,例如人脸识别性能,的鲁棒性。
以下,以所述光源1101发射红外波段的光信号为例进行说明,但本申请并不限于此。
应理解,所述光源1101中的光源的数量根据实际需要配置,如可以配置一个或多个光源,或者也可以是由多个光源组成的光源阵列,又或者,一个光源包括多个间隔设置的子光源,所述子光源例如但不限于为点光源。
可选的,所述光源1101可以是独立的模块,也可以与电子设备中的其他模块集成,比如所述光源1101可以作为电子设备的接近传感器的一部分。
所述匀光元件1102用于将来自所述光源1101的红外光脉冲调整为强度分布均匀的红外泛光脉冲。
作为一个实施例,所述匀光元件1102是扩散片或漫射体(diffuser),用于将光源1101发射出的红外光脉冲扩散或雾化并均匀向外投射出去。
作为另一实施例,所述匀光元件1102为衍射光学元件(doe),所述doe用于对入射的红外光脉冲进行衍射及扩束形成所述红外泛光脉冲,并向待测对象的空间中发射所述红外泛光脉冲。
作为又一实施例,所述匀光元件1102也可以包含微透镜阵列,所述微透镜阵列由多个微透镜单元组成。在一些实施例中,所述多个微透镜单元用于接收来自光源1101的红外光脉冲后生成与所述多个微透镜单元的排列相对应的阵列光束(即红外泛光脉冲)向外发射。在另一些实施例中,所述光源1101也可以包含与所述微透镜阵列中的所述多个微透镜单元的排列相对应的多个子光源,每个微透镜单元接收与之对应的子光源的红外光脉冲并将该红外光脉冲准直或聚焦后向外发射形成所述红外泛光脉冲。
在其他实施例中,所述匀光元件1102也可以是漫射体,doe和微透镜阵列中的至少两个的组合。
可选的,在一些实施例中,所述tof发射组件110还可以包括透镜,设置在所述光源1101和所述匀光元件1102之间,所述光源1101发射的红外光脉冲经所述透镜准直或会聚后入射到所述匀光元件1102,进一步通过所述匀光元件1102进行均匀化调整形成所述红外泛光脉冲。
在本申请实施例中,所述tof接收组件111为基于时间飞行原理实现的任意成像装置,例如摄像头或相机。所述tof接收组件111用于接收所述tof发射组件110发射的红外泛光脉冲201从待测对象返回的红外泛光脉冲202。所述红外泛光脉冲201的发射时间和所述红外泛光脉冲202的接收时间之间的时间差(即飞行时间)或者所述红外泛光脉冲201和所述红外泛光脉冲202的相位差用于确定所述待测对象的深度信息。
在一些实施例中,所述tof接收组件111包括图像传感器,所述图像传感器可以包括由多个像素单元组成的像素阵列。所述像素单元用于转换接收到的红外泛光脉冲202为相应的电信号。可选的,所述像素单元例如但不限于可以是电荷耦合元件(charge-coupleddevice,ccd)、互补金属氧化物半导体(complementarymeta1oxidesemiconductor,cmos)、雪崩二极管(ad)、单光子雪崩二极管(spad)等器件。
可选的,所述tof接收组件111还包括同步控制元件、信号放大器、时数转换器(tdc)、模数转换器(adc)等器件中的一种或多种组成的读出电路,本申请并不限于此。进一步可选的,所述读出电路中的部分或全部集成所述图像传感器中。或者,所述读出电路中的部分或全部设置在所述图像传感器的外部,并与所述图像传感器想连接。
所述读出电路用于根据所述图像传感器转换后的电信号获得待测对象的深度信息。可选的,所述读出电路用于根据所述发射的红外光泛光脉冲201与所述接收的红外泛光脉冲202之间的时间差或相位差,从而获得待测对象的深度信息。
作为一个示例,例如但不限于,所述tof接收组件111包括由3万个像素单元组成的像素阵列,可以检测到待测对象表面上3万个点的深度信息。基于这3万个点的深度信息例如可以大致确定待测对象表面的面貌信息。
可选的,所述摄像头12的分辨率高于甚至远高于所述tof接收组件111的图像传感器的分辨率。
在本申请实施例中,所述待测对象的深度信息,也可称为深度图像(depthimage)或距离影像。所述待测对象的深度图像中的像素值表示待测对象的表面上的各点与同一点或者同一平面之间的距离信息。在一种可能的实施方式中,tof接收组件111可以获取待测对象的深度图像,所述深度图像中的像素值表示待测对象的表面上的各点距离该tof接收组件111的距离。深度图像的像素值变化对应于待测对象表面的深度变化,反映了待测对象的可见表面的几何形状以及深度信息。
所述摄像头12可以为任意能够采集2d红外图像的装置。在一些实施例中,所述摄像头12包括滤波片和红外光图像传感器。所述滤波片用于透过目标波长的光线,滤除非目标波长的光线,所述红外光传感器基于所述目标波长进行光检测,并将检测到的光信号转换为电信号。可选的,所述红外光图像传感器为ccd图像传感器,或者为cmos图像传感器。可选的,该红外光图像传感器包括多个像素单元,一个像素单元用于转换接收的光信号形成一个2d红外图像中的一个像素值。可选的,所述像素单元可以采用光电二极管(photodiode)、金属氧化物半导体场效应管(metaloxidesemiconductorfie1deffecttransistor,mosfet)等器件。可选的,所述像素单元对于目标波长光具有较高的光灵敏度和较高的量子效率,以便于检测相应波长的光线。
在一些具体实施例中,所述目标波长属于红外光波段,例如,目标波长为940nm的近红外光,则所述滤波片用于透过940nm的红外光,阻挡非940nm波长的可见光以及其他红外光通过,所述红外光图像传感器对940nm的红外光进行检测并形成所述待测对象的2d红外图像。由于环境光中940nm波段的红外光成分较少,所述摄像头12采用波长为940nm的红外光进行成像,从而可以使得该图像传感装置10能够在不同环境下工作,且能降低环境光对成像的干扰。
在一些实施例中,所述摄像头12采集的二维图像中每一个像素值表现为图像的灰度值,可以通过图像的灰度值呈现待测对象的外观形状,进一步可以根据所述图像的灰度值确定所述二维图像中是否存在人脸,以及人脸表面的面貌信息。
应理解,本申请实施例中的所述摄像头12也可以替换为其他能够进行二维成像的摄像头,例如rgb摄像头,灰度摄像头或者结构光摄像头等。对应地,所成的二维图像可以为rgb图像,灰度图像或结构光图像等。采用摄像头12进行红外二维图像的成像,有利于保证所述图像传感装置10能够适应于不同的环境,从而能够提升人脸识别性能的鲁棒性。
为便于区分和说明,将用于二维成像的成像装置记为第一摄像头,将用于深度成像的成像装置记为第二摄像头。在一个具体示例中,所述第一摄像头可以为所述摄像头12,所述第二摄像头可以为tof接收组件111。
应理解,在本申请实施例中,所述光源1101发射的光线的波段范围可以根据用于二维成像的所述第一摄像头和用于深度成像的所述第二摄像头成像所采用的波段确定。例如可以配置所述光源1101发射的光线的波段范围至少包括所述第一摄像头和所述第二摄像头成像所采用的波段范围。可选的,当所述第一摄像头采用摄像头12实现时,可以配置所述光源1101发射的光线的波段范围包括红外光波段中的部分或全部,或者当所述第一摄像头采用rgb摄像头实现时,可以配置所述光源1101发射的光线的波段范围至少包括可见光波段中的部分或全部。
可选的,在本申请实施例中,所述第一摄像头和所述第二摄像头成像所采用的波段可以相同,例如均为红外光波段,或者也可以不同,例如一个为红外光波段,另一个为可见光波段或紫外线波段等,本申请并不限于此。
当所述第一摄像头和所述第二摄像头成像所采用的波段相同时,例如均为红外光波段。以所述第一摄像头为摄像头12,所述第二摄像头为tof接收组件111为例,所述tof接收组件111和摄像头12可以同时或分时采集所述tof发射组件110发射的红外泛光脉冲201从所述待测对象返回的红外泛光脉冲以分别获取所述待测对象的深度信息和二维图像。可选的,当分时采集时,本申请并不限定所述tof接收组件111和摄像头12接收返回的红外泛光脉冲的先后顺序。例如,可以是所述tof接收组件111先接收从待测对象返回的红外泛光脉冲,或者也可以是所述摄像头12先接收从待测对象返回的红外泛光脉冲。
当所述第一摄像头和所述第二摄像头成像所采用的波段不同时,所述光源1101可以分时发射不同波段的光线。例如,所述第一摄像头成像采用的波段为第一波段,所述第二摄像头成像采用的波段为第二波段。所述第一波段例如可以为红外光波段,所述第二波段例如可以为可见光波段,或者,所述第一波段为可见光波段,所述第二波段为红外光波段,或者所述第一波段和所述第二波段也可以为其他任意两个波段的组合。所述光源1101可以先后发射所述第一波段和所述第二波段的光线,这两个波段的光线的发射顺序不作具体限定。在所述光源1101发射所述第一波段的光线时,所述第一摄像头可以接收从待测对象返回的红外泛光脉冲以获取所述待测对象的二维图像,在所述光源1101发射所述第二波段的光线时,所述第二摄像头可以接收从待测对象返回的红外泛光脉冲以获取所述待测对象的深度信息。
以下,以所述第一摄像头和所述第二摄像头采用相同波段的光线进行成像为例进行说明,也就是说,所述摄像头12和所述tof接收组件111采用相同波段的光线进行成像,具体以所述相同波段的光线为红外光波段为例进行说明,但本申请并不限于此。
如上文所述,当摄像头12和所述tof接收组件111都采用红外光波段进行成像时,所述光源1101可以发射红外光脉冲,通过所述匀光元件1102均匀化调整为红外泛光脉冲,进一步地,所述摄像头12和所述tof接收组件111可以分时或同时接收从待测对象返回的红外泛光脉冲。
在一些实施例中,所述摄像头12和所述tof接收组件111可以按照预设顺序依次接收从待测对象返回的红外泛光脉冲。例如,所述摄像头12先接收从所述待测对象返回的红外泛光脉冲,之后,所述tof接收组件111再接收从所述待测对象返回的红外泛光脉冲;又例如,所述tof接收模组111先接收从所述待测对象返回的红外泛光脉冲,之后,所述摄像头12再接收从所述待测对象返回的红外泛光脉冲。
在另一些实施例中,在后进行图像采集的摄像头可以在满足特定条件的情况下,再执行图像采集。在不满足所述特定条件时,不执行图像采集。例如,在后进行图像采集的摄像头为所述摄像头12,所述摄像头12可以在满足所述tof接收组件111采集的深度信息满足特定条件的情况下,再采集从所述待测对象返回的红外泛光脉冲。又例如,在后进行图像采集的摄像头为所述tof接收组件111,所述tof接收组件111可以在满足所述摄像头12采集的二维图像满足特定条件的情况下,再采集从所述待测对象返回的红外泛光脉冲。
可选的,在本申请一些实施例中,所述图像传感装置10还包括:
控制单元,用于控制所述摄像头12和所述tof接收组件111进行图像采集的先后顺序,即两个摄像头接收返回的红外泛光脉冲的先后顺序。
可选的,所述控制单元可以为所述图像传感装置10的控制单元,也可以为包括图像传感装置10的电子设备中的控制单元,本申请实施例不作限定。
作为一个示例,所述控制单元可以控制所述摄像头12和所述tof接收组件111按照前文所述的预设顺序依次接收从所述待测对象返回的红外泛光脉冲。
作为另一示例,所述控制单元可以控制所述摄像头12和所述rx模组111中的一个摄像头首先接收从所述待测对象返回的红外泛光脉冲,在满足特定条件的情况下,再控制另一个摄像头接收从所述待测对象返回的红外泛光脉冲。
作为一个具体示例,所述控制单元可以控制所述摄像头12首先接收从所述待测对象返回的红外泛光脉冲,以获取所述待测对象的二维图像,在所述待测对象的二维图像存在人脸图像的情况下,或者在所述待测对象的二维图像为授权用户的人脸图像的情况下,控制所述tof接收组件111接收从所述待测对象返回的红外泛光脉冲,以获取所述待测对象的深度信息。
作为另一个具体示例,所述控制单元还用于控制所述tof接收组件111首先接收从所述待测对象返回的红外泛光脉冲,以获取所述待测对象的深度信息,在所述待测对象的深度信息符合立体物体特征或人脸特征的情况下,或者所述待测对象的深度信息为授权用户的深度信息的情况下,控制所述摄像头12接收从所述待测对象返回的红外泛光脉冲,以获取所述待测对象的二维图像。
这里,所述待测对象的二维图像存在人脸图像,所述待测对象的二维图像为授权用户的人脸图像,所述待测对象的深度信息符合人脸特征或立体物体特征,所述待测对象的深度信息为授权用户的深度信息的判断方式参考下文中的说明。
应理解,以上所示例的特定条件仅为示例,在实际应用中,可以根据具体的人脸识别算法进行调整,本申请并不限于此。
可选的,在本申请一些实施例中,所述图像传感装置10还包括:
处理单元13,用于根据所述待测对象的深度信息和所述待测对象的二维图像,进行鉴权识别操作,例如但不限于进行人脸识别、手势识别、姿势或动作识别、建筑物识别,场景识别建模等等。
可选的,所述处理单元13可以为所述图像传感装置10的处理单元,也可以为包括图像传感装置10的电子设备的处理单元,例如,电子设备的主控模块,本申请实施例不作限定。
可选的,在一些实施例中,所述处理单元13和前文所述的控制单元为独立的单元或模块,或者所述处理单元13和所述控制单元也可以为同一个单元或模块,本申请对此不作限定。
应理解,本申请对于根据所述待测对象的深度信息和所述待测对象的二维图像进行人脸识别的具体算法不作限定,其可以根据实际需求,或者用户设定,或安全等级等因素灵活调整,以下所述的人脸识别的具体算法仅为示例,而不应对本申请构成任何限定。
可选的,在一些实施例中,所述处理单元13具体用于:
确定所述待测对象的二维图像是否为授权用户的人脸图像;
在所述待测对象的二维图像为授权用户的人脸图像的情况下,根据所述待测对象的深度信息,确定人脸识别是否成功。
例如,所述处理单元13可以从所述待测对象的二维图像中提取人脸中的面部特征信息,并与预先存储的授权用户的二维图像的面部特征信息进行匹配,若匹配成功,则所述待测对象的二维图像为人脸图像。这里,所述面部特征信息例如可以包括但不限于鼻子、眼睛、嘴巴、眉毛、额头、颧骨、下巴、脸庞、鼻子的宽度、下巴的宽度中的任意一种或几种,或/和,鼻子、眼睛、嘴巴、眉毛、额头、颧骨、下巴中任意组合的距离信息。
进一步地,所述处理单元13还可以根据所述待测对象的二维图像中的典型位置结合所述待测对象的深度信息确定人脸识别是否成功。例如,可以根据所述待测对象的深度信息是否符合人脸特征或立体物体特征,确定人脸识别是否成功。在所述待测对象的深度信息符合人脸特征或立体物体特征时,确定人脸识别成功,否则,确定人脸识别失败。所述待测对象的深度信息符合人脸特征例如包括但不限于人脸有凸起,眼睛的位置有凹陷,鼻子的位置有凸起等。
可选的,在另一些实施例中,所述处理单元13也可以根据所述待测对象的深度信息确定是否检测到人脸,或者说,所述待测对象的深度信息是否符合人脸特征,在检测到人脸或者说所述待测对象的深度信息符合人脸特征的情况下,再根据所述待测对象的二维图像进行人脸识别,确定人脸识别是否成功。
在一种具体实现中,可以基于所述待测对象的深度信息在一个三维坐标系中得到一个点集,判断该点集组成的曲面是否符合人脸特征,当该点集组成的曲面符合人脸特征时,确定检测到人脸。比如,可以根据所述曲面是否整体呈凸起状、所述曲面上是否存在两个凹陷处以及所述两个凹陷处下方是否存在高度呈增高趋势的凸起等特征确定是否检测到人脸。可选的,当所述曲面整体呈凸起状、所述曲面上存在两个凹陷处以及所述两个凹陷处下方存在高度呈增高趋势的凸起时,可以确定所述曲面符合人脸特征,即所述待测对象的深度信息符合人脸特征。
在所述待测对象的深度信息符合人脸特征时,所述处理单元13可以将所述待测对象的二维图像与预存的授权用户的二维图像进行匹配,确定所述待测对象是否为授权用户。例如所述处理单元13可以从所述待测对象的二维图像中提取人脸中的典型位置,例如眼睛、鼻子、嘴巴等位置的特征点,并与预存的授权用户的二维图像的参照特征点进行匹配,若匹配成功,则确定人脸识别成功,否则,确定人脸识别失败。
可选的,在又一些实施例中,所述处理单元13也可以根据所述待测对象的二维图像确定是否检测到人脸,或者说,所述待测对象的二维图像是否符合人脸特征,在检测到人脸或者说所述待测对象的二维图像符合人脸特征的情况下,再根据所述待测对象的深度信息确定人脸识别是否成功。
可选的,所述处理单元13可以从所述待测对象的二维图像提取出眼睛、鼻子、嘴巴等典型位置的特征信息,根据这些特征信息是否符合这些器官的二维特征,确定所述二维图像中是否存在人脸。例如,若眼睛的特征符合预设的眼睛的二维特征,鼻子的二维特征符合预设的鼻子的二维特征,嘴巴的二维特征符合预设的嘴巴的二维特征,则确定所述二维图像中存在人脸,否则,确定所述二维图像中不存在人脸,进一步不执行后续的识别操作,有利于降低对处理资源的浪费。
在所述二维图像中存在人脸的情况下,所述处理单元13可以进一步根据所述待测对象的深度信息,确定所述待测对象是否为授权用户,例如,将所述待测对象的深度信息与预存的授权用户的深度信息进行匹配,确定人脸识别是否成功。或者也可以结合所述待测对象的二维图像和所述待测对象的深度信息进行人脸识别,例如,在所述待测对象的二维图像与预存的授权用户的二维图像匹配的情况下,结合所述待测对象的深度图像确定所述待测对象是否为立体轮廓,在所述待测对象为立体轮廓的情况下,确定人脸识别成功,能够排除平面人脸图像的干扰,提升人脸识别的安全性。
综上,本申请实施例基于待测对象的二维图像结合所述待测对象的深度信息进行人脸识别,可以避免在人脸识别时摄像头采集的二维图像不是来自授权用户,而是来自授权用户的人脸照片等平面图像的漏洞,进而可以提高人脸识别的安全性。
应理解,本申请实施例的人脸识别功能可以应用于移动支付,电子设备的屏幕解锁,门禁解锁等各种场景中,本申请对此不作限定。
可选的,在本申请一些实施例中,所述tof模组11还包括驱动组件,用于驱动所述tof发射组件110发射所述红外泛光脉冲201,从而所述摄像头12和所述tof接收组件111可以进行红外泛光脉冲的接收。
可选的,在一些实施例中,所述驱动组件,所述控制单元和所述处理单元可以为独立的单元,模块或组件,或者也可以为同一单元,模块或组件,或者三者所执行的功能中的部分功能组成一个单元,其他功能组成另一个单元等,本申请对于具体的功能划分方式不作具体限定。
可选的,在一个具体实施例中,所述驱动组件用于设置在所述tof接收组件111中。换言之,所述tof接收组件111可以作为tof发射组件110的驱动组件,用于向所述tof发射组件110发射驱动信号,驱动所述tof发射组件110发光以进行图像的采集。
在某些实施例中,当tof接收组件111和所述摄像头12分时接收所述tof发射组件110发射的红外光脉冲时,所述tof发射组件110根据不同情况对应发射不同的脉冲数量给所述tof接收组件111,以使得tof接收组件111获得合适的深度信息。其中,所述不同情况例如为不同场景(室外、室内等)。例如,在室外阳光充足的情况下,为了避免环境光的干扰,所述tof发射组件110在同一时间段发射的脉冲数量要多于在室内时发射的脉冲数量,以使得tof接收组件111获得较好的深度信息。
然而,由于所述摄像头12接收到的红外光脉冲数量在不同时间段或不同场景(室外、室内等)等情况下是不同的,从而导致所述摄像头12在不同时间段或不同场景下成像的亮度不同,从而用户在显示器端观看实时画面时会发生图像闪烁的问题。
为此,基于上述各实施例揭示的方案,本申请还提出一种变更实施例,所述tof发射组件110分时发射亮度恒定的泛光和亮度变化的泛光脉冲。且所述亮度恒定的泛光和亮度变化的泛光脉冲均为同一波长的光束。
可选的,所述光源1101用于分时发出强度恒定的光束和强度变化的光脉冲。所述匀光元件用于调整所述强度恒定的光束为光强分布均匀的泛光,还用于调整所述强度变化的光束为光强分布均匀的泛光脉冲。
可选的,所述摄像头12与所述tof接收组件111对应分时工作。其中,当所述tof发射组件110发射亮度恒定的泛光时,所述摄像头12接收亮度恒定的泛光,获得待测对象的二维图像信息;当所述tof发射组件110发射亮度变化的泛光脉冲时,所述tof接收组件111接收亮度变化的泛光脉冲并转换泛光脉冲为相应的电信号,以获得待测对象的深度信息。所述tof发射组件110发射的亮度变化的泛光脉冲例如具有预设频率。
由于所述摄像头12接收的是亮度恒定的泛光,从而,所述摄像头12获得二维图像的亮度稳定,从而能够解决上述图像闪烁的问题。
可选的,例如但不局限地,所述tof发射组件110每次发射亮度恒定的泛光的时间为1秒。
此变更实施例与上述各实施的主要区别在于:对于此变更实施例的技术方案,在所述摄像头12采集待测对象的二维图像时,所述tof发射组件110发射的是亮度恒定的泛光。而关于此变更实施例中的所述tof发射组件110、所述tof接收组件111、以及所述摄像头12的结构等与上述各实施例相同或相似,在此不再赘述。
如图2所示,本申请实施例还提供了一种电子设备20,该电子设备20包括图像传感装置21,该图像传感装置21例如可以为上述申请实施例的图像传感装置10。所述电子设备20例如包括但不限于智能手机、平板电脑、计算机、笔记本电脑、台式机电脑、智能可穿戴设备、智能门锁、车载电子设备、医疗、航空等有tof功能需求的设备或装置。
可选的,所述电子设备20还可以包括听筒、环境光/接近传感器等器件以实现更多的功能。比如在一些实施例中,考虑到红外光对人体的危害性,当人脸靠的过近时,可以通过接近传感器对人脸的接近度进行检测,当太近时关闭图像传感装置21中的tof发射组件的发射或减小发射功率。在一些实施例中,可以结合人脸识别以及听筒实现自动通话,比如当电子设备收到来电后,可以启动进行人脸识别所需要的图像传感装置21中的tof接收组件与ir摄像头分别采集深度图像与红外图像,当人脸识别成功后,接通通话并打开听筒等器件以实现通话。
可选的,所述电子设备20还可以包括听筒、环境光/接近传感器等器件以实现更多的功能。比如在一些实施例中,考虑到红外光对人体的危害性,当人脸靠的过近时,可以通过接近传感器对人脸的接近度进行检测,当太近时关闭图像传感装置21中的tof发射组件的发射或减小发射功率。在一些实施例中,可以结合人脸识别以及听筒实现自动通话,比如当电子设备收到来电后,可以启动图像传感装置21中的tof接收组件与ir摄像头分别采集深度图像与红外图像,当人脸识别成功后,接通通话并打开听筒等器件以实现通话。
可选的,所述电子设备20还可以包括显示屏,所述显示屏可以用来显示图像内容也可以用来进行触摸交互。比如,对于人脸识别的解锁应用。在一个实施例中,当电子设备处于睡眠状态时,用户通过拿起电子设备,电子设备中的惯性测量单元识别到由于拿起引起的加速度时会点亮屏幕,同时启动解锁应用程序,屏幕会出现待解锁指令,此时电子设备打开图像传感装置21中的tof接收组件与ir摄像头采集深度图像和红外图像,进行人脸识别。
可选的,所述电子设备20还可以包括存储模块,用于存储前文所述的授权用户的二维图像或深度图像等,或者,也可以存储计算机程序指令,用于执行前述实施例中的处理单元和控制单元所执行的功能。
以所述电子设备20为手机为例,所述图像传感装置21可以设置在手机的正面(与手机屏幕在同一侧的侧面)的顶部,在其他实施例中,所述图像传感装置21也可以安装在方便用户进行人脸识别的其他位置,本申请并不限于此。
如图3所示,本申请还提供了一种图像传感装置30,包括:红外ir成像模31和飞行时间tof模组32,其中,所述ir成像模组31包括:
红外发射组件310,用于发射红外泛光301;
ir摄像头311,用于接收所述红外泛光301照射待测对象后返回的红外泛光302以获取所述待测对象的二维图像;
所述tof模组32包括:
tof发射组件320,用于发射红外光脉冲303;
tof接收组件321,用于接收所述tof发射组件发射的红外光脉冲303从待测对象返回的红外光脉冲304,以获取所述待测对象的深度信息。
本申请通过将用于采集红外二维图像的ir成像模组31和用于采集深度图像的tof模组32集成在一起,这样,可以基于待测对象的二维图像和所述待测对象的深度信息进行人脸识别,可以避免在人脸识别时摄像头采集的二维图像的来源不是授权用户,而是授权用户的人脸照片等平面图像的漏洞,进而可以提高人脸识别的安全性。
这里,所述ir摄像头311、所述tof发射组件320,所述tof接收组件321分别对应于前文中的摄像头12,tof发射组件110和tof接收组件111,相关实现参考前述实施例的描述,这里不再赘述。
可选的,如图3所示,所述红外发射组件310可以包括红外光源3101和匀光元件3102,所述红外光源3101用于发射红外光,所述匀光元件3102用于将所述红外光均匀化调整为红外泛光,所述匀光元件3102的具体实现可以参考前述实施例中所述匀光元件1102的具体实现,这里不再赘述。
可选的,在本申请一些实施例中,如图3所示,所述图像传感装置30还包括:
处理单元33,用于根据所述待测对象的二维图像和所述待测对象的深度信息,确定所述待测对象是否为授权用户。
这里,所述处理单元33的具体实现可以参考前述实施例中的处理单元13的相关实现,为了简洁,这里不再赘述。
可选的,在本申请一些实施例中,所述处理单元33具体用于:
确定所述待测对象的二维图像是否为授权用户的人脸图像;
在所述待测对象的二维图像为授权用户的人脸图像的情况下,根据所述待测对象的深度信息,确定人脸识别是否成功。
可选的,在本申请一些实施例中,所述处理单元33具体用于:
在所述待测对象的深度信息符合人脸特征的情况下,确定人脸识别成功。
可选的,在本申请一些实施例中,所述红外ir成像模组还包括光源驱动组件,用于驱动所述红外发射组件310发射所述红外泛光301,从而所述ir摄像头311可以接收从所述待测对象返回的红外泛光302,以获取所述待测对象的二维图像。
如图4所示,本申请实施例还提供了一种电子设备40,所述电子设备40包括图像传感装置41,所述图像传感装置41可以为上述申请实施例的图像传感装置30,具体实现参考前述实施例的相关描述,这里不再赘述。所述电子设备40例如包括但不限于智能手机、平板电脑、计算机、笔记本电脑、台式机电脑、智能可穿戴设备、智能门锁、车载电子设备、医疗、航空等有tof功能需求的设备或装置。
可选的,所述电子设备40还可以包括听筒、环境光/接近传感器等器件以实现更多的功能。比如在一些实施例中,考虑到红外光对人体的危害性,当人脸靠的过近时,可以通过接近传感器对人脸的接近度进行检测,当太近时关闭图像传感装置41中的tof发射组件的发射或减小发射功率。在一些实施例中,可以结合人脸识别以及听筒实现自动通话,比如当电子设备收到来电后,可以启动进行人脸识别所需要的图像传感装置41中的tof接收组件与ir摄像头分别采集深度图像与红外图像,当人脸识别成功后,接通通话并打开听筒等器件以实现通话。
可选的,所述电子设备40还可以包括听筒、环境光/接近传感器等器件以实现更多的功能。比如在一些实施例中,考虑到红外光对人体的危害性,当人脸靠的过近时,可以通过接近传感器对人脸的接近度进行检测,当太近时关闭图像传感装置41中的tof发射组件的发射或减小发射功率。在一些实施例中,可以结合人脸识别以及听筒实现自动通话,比如当电子设备收到来电后,可以启动图像传感装置41中的tof接收组件与ir摄像头分别采集深度图像与红外图像,当人脸识别成功后,接通通话并打开听筒等器件以实现通话。
可选的,所述电子设备40还可以包括显示屏,所述显示屏可以用来显示图像内容也可以用来进行触摸交互。比如,对于人脸识别的解锁应用。在一个实施例中,当电子设备处于睡眠状态时,用户通过拿起电子设备,电子设备中的惯性测量单元识别到由于拿起引起的加速度时会点亮屏幕,同时启动解锁应用程序,屏幕会出现待解锁指令,此时电子设备打开图像传感装置41中的tof接收组件与ir摄像头采集深度图像和红外图像,进行人脸识别。
以所述电子设备40为手机为例,所述图像传感装置41可以设置在手机的正面(与手机屏幕在同一侧的侧面)的顶部,在其他实施例中,所述图像传感装置41也可以安装在方便用户进行人脸识别的其他位置,本申请并不限于此。
可选的,所述电子设备40还可以包括存储模块,用于存储前文所述的授权用户的二维图像或深度图像等,或者,也可以存储计算机程序指令,用于执行前述实施例中的处理单元和控制单元所执行的功能。
上述的处理单元可能是一种集成电路芯片,具有信号的处理能力。在实现过程中,上述方法实施例的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器可以是通用处理器、数字信号处理器(digitalsignalprocessor,dsp)、专用集成电路(applicationspecificintegratedcircuit,asic)、现成可编程门阵列(fieldprogrammablegatearray,fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本申请实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本申请实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器,处理器读取存储器中的信息,结合其硬件完成上述方法的步骤。
上述的存储模块可以是易失性存储器或非易失性存储器,或可包括易失性和非易失性存储器两者。其中,非易失性存储器可以是只读存储器(read-onlymemory,rom)、可编程只读存储器(programmablerom,prom)、可擦除可编程只读存储器(erasableprom,eprom)、电可擦除可编程只读存储器(electricallyeprom,eeprom)或闪存。易失性存储器可以是随机存取存储器(randomaccessmemory,ram),其用作外部高速缓存。通过示例性但不是限制性说明,许多形式的ram可用,例如静态随机存取存储器(staticram,sram)、动态随机存取存储器(dynamicram,dram)、同步动态随机存取存储器(synchronousdram,sdram)、双倍数据速率同步动态随机存取存储器(doubledataratesdram,ddrsdram)、增强型同步动态随机存取存储器(enhancedsdram,esdram)、同步连接动态随机存取存储器(synchlinkdram,sldram)和直接内存总线随机存取存储器(directrambusram,drram)。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
本申请实施例中的具体的例子只是为了帮助本领域技术人员更好地理解本申请实施例,而非限制本申请实施例的范围,本领域技术人员可以在上述实施例的基础上进行各种改进和变形,而这些改进或者变形均落在本申请的保护范围内。
以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以所述权利要求的保护范围为准。