电子设备和移动平台的制作方法

文档序号:17482785发布日期:2019-04-20 06:33阅读:155来源:国知局
电子设备和移动平台的制作方法

本申请涉及图像采集技术领域,更具体而言,涉及一种电子设备和移动平台。



背景技术:

为了使得电子设备的功能更加多样化,电子设备上可以设置有深度图像获取装置,以获取被摄目标的深度图像。然而,目前的深度图像获取装置只能够获取一个方向或一个角度范围内的深度图像,获取到的深度信息较少。



技术实现要素:

本申请实施方式提供一种电子设备和移动平台。

本申请实施方式的电子设备包括本体和设置在所述本体上的多个飞行时间组件,多个所述飞行时间组件分别位于所述本体的多个不同方位,每个所述飞行时间组件均包括光发射器和光接收器,所述光发射器用于向所述本体外发射激光脉冲,所述光接收器用于接收被摄目标反射的对应的所述光发射器发射的所述激光脉冲;多个所述飞行时间组件中的所述光发射器同时发射激光,多个所述飞行时间组件中的所述光接收器同时曝光,以获取全景深度图像。

本申请实施方式的移动平台包括本体和设置在所述本体上的多个飞行时间组件,多个所述飞行时间组件分别位于所述本体的多个不同方位,每个所述飞行时间组件均包括光发射器和光接收器,所述光发射器用于向所述本体外发射激光脉冲,所述光接收器用于接收被摄目标反射的对应的所述光发射器发射的所述激光脉冲;多个所述飞行时间组件中的所述光发射器同时发射激光,多个所述飞行时间组件中的所述光接收器同时曝光,以获取全景深度图像。

本申请实施方式的电子设备和移动平台中,位于本体的多个不同方位的多个光发射器同时发射激光,多个光接收器同时曝光,以获取全景深度图像,能够一次性获取到较为全面的深度信息。

本申请的实施方式的附加方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本申请的实施方式的实践了解到。

附图说明

本申请的上述和/或附加的方面和优点从结合下面附图对实施方式的描述中将变得明显和容易理解,其中:

图1是本申请某些实施方式的电子设备的结构示意图;

图2是本申请某些实施方式的电子设备的模块示意图;

图3是本申请某些实施方式的飞行时间组件的光发射器的结构示意图;

图4是本申请某些实施方式的电子设备的应用场景示意图;

图5是本申请某些实施方式的初始深度图像拼接的坐标系示意图;

图6至图10是本申请某些实施方式的电子设备的应用场景示意图;

图11至图14是本申请某些实施方式的移动平台的结构示意图。

具体实施方式

以下结合附图对本申请的实施方式作进一步说明。附图中相同或类似的标号自始至终表示相同或类似的元件或具有相同或类似功能的元件。下面结合附图描述的本申请的实施方式是示例性的,仅用于解释本申请的实施方式,而不能理解为对本申请的限制。

请一并参阅图1和图2,本申请实施方式的电子设备100包括本体10、飞行时间组件20、摄像头组件30、微处理器40和应用处理器50。

本体10包括多个不同方位。例如图1中,本体10可具有四个不同方位,沿顺时针方向依次为:第一方位、第二方位、第三方位和第四方位,第一方位与第三方位相背,第二方位与第四方位相背。第一方位即为与本体10的右侧对应的方位、第二方位即为与本体10的下方对应的方位、第三方位即为与本体10的左侧对应的方位、第四方位即为与本体10的上方对应的方位。

飞行时间组件20设置在本体10上。飞行时间组件20的数量可以为多个,多个飞行时间组件20分别位于本体10的多个不同方位。具体地,飞行时间组件20的数量可为四个,分别为飞行时间组件20a、飞行时间组件20b、飞行时间组件20c和飞行时间组件20d。飞行时间组件20a设置在第一方位,飞行时间组件20b设置在第二方位,飞行时间组件20c设置在第三方位,飞行时间组件20d设置在第四方位。当然,飞行时间组件20的数量也可以为八个(或其他任意大于两个的数量,尤其是任意大于四个的数量),第一方位、第二方位、第三方位和第四方位可各设置两个(或其他数量)飞行时间组件20。本申请实施方式以飞行时间组件20的数量是四个为例进行说明,可以理解,四个飞行时间组件20即可实现获取全景深度图像(全景深度图像指的是该全景深度图像的视场角大于或等于180度,例如,全景深度图像的视场角可为180度、240度、360度、480度、720度等等),且有利于节省电子设备100的制造成本、以及减小电子设备100的体积和功耗等。本实施方式的电子设备100可以是设置有多个飞行时间组件20的手机、平板电脑、笔记本电脑等便携式电子装置,此时,本体10可以为手机机身,平板电脑机身,笔记本电脑机身等。

每个飞行时间组件20均包括光发射器22和光接收器24。光发射器22用于向本体10外发射激光脉冲,光接收器24用于接收被摄目标反射的对应的光发射器22发射的激光脉冲。具体地,飞行时间组件20a包括光发射器22a和光接收器24a,飞行时间组件20b包括光发射器22b和光接收器24b,飞行时间组件20c包括光发射器22c和光接收器24c,飞行时间组件20d包括光发射器22d和光接收器24d。光发射器22a、光发射器22b、光发射器22c和光发射器22d分别用于向本体10外第一方位、第二方位、第三方位和第四方位发射激光脉冲,光接收器24a、光接收器24b、光接收器24c和光接收器24d分别用于接收第一方位的被摄目标反射的光发射器22a发射的激光脉冲、第二方位的被摄目标反射的光发射器22b发射的激光脉冲、第三方位的被摄目标反射的光发射器22c发射的激光脉冲、第四方位的被摄目标反射的光发射器22d发射的激光脉冲,从而能够覆盖本体10外的各个不同区域,相较于现有的需要旋转360度才能获取较为全面的深度信息而言,本实施方式的电子设备100能够不旋转就可一次性获取较为全面的深度信息,执行简单且响应速度迅速。

多个飞行时间组件20中的光发射器22同时发射激光,与之对应的,多个飞行时间组件20中的光接收器24同时曝光,以获取全景深度图像。具体地,光发射器22a、光发射器22b、光发射器22c和光发射器22d同时发射激光,光接收器24a、光接收器24b、光接收器24c和光接收器24d同时曝光。由于多个光发射器22同时发射激光,多个光接收器24同时曝光,在根据多个光发射器22发射的激光脉冲和对应的多个光接收器24接收的激光脉冲获取得到对应的多个初始深度图像时,多个初始深度图像具有相同的时效性,能够反映本体10外同一时刻各个方位显示的画面,即同一时刻的全景深度图像。

每个光发射器22及每个光接收器24的视场角均为80度~100度中的任意值。下面以光接收器24的视场角为例进行说明,光发射器22的视场角可以与对应的光接收器24的视场角相同或近似相同,在此不重复说明。

在一个实施例中,光接收器24a、光接收器24b、光接收器24c和光接收器24d的视场角均为80度。当光接收器24的视场角不超过80度时,镜头畸变较小,获取的初始深度图像质量较好,从而得到的全景深度图像质量也较好,且能够获取到较为准确的深度信息。

在一个实施例中,光接收器24a、光接收器24b、光接收器24c和光接收器24d的视场角之和等于360度。具体地,光接收器24a、光接收器24b、光接收器24c和光接收器24d的视场角可以均为90度,且四个光接收器24相互之间的视场角互不交叠,以实现获取360度或近似360度的全景深度图像。或者,光接收器24a的视场角可为80度、光接收器24b的视场角为100度、光接收器24c的视场角为80度、光接收器24d的视场角为100度等,四个光接收器24通过角度互补实现获取360度或近似360度的全景深度图像。

在一个实施例中,光接收器24a、光接收器24b、光接收器24c和光接收器24d的视场角之和大于360度,四个光接收器24中的至少两个光接收器24相互之间的视场角交叠。具体地,光接收器24a、光接收器24b、光接收器24c和光接收器24d的视场角可以均为100度,四个光接收器24两两之间的视场角相互交叠。在获取全景深度图像时,可以先识别四个初始深度图像的边缘交叠部分,再将四个初始深度图像拼接为360度的全景深度图像。由于四个光接收器24两两之间的视场角相互交叠,可以确保获取的全景深度图像覆盖本体10外360度的深度信息。

当然,每个光接收器24(及每个光发射器22)的视场角的具体数值并不限于上述举例,本领域的技术人员可以根据需要将光接收器24(及光发射器22)的视场角设定为80度~100度之间的任意数值,例如:光接收器24的视场角为80度、82度、84度、86度、90度、92度、94度、96度、98度、100度或任意二者之间的任意值,光发射器22的视场角为80度、82度、84度、86度、90度、92度、94度、96度、98度、100度或任意二者之间的任意值,在此不作限制。

请参阅图3,每个光发射器22包括光源222和扩散器(diffuser)224。光源222用于发射激光,扩散器224用于扩散光源222发射的激光。

可以理解,相邻方位的飞行时间组件20同时工作时可能存在一定程度的互相干扰。例如,光发射器22a发射的激光脉冲可能由被摄目标反射后被光接收器2b和光接收器24d接收,光发射器22b发射的激光脉冲可能由被摄目标反射后被光接收器24a和光接收器24c接收,光发射器22c发射的激光脉冲可能由被摄目标反射后被光接收器24b和光接收器24d接收,光发射器22d发射的激光脉冲可能由被摄目标反射后被光接收器24c和光接收器24a接收。因此,为了避免这种干扰造成的影响,提高获取的深度信息的准确性,相邻方位的光发射器22(或其光源222)发射的激光脉冲的波长可以不同,以便于区分和计算初始深度图像。

具体地,假设第一方位的光发射器22a发射的激光脉冲的波长为λ1,第二方位的光发射器22b发射的激光脉冲的波长为λ2,第三方位的光发射器22c发射的激光脉冲的波长为λ3,第四方位的光发射器22d发射的激光脉冲的波长为λ4,则满足λ1≠λ2,λ1≠λ4,λ3≠λ2,λ3≠λ4,即是相邻方位的光发射器22发射的激光脉冲的波长可以不同。其中,λ1与λ3可以相等或者不等,λ2与λ4可以相等或者不等。较佳地,每个光发射器22(或其光源222)发射的激光脉冲的波长不同,以进一步提高获取的深度信息的准确性。也即是说,λ1≠λ2≠λ3≠λ4,多个飞行时间组件20均互不干扰,各自的初始深度图像的计算也最为容易。另外,每个光接收器24被配置为接收对应的光发射器22发射的对应波长的激光脉冲。例如,光接收器24a用于接收光发射器22a发射的波长为λ1的激光脉冲,而不能够接收光发射器22b发射的波长为λ2的激光脉冲、光发射器22c发射的波长为λ3的激光脉冲、光发射器22d发射的波长为λ4的激光脉冲。同理,光接收器24b仅用于接收光发射器22b发射的波长为λ2的激光脉冲,光接收器24c仅用于接收光发射器22c发射的波长为λ3的激光脉冲,光接收器24d仅用于接收光发射器22d发射的波长为λ4的激光脉冲,在此不一一展开说明。

以光发射器22发射的激光脉冲是红外光为例,红外光的波长为770纳米到1毫米之间,则λ1可以为770纳米~1000纳米之间的任意值,λ2可以为1000纳米~1200纳米之间的任意值,λ3可以为1200纳米~1400纳米之间的任意值,λ4可以为1400纳米~1600纳米之间的任意值。光接收器24a用于接收光发射器22a发射的波长为770纳米~1000纳米的激光脉冲,光接收器24b用于接收光发射器22b发射的波长为1000纳米~1200纳米的激光脉冲,光接收器24c用于接收光发射器22c发射的波长为1200纳米~1400纳米的激光脉冲,光接收器24d用于接收光发射器22d发射的波长为1400纳米~1600纳米的激光脉冲。

需要指出的是,除了使相邻方位或每个光发射器22发射的激光脉冲的波长不同之外,本领域的技术人员还可以采用其他方式避免不同的飞行时间组件20同时工作时相互之间造成干扰,在此不作限制;或者,也可以忽略该较小程度的干扰,直接计算初始深度图像;或者,在计算初始深度图像时,通过一定的算法处理滤除该干扰造成的影响。

请参阅图1和图2,摄像头组件30设置在本体10上。摄像头组件30的数量可以为多个,每个摄像头组件30对应一个飞行时间组件20。例如,当飞行时间组件20的数量为四个时,摄像头组件30的数量也为四个,四个摄像头组件30分别设置在本体10的第一方位、第二方位、第三方位和第四方位。

多个摄像头组件30均与应用处理器50连接。每个摄像头组件30用于采集被摄目标的场景图像并输出至应用处理器50。本实施方式中,四个摄像头组件30分别用于采集第一方位的被摄目标的场景图像、第二方位的被摄目标的场景图像、第三方位的被摄目标的场景图像、第四方位的被摄目标的场景图像并分别输出至应用处理器50。可以理解,每个摄像头组件30与对应的飞行时间组件20的光接收器24的视场角相同或近似相同,以使得每个场景图像能够与对应的初始深度图像能够更好的匹配。

摄像头组件30可以是可见光摄像头32,或者是红外光摄像头34。当摄像头组件30为可见光摄像头32时,场景图像为可见光图像;当摄像头组件30为红外光摄像头34时,场景图像为红外光图像。

请参阅图2,微处理器40可以是处理芯片。微处理器40的数量可以为多个,每个微处理器40对应一个飞行时间组件20。例如,本实施方式中,当飞行时间组件20的数量为四个,微处理器40的数量也为四个。每个微处理器40与对应的飞行时间组件20中的光发射器22和光接收器24均连接。每个微处理器40可通过驱动电路驱动对应的光发射器22发射激光,并通过多个微处理器40的控制实现多个光发射器22同时发射激光。每个微处理器40还用于给对应的光接收器24提供接收激光脉冲的时钟信息以使得光接收器24曝光,并通过多个微处理器40的控制实现多个光接收器24的同时曝光。多个微处理器40还用于根据对应的光发射器22发射的激光脉冲和光接收器24接收的激光脉冲得到初始深度图像。例如,四个微处理器40分别根据光发射器22a发射的激光脉冲和光接收器24a接收的激光脉冲得到初始深度图像p1、根据光发射器22b发射的激光脉冲和光接收器24b接收的激光脉冲得到初始深度图像p2、根据光发射器22c发射的激光脉冲和光接收器24c接收的激光脉冲得到初始深度图像p3、根据光发射器22d发射的激光脉冲和光接收器24d接收的激光脉冲得到初始深度图像p4(如图4的上部分所示)。每个微处理器40还可以对初始深度图像进行面片化、畸变校正、自校准等算法处理,以提高初始深度图像的质量。

可以理解,微处理器40的数量也可以为一个,此时,微处理器40需要依次处理多个光发射器22发射的激光脉冲和多个光接收器24接收的激光脉冲得到初始深度图像。多个微处理器40相对于一个微处理器40而言,处理速度更快,延时较小。

多个微处理器40均与应用处理器50连接,以将初始深度图像传输至应用处理器50。在一个实施例中,微处理器40可通过移动产业处理器接口(mobileindustryprocessorinterface,mipi)与应用处理器50连接,具体地,微处理器40通过移动产业处理器接口与应用处理器50的可信执行环境(trustedexecutionenvironment,tee)连接,以将微处理器40中的数据(初始深度图像)直接传输到可信执行环境中,以提高电子设备100内的信息的安全性。其中,可信执行环境中的代码和内存区域都是受访问控制单元控制的,不能被非可信执行环境(richexecutionenvironment,ree)中的程序所访问,可信执行环境和非可信执行环境均可以形成在应用处理器50中。

应用处理器50可以作为电子设备100的系统。应用处理器50可以重置微处理器40、唤醒(wake)微处理器40、纠错(debug)微处理器40等。应用处理器50还可以与电子设备100的多个电子元器件连接并控制该多个电子元器件按照预定的模式运行,例如应用处理器50与可见光摄像头32和红外光摄像头34连接,以控制可见光摄像头32和红外光摄像头34拍摄可见光图像和红外光图像,并处理该可见光图像和红外光图像;当电子设备100包括显示屏时,应用处理器50可以控制显示屏显示预定的画面;应用处理器50还可以控制电子设备100的天线发送或接收预定的数据等。

请参阅图4,在一个实施例中,应用处理器50用于根据光接收器24的视场角将多个微处理器40获取的多个初始深度图像合成为一帧全景深度图像。

具体地,请结合图1,以本体10的中心为圆心o,以横轴线为x轴,以纵轴线为y轴建立直角坐标系xoy,在该直角坐标系xoy中,光接收器24a的视场位于45度~315度之间(顺时针旋转,后同),光接收器24b的视场位于315度~225度之间,光接收器24c的视场位于225度~135度之间,光接收器24d的视场位于135度~45度之间,则应用处理器50根据四个光接收器24的视场角将初始深度图像p1、初始深度图像p2、初始深度图像p3、初始深度图像p4依次拼接为一帧360度的全景深度图像p1234,以便深度信息的使用。

每一个微处理器40根据对应的光发射器22发射的激光脉冲和光接收器24接收的激光脉冲得到的初始深度图像中,每个像素的深度信息为对应方位的被摄目标与该方位上的光接收器24之间的距离。即,初始深度图像p1中每个像素的深度信息为第一方位的被摄目标与光接收器24a之间的距离;初始深度图像p2中每个像素的深度信息为第二方位的被摄目标与光接收器24b之间的距离;初始深度图像p3中每个像素的深度信息为第三方位的被摄目标与光接收器24c之间的距离;初始深度图像p4中每个像素的深度信息为第四方位的被摄目标与光接收器24d之间的距离。在将多个方位的多个初始深度图像拼接为一帧360度的全景深度图像的过程中,首先要将每个初始深度图像中每个像素的深度信息转化成统一化深度信息,统一化深度信息表示各个方位的各个被摄目标与某个基准位置的距离。深度信息转化为统一化深度信息后,方便应用处理器40根据统一化深度信息做初始深度图像的拼接。

具体地,选择一个基准坐标系,基准坐标系可以是以某一个方位的光接收器24的图像坐标系作为基准坐标系,也可以是选择其他的坐标系作为基准坐标系。以图5为例,以xo-yo-zo坐标系为基准坐标系。图5所示的坐标系xa-ya-za为光接收器24a的图像坐标系,坐标系xb-yb-zb为光接收器24b的图像坐标系,坐标系xc-yc-zc为光接收器24c的图像坐标系,坐标系xd-yd-zd为光接收器24d的图像坐标系。应用处理器50根据坐标系xa-ya-za与基准坐标系xo-yo-zo之间的旋转矩阵和平移矩阵将初始深度图像p1中每个像素的深度信息转换为统一化深度信息,根据坐标系xb-yb-zb与基准坐标系xo-yo-zo之间的旋转矩阵和平移矩阵将初始深度图像p2中每个像素的深度信息转换为统一化深度信息,根据坐标系xc-yc-zc与基准坐标系xo-yo-zo之间的旋转矩阵和平移矩阵将初始深度图像p3中每个像素的深度信息转换为统一化深度信息;根据坐标系xd-yd-zd与基准坐标系xo-yo-zo之间的旋转矩阵和平移矩阵将初始深度图像p4中每个像素的深度信息转换为统一化深度信息。

深度信息转化完成后,多个初始深度图像位于一个统一的基准坐标系下,每一张初始深度图像的一个像素点对应一个坐标(xo,yo,zo),那么可以通过坐标匹配做初始深度图像的拼接。例如,在初始深度图像p1中某一个像素点pa的坐标为(xo1,yo1,zo1),在初始深度图像p2中某一个像素点pb的坐标也为(xo1,yo1,zo1),由于pa和pb在当前的基准坐标系下具有相同的坐标值,则说明像素点pa与像素点pb实际上为同一个点,初始深度图像p1和初始深度图像p2拼接时,像素点pa需要和像素点pb重合。如此,应用处理器50即可通过坐标的匹配关系进行多个初始深度图像的拼接,并得到360度的全景深度图像。

需要说明的是,基于坐标的匹配关系进行初始深度图像的拼接要求初始深度图像的分辨率需要大于一个预设分辨率。可以理解,如果初始深度图像的分辨率较低,则坐标(xo,yo,zo)的精确度也会相对较低,此时,直接根据坐标进行匹配,可能出现pa点和pb点实际上没有重合,而是相差一个偏移量offset,且offset的值超过误差界限值的问题。如果图像的分辨率较高,则坐标(xo,yo,zo)的精确度也会相对较高,此时,直接根据坐标进行匹配,即使pa点和pb点实际上没有重合,相差一个偏移量offset,但offset的值也会小于误差界限值,即处于误差允许的范围内,不会对初始深度图像的拼接造成太大影响。

可以理解,后续实施方式均可采用上述方式将两个或两个以上的初始深度图像进行拼接或合成,不再一一说明。

应用处理器50还可以将多个初始深度图像与对应的多个可见光图像合成为三维场景图像,以进行显示供用户观看。例如,多个可见光图像分别为可见光图像v1、可见光图像v2、可见光图像v3和可见光图像v4。则应用处理器50分别将初始深度图像p1与可见光图像v1合成、将初始深度图像p2与可见光图像v2合成、将初始深度图像p3与可见光图像v3合成、将初始深度图像p4与可见光图像v4,再将合成后的四个图像进行拼接得到一帧360度的三维场景图像。或者,应用处理器50先将初始深度图像p1、初始深度图像p2、初始深度图像p3和初始深度图像p4拼接得到一帧360度的全景深度图像,并将可见光图像v1、可见光图像v2、可见光图像v3和可见光图像v4拼接得到一帧360度的全景可见光图像;再将全景深度图像与全景可见光图像合成为360度的三维场景图像。

请参阅图6,在一个实施例中,应用处理器50用于根据多个微处理器40获取的多个初始深度图像及多个摄像头组件30采集的多个场景图像识别被摄目标。

具体地,当场景图像为红外光图像时,多个红外光图像可以分别是红外光图像i1、红外光图像i2、红外光图像i3和红外光图像i4。应用处理器50分别根据初始深度图像p1和红外光图像i1识别第一方位的被摄目标、根据初始深度图像p2和红外光图像i2识别第二方位的被摄目标、根据初始深度图像p3和红外光图像i3识别第三方位的被摄目标、根据初始深度图像p4和红外光图像i4识别第四方位的被摄目标。当场景图像为可见光图像时,多个可见光图像分别是可见光图像v1、可见光图像v2、可见光图像v3和可见光图像v4。应用处理器50分别根据初始深度图像p1和可见光图像v1识别第一方位的被摄目标、根据初始深度图像p2和可见光图像v2识别第二方位的被摄目标、根据初始深度图像p3和可见光图像v3识别第三方位的被摄目标、根据初始深度图像p4和可见光图像v4识别第四方位的被摄目标。

当识别被摄目标为进行人脸识别时,应用处理器50采用红外光图像作为场景图像进行人脸识别准确性更高。应用处理器50根据初始深度图像和红外光图像进行人脸识别的过程可如下:

首先,根据红外光图像进行人脸检测确定目标人脸区域。由于红外光图像包括有场景的细节信息,在获取到红外光图像之后,可以根据红外光图像进行人脸检测,从而检测出红外光图像中是否包含人脸。若红外光图像中包含人脸,则提取红外光图像中人脸所在的目标人脸区域。

然后,根据初始深度图像对目标人脸区域进行活体检测处理。由于每个初始深度图像和红外光图像是对应的,初始深度图像中包括有对应的红外光图像的深度信息,因此,可以根据初始深度图像获取与目标人脸区域对应的深度信息。进一步地,由于活体人脸是立体的,而例如图片、屏幕等显示的人脸则是平面的,因此,可以根据获取的目标人脸区域的深度信息判断目标人脸区域是立体还是平面的,从而对目标人脸区域进行活体检测。

若活体检测成功,则获取目标人脸区域对应的目标人脸属性参数,并根据目标人脸属性参数对红外光图像中的目标人脸区域进行人脸匹配处理,得到人脸匹配结果。目标人脸属性参数是指可以表征目标人脸的属性的参数,根据目标人脸属性参数可以对目标人脸进行识别和匹配处理。目标人脸属性参数包括但不限于为人脸偏转角度、人脸亮度参数、五官参数、肤质参数、几何特征参数等。电子设备100可以预先存储用于匹配的人脸属性参数。在获取到目标人脸属性参数之后,就可以将目标人脸属性参数与预先存储的人脸属性参数进行比较。若目标人脸属性参数与预先存储的人脸属性参数匹配,则人脸识别通过。

需要指出的是,应用处理器50根据初始深度图像和红外光图像进行人脸识别的具体过程并不限于此,例如应用处理器50还可以根据初始深度图像辅助检测人脸轮廓,以提高人脸识别精度等。应用处理器50根据初始深度图像和可见光图像进行人脸识别的过程与应用处理器50根据初始深度图像和红外光图像进行人脸识别的过程类似,在此不再另行阐述。

请参阅图6和图7,应用处理器50还用于在根据多个初始深度图像及多个场景图像识别被摄目标失败时,根据光接收器24的视场角将至少两个微处理器40获取的至少两个初始深度图像合成为一帧合并深度图像,将至少两个摄像头组件30采集的至少两个场景图像合成为一帧合并场景图像,并根据合并深度图像和合并场景图像识别被摄目标。

具体地,图6和图7所示的实施例中,由于每个飞行时间组件20的光接收器24的视场角有限,可能存在人脸的一半位于初始深度图像p2、另一半位于初始深度图像p3的情形,应用处理器50将初始深度图像p2和初始深度图像p3合成为一帧合并深度图像p23,并对应将红外光图像i2和红外光图像i3(或可见光图像v2和可见光图像v3)合成为一帧合并场景图像i23(或v23),以重新根据合并深度图像p23和合并场景图像i23(或v23)识别被摄目标。

可以理解,当被摄目标同时分布在更多个初始深度图像中时,应用处理器50可以将更多个初始深度图像(对应不同方位)合成为一帧合并深度图像,并对应将更多个红外光图像(对应不同方位)或可见光图像(对应不同方位)合成为一帧合并场景图像,以重新识别被摄目标。

请参阅图8和图9,在一个实施例中,应用处理器50用于根据多个初始深度图像判断被摄目标与电子设备100之间的距离变化。

具体地,每个光发射器22可以多次发射激光,对应地,每个光接收器24可以多次曝光。例如,在第一时刻,光发射器22a、光发射器22b、光发射器22c、光发射器22d发射激光,光接收器24a、光接收器24b、光接收器24c和光接收器24d曝光,多个微处理器40对应得到初始深度图像p11、初始深度图像p21、初始深度图像p31、初始深度图像p41;在第二时刻,光发射器22a、光发射器22b、光发射器22c、光发射器22d发射激光,光接收器24a、光接收器24b、光接收器24c和光接收器24d曝光,多个微处理器40对应得到初始深度图像p12、初始深度图像p22、初始深度图像p32、初始深度图像p42。然后,应用处理器50分别根据初始深度图像p11和初始深度图像p12判断第一方位的被摄目标与电子设备100之间的距离变化;根据初始深度图像p21和初始深度图像p22判断第二方位的被摄目标与电子设备100之间的距离变化;根据初始深度图像p31和初始深度图像p32判断第三方位的被摄目标与电子设备100之间的距离变化;根据初始深度图像p41和初始深度图像p42判断第四方位的被摄目标与电子设备100之间的距离变化。

可以理解,由于初始深度图像中包括有被摄目标的深度信息,因此,应用处理器50可以根据多个连续时刻的深度信息变化判断对应方位的被摄目标与电子设备100之间的距离变化。

请参阅图10,应用处理器50还用于在根据多个初始深度图像判断距离变化失败时,根据光接收器24的视场角将至少两个微处理器40获取的至少两个初始深度图像合成为一帧合并深度图像,应用处理器50连续执行合成步骤以得到多帧连续的合并深度图像,并根据多帧合并深度图像判断距离变化。

具体地,图10所示的实施例中,由于每个飞行时间组件20的光接收器24的视场角有限,可能存在人脸的一半位于初始深度图像p21、另一半位于初始深度图像p31的情形,应用处理器50将第一时刻的初始深度图像p21和初始深度图像p31合成为一帧合并深度图像p231,并对应将第二时刻的初始深度图像p22和初始深度图像p32合成为一帧合并深度图像p232,然后根据合并后的这两帧合并深度图像p231和p232重新判断距离变化。

可以理解,当被摄目标同时分布在更多个初始深度图像中时,应用处理器50可以将更多个初始深度图像(对应不同方位)合成为一帧合并深度图像,并针对多个时刻连续执行该合成步骤。

请参阅图9,当根据多个初始深度图像判断距离变化为距离减小时,或者根据多帧合并深度图像判断距离变化为距离减小时,应用处理器50会提高从至少一个微处理器40传输的多个初始深度图像中采集用以判断距离变化的初始深度图像的帧率。

可以理解,当被摄目标与电子设备100之间的距离减小时,电子设备100无法预判该距离减小是否存在危险性,因此,应用处理器50可提高从至少一个微处理器40传输的多个初始深度图像中采集用以判断距离变化的初始深度图像的帧率,以更加密切的关注该距离变化。具体地,当判断某一个方位对应的距离减小时,应用处理器50可提高该方位从微处理器40传输的多个初始深度图像中采集用以判断距离变化的初始深度图像的帧率。

例如,在第一时刻,多个微处理器40分别获得初始深度图像p11、初始深度图像p21、初始深度图像p31、初始深度图像p41;在第二时刻,多个微处理器40分别获得初始深度图像p12、初始深度图像p22、初始深度图像p32、初始深度图像p42;在第三时刻,多个微处理器40分别获得初始深度图像p13、初始深度图像p23、初始深度图像p33、初始深度图像p43;在第四时刻,多个微处理器40分别获得初始深度图像p14、初始深度图像p24、初始深度图像p34、初始深度图像p44。

在正常情况下,应用处理器50选取初始深度图像p11和初始深度图像p14判断第一方位的被摄目标与电子设备100之间的距离变化;选取初始深度图像p21和初始深度图像p24判断第二方位的被摄目标与电子设备100之间的距离变化;选取初始深度图像p31和初始深度图像p34判断第三方位的被摄目标与电子设备100之间的距离变化;选取初始深度图像p41和初始深度图像p44判断第四方位的被摄目标与电子设备100之间的距离变化。应用处理器50在各个方位采集初始深度图像的帧率均为每间隔两帧采集一帧,即每三帧选取一帧。

当根据初始深度图像p11和初始深度图像p14判断出第一方位对应的距离减小时,应用处理器50则会选取初始深度图像p11和初始深度图像p13判断第一方位的被摄目标与电子设备100之间的距离变化。应用处理器50采集第一方位的初始深度图像的帧率变为每间隔一帧采集一帧,即每两帧选取一帧。而其他方位的帧率保持不变,即应用处理器50仍选取初始深度图像p21和初始深度图像p24判断距离变化;选取初始深度图像p31和初始深度图像p34判断距离变化;选取初始深度图像p41和初始深度图像p44判断距离变化。

当根据初始深度图像p11和初始深度图像p14判断出第一方位对应的距离减小,同时根据初始深度图像p21和初始深度图像p24判断出第二方位对应的距离减小时,应用处理器50则会选取初始深度图像p11和初始深度图像p13判断第一方位的被摄目标与电子设备100之间的距离变化,选取初始深度图像p21和初始深度图像p23判断第二方位的被摄目标与电子设备100之间的距离变化,应用处理器50采集第一方位和第二方位的初始深度图像的帧率变为每间隔一帧采集一帧,即每两帧选取一帧。而其他方位的帧率保持不变,即应用处理器50仍选取初始深度图像p31和初始深度图像p34判断第三方位的被摄目标与电子设备100之间的距离变化;选取初始深度图像p41和初始深度图像p44判断第四方位的被摄目标与电子设备100之间的距离变化。

当然,应用处理器50也可以在判断出任一个方位对应的距离减小时,提高从每个微处理器40传输的多个初始深度图像中采集用以判断距离变化的初始深度图像的帧率。即:当根据初始深度图像p11和初始深度图像p14判断出第一方位的被摄目标与电子设备100之间的距离减小时,应用处理器50则会选取初始深度图像p11和初始深度图像p13判断第一方位的被摄目标与电子设备100之间的距离变化、选取初始深度图像p21和初始深度图像p23判断第二方位的被摄目标与电子设备100之间的距离变化、选取初始深度图像p31和初始深度图像p33判断第三方位的被摄目标与电子设备100之间的距离变化、及选取初始深度图像p41和初始深度图像p43判断第四方位的被摄目标与电子设备100之间的距离变化。

应用处理器50还可以在距离减小时,结合可见光图像或红外光图像来判断该距离变化。具体地,应用处理器50先根据可见光图像或红外光图像识别被摄目标,然后再根据多个时刻的初始深度图像判断距离变化,从而针对不同的被摄目标与不同的距离控制电子设备100执行不同的操作。或者,在距离减小时,微处理器40控制提高对应光发射器22发射激光及光接收器24曝光的频率等。

需要说明的是,本实施方式的电子设备100还可以作为一个外置终端,固定安装或可拆卸安装在例如手机、平板电脑、笔记本电脑等便携式电子装置上使用外,还可固定安装在车辆本体(如图7和图8所示)、无人机机身、机器人本体或船舶本体等可移动物体上使用。具体使用时,当电子设备100如前所述根据多个初始深度图像合成为一帧全景深度图像,全景深度图像可以用于三维建模、即时定位与地图构建(simultaneouslocalizationandmapping,slam)、增强现实显示。当电子设备100如前所述识别被摄目标时,则可应用于便携式电子装置的人脸识别解锁、支付,或应用于机器人、车辆、无人机、船舶等的避障。当电子设备100如前所述判断被摄目标与电子设备100之间的距离变化时,则可应用于机器人、车辆、无人机、船舶等自动行驶、物体追踪等。

请参阅图2和图11,本申请实施方式还提供一种移动平台300。移动平台300包括本体10和设置在本体10上的多个飞行时间组件20。多个飞行时间组件20分别位于本体10的多个不同方位。每个飞行时间组件20均包括光发射器22和光接收器24。光发射器22用于向本体10外发射激光脉冲,光接收器24用于接收被摄目标反射的对应的光发射器22发射的激光脉冲。多个飞行时间组件20中的光发射器22同时发射激光,多个飞行时间组件20中的光接收器24同时曝光,以获取全景深度图像。

具体地,本体10可以为车辆本体、无人机机身、机器人本体或船舶本体。

请参阅图11,当本体10为车辆本体时,多个飞行时间组件20的数量为四个,四个飞行时间组件20分别安装在车辆本体的四侧,例如,车头、车尾、车身左侧、车身右侧。车辆本体可以带动多个飞行时间组件20在道路上移动,构建行进路线上的360度全景深度图像,以作为参考地图等;或者获取多个不同方位的初始深度图像,以识别被摄目标、判断被摄目标与移动平台300之间的距离变化,从而控制车辆本体加速、减速、停车、绕行等,实现无人驾驶避障,例如,在车辆在道路上移动时,若识别到被摄目标与车辆的距离减小且被摄目标为道路上的凹坑,则车辆以第一加速度减速,若识别到被摄目标与车辆的距离减小且被摄目标为人,则车辆以第二加速度减速,其中第一加速度的绝对值小于第二加速度的绝对值。如此,在距离减小时根据不同的被摄目标执行不同的操作,可以使得车辆更加智能化。

请参阅图12,当本体10为无人机机身时,多个飞行时间组件20的数量为四个,四个飞行时间组件20分别安装在无人机机身的前、后、左、右四侧,或者安装在无人机机身上搭载的云台的前、后、左、右四侧。无人机机身可以带动多个飞行时间组件20在空中飞行,以进行航拍、巡检等,无人机可将获取的全景深度图像传回给地面控制端,也可直接进行slam。多个飞行时间组件20可实现无人机加速、减速、停止、避障、物体追踪。

请参阅图13,当本体10为机器人本体时,例如扫地机器人,多个飞行时间组件20的数量为四个,四个飞行时间组件20分别安装在机器人本体的前、后、左、右四侧。机器人本体可以带动多个飞行时间组件20在家中运动,获取多个不同方位的初始深度图像,以识别被摄目标、判断被摄目标与移动平台300之间的距离变化,从而控制机器人本体运动,实现机器人清除垃圾、避障等。

请参阅图14,当本体10为船舶本体时,多个飞行时间组件20的数量为四个,四个飞行时间组件20分别安装在船舶本体的前、后、左、右四侧。船舶本体可以带动飞行时间组件20运动,获取多个不同方位的初始深度图像,从而在恶劣环境(例如起雾环境下)准确地识别被摄目标、判断被摄目标与移动平台300之间的距离变化,提高海上航行的安全性等。

本申请实施方式的移动平台300为能够独立移动的平台,多个飞行时间组件20安装在移动平台300的本体10上,以获取全景深度图像。而本申请实施方式的电子设备100本身一般不能够独立移动,电子设备100可进一步搭载于类似于移动平台300等能够移动的装置上,从而帮助该装置获取全景深度图像。

需要指出的是,上述对电子设备100的本体10、飞行时间组件20、摄像头组件30、微处理器40和应用处理器50的解释说明同样适用于本申请实施方式的移动平台300,在此不再重复说明。

尽管上面已经示出和描述了本申请的实施例,可以理解的是,上述实施例是示例性的,不能理解为对本申请的限制,本领域的普通技术人员在本申请的范围内可以对上述实施例进行变化、修改、替换和变型,本申请的范围由权利要求及其等同物限定。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1