本发明涉及一种用于间接飞行时间距离计算装置的多路径(multipath)误差补偿的方法,该方法是例如利用结构化光照明场景的类型。本发明还涉及一种多路径误差补偿的间接飞行时间距离计算装置,该装置是例如包括结构化光源以照明场景的类型。
背景技术:
在所谓的飞行时间感测系统和其他系统(例如游戏控制台视觉系统)中,已知采用照明源来照明在照明源的视场内的周围环境(有时被称为“场景”),并且处理由该场景的特征反射的光。此类所谓的lidar(光检测和测距)系统使用照明源利用光照明场景,并且使用检测设备(例如光电二极管阵列、一些光学元件和处理单元)检测从场景中的对象反射的光。从场景中的对象反射的光由检测设备接收并且被转换成电信号,然后由处理单元通过应用飞行时间(tof)计算来处理该电信号,以便确定该对象与该检测设备的距离。尽管已知不同种类的lidar系统基于不同的操作原理,但此类系统基本上是照明场景并检测反射光。
在这方面,所谓的“闪光lidar”技术是一种直接tof测距技术,该技术采用一种光源,该光源发射随后被场景的特征反射并且被检测器设备检测的光脉冲。在此类技术中,直接使用光脉冲往返于反射特征并且返回到检测器设备的所测量的时间来计算到反射特征的距离。在时域中以非常高的采样率对入射到检测器设备上的光脉冲进行采样。因此,实现此类技术的处理电路中的信号路径需要信号的高带宽以及大的硅“占地”,即此类实现方式需要硅晶圆上相对大的面积,这进而限制了集成电路上可以支持的信道的数量。因此,此类闪光lidar传感器可以支持的信道的实际空间数量通常低于100。为了克服该限制,实现需要移动部件的机械扫描系统。
另一种已知的lidar系统采用所谓的“间接飞行时间”(itof)测距技术。itof系统发射连续波光信号,并且该连续波光信号的反射被检测器设备接收和分析。获取从场景的特征反射的光的多个样本(例如四个样本),每个样本被相位步进,例如90°。使用该照明和采样方法,可以确定照明和反射之间的相位角,并且所确定的相位角可以用于确定到场景的反射特征的距离。在该方面,典型的itof系统包括缓冲器,该缓冲器存储由所谓的光子混合器设备生成的关于用于后续的信号处理的m个相位的模拟信号。离散傅里叶变换单元依据信号的同相分量和正交分量来计算由缓冲器存储的复信号的基频输出信号。使用同相分量和正交分量的值,可以计算复信号的相位角和振幅,并且可以使用相位角信息求解到对象的距离。
在itof系统中,高频信号处理(解调)发生在像素级,且因此在同一芯片上集成大量像素所需的信号带宽后像素(post-pixel)较低。因此,与直接tof系统相比,itof系统可以支持更大量的信道,且因此支持更高的空间分辨率测量。然而,itof系统具有有限的距离测量能力。在这方面,为了实现低随机距离测量误差,itof系统需要高调制频率,这进而又降低了可以明确测量的距离范围。例如,100mhz调制频率导致1.5m的近似明确测量范围。此外,传统的itof系统容易受到由于多次反射和多个传播路径引起的误差的影响。
为了说明这一点,考虑汽车上下文,其中场景包括正由itof系统监控的车辆,但该场景还包括墙和另一个对象,例如路标。由itof系统测量的到车辆的距离由直接从车辆反射的(即,真实直接反射)光来确定。然而,在此类情境下,发射的光可以到达车辆和/或由车辆反射的光可以经由来自墙的反射间接到达itof系统,由于增加的光学路径长度和itof系统无法辨别发射的光和/或反射的光的路径,导致距离的错误测量。附加地,来自高反射路标的信号可能因光学系统缺陷散射,从而产生由itof系统接收的杂散光信号并再次导致距离的另一错误测量,该距离实际上是到该路标的距离。
多路径距离测量误差的另一个可能的来源是在itof系统的视场的一像素内存在多个对象。然而,由于itof照相机通常具有高分辨率,这种误差在实践中的重要性较小。然而,此类错误的来源是存在的。
us2015/253429公开了一种技术,该技术减少多路径误差,并利用了多路径误差通常具有低空间频率的事实,因为多路径误差通常由充当空间低通滤波器的漫反射或半漫反射引起。为了补偿此类误差来源,场景由使用光束整形光学器件(例如全息漫反射器、微机电系统(mems)反射镜阵列)或简单地通过掩模(masking)产生的一组互补图案来照明。
例如,在采用us2015/253429的补偿技术的itof系统中,帧获取由使用互补棋盘状照明图案对2个或更多个子帧的单独获取构成。在每一个子帧中,被照明的区域从棋盘状图案的光区域接收itof照明光信号
关于棋盘状照明图案的暗区域
这意味着在单个帧上,关于给定暗区域
互补照明图案的使用允许通过利用多路径误差分量的低空间频率属性来在整个帧的持续时间内重构照明光信号
该方法在实践中执行得足够好,但是具有以下缺点:当互补照明图案的数量增加时,将距离帧速率降低到二分之一或更少。因此,场景中运动可被标识的准确性降低。
us2018/095165、us2013/148102、us10,061,028、us2019/051004、us2019/068853公开了采用具有不同光图案的场景的照明的各种技术。
技术实现要素:
根据本发明的第一方面,提供了一种用于间接飞行时间距离计算装置的多路径误差补偿的方法,该方法包括:非结构化光源在多个连续时间帧期间照明场景;结构化光源与该非结构化光源照明该场景同时照明该场景,该结构化光源的该照明发生在该多个连续时间帧的预定帧期间;光电检测器阵列响应于用从该场景反射的光的照射生成多组信号,该多组信号包括根据间接飞行时间测量技术由光电二极管阵列中的每一个光电检测器元件基本上同时生成的一组信号;从在该多个连续时间帧中的所选时间帧和在时间上与该所选时间帧有关的另一个时间帧期间生成的该多组信号导出误差估计,该非结构化光源的照明发生在该所选时间帧期间,并且该结构化光源和该非结构化光源二者的照明发生在该另一个时间帧期间;以及将该误差估计施加到关于该场景的距离计算中。
光电二极管阵列可在多个连续时间帧中的每一个中与由光电检测器阵列接收的结构化光源和/或非结构化光源对该场景的照明同步地生成该多组信号。
该方法可进一步包括:使用在该多个连续时间帧的后续所选帧和在时间上与后续所选时间帧有关的进一步时间帧期间生成的该多组信号更新该误差估计,该非结构化光源的照明发生在该后续所选时间帧期间,并且该结构化光源和该非结构化光源二者的照明可发生在该进一步时间帧期间。
该多个连续时间帧的预定时间可以是非连续的。非连续预定帧在时间上有规律地间隔。
该方法可进一步包括:通过计算与该所选时间帧的该多组信号相对应的各个测量和与该另一个时间帧的该多组信号相对应的各个测量之间的差导出该误差估计。
计算该差可包括计算关于该所选时间帧的该多组信号的图像帧和关于该另一个时间帧的该多组信号的图像帧之间的差图像帧。
该结构化光源可采用包括无照明区域的照明图案;并且关于该无照明区域导出该误差估计。
可使用与该结构化光源的该照明图案的该无照明区域相对应的所计算的该差的区域来导出该误差估计。
该方法可进一步包括:存储与该无照明区域相对应的该差图像帧的测量。
第一非结构化光源和该结构化光源可共享基本上共同的照明场。
该非结构化光源可发射均匀照明图案。该均匀照明图案可以是关于光电检测器阵列的视场内的场景。
所计算的该差可包括关于该结构化光源的该照明图案的该无照明区域的误差测量;并且该误差估计的导出可包括:使用与该结构化光源的该照明图案的该无照明区域相对应的该测量进行插值,以便获取关于该结构化光源的该照明图案的照明区域的误差测量。
该方法可进一步包括:对关于该无照明区域的所计算的差的测量进行缩放。
该方法可进一步包括:另一个结构化光源与该非结构化光源照明该场景同时照明该场景;该另一个结构化光源的该照明可发生在该多个连续时间帧中与该预定时间帧不同的进一步预定时间帧期间;以及该误差估计的该导出进一步可包括采用在该进一步预定时间帧的另一个所选时间帧期间生成的该多组信号,该另一个非结构化光源的照明可发生在该另一个所选时间帧期间。
该结构化光源可包括第一照明图案。该另一个结构化光源可包括第二照明图案;该第二照明图案可与该第一照明图案不同。
根据本发明的第二方面,提供了一种多路径误差补偿的间接飞行时间距离计算装置,包括:非结构化光源,被配置为在多个连续时间帧期间照明场景;结构化光源,被配置为与该非结构化光源照明该场景同时照明该场景,该结构化光源的该照明发生在该多个连续时间帧的预定帧期间;光电检测器阵列包括多个光电检测器元件;以及处理资源被配置为计算距离;其中光电二极管阵列被配置为响应于从该场景反射的光的照射生成多组信号,该多组信号包括根据间接飞行时间测量技术由多个光电二极管元件的每一个光电检测器元件基本上同时生成的一组信号;该处理资源被配置为从在该多个连续时间帧中的所选时间帧和在时间上与该所选时间帧有关的另一个时间帧期间生成的该多组信号导出误差估计,该非结构化光源的照明发生在该所选时间帧期间,并且该结构化光源和该非结构化光源二者的照明发生在该另一个时间帧期间;以及该处理资源被配置为将该误差估计施加到关于该场景的距离计算中。
根据本发明的第三方面,提供了一种用于间接飞行时间距离计算装置的多路径误差补偿的方法,该方法包括:利用非结构化光在多个连续时间帧期间照明场景;利用结构化光与非结构化照明该场景同时照明该场景,该结构化照明发生在该多个连续时间帧的预定帧期间;响应于从该场景反射的光的照射,根据间接飞行时间测量技术生成多组信号;从在该多个连续时间帧中的所选时间帧和在时间上与该所选时间帧有关的另一个时间帧期间生成的该多组信号导出误差估计,该非结构化光源的照明发生在该所选时间帧期间,并且该结构化光和该非结构化光二者的照明发生在该另一个时间帧期间;以及将该误差估计施加到关于该场景的距离计算中。
因此,有可能提供一种装置和方法,该装置和方法能够避免或至少减轻间接飞行时间距离计算系统中的多路径效应,同时减轻通常伴随具有不同的结构化光图案的照明的距离帧速率降低的损失。
附图说明
现在,参考附图,将仅通过示例的方式来描述本发明的至少一个实施例,在附图中:
图1是构成本发明的实施例的多路径误差补偿的间接飞行时间距离计算装置的示意图;
图2是构成本发明的另一个实施例的用于对图1的间接飞行时间距离计算装置进行多路径误差补偿的方法的第一部分的流程图;
图3是图2的方法的第二部分的流程图;以及
图4是构成本发明的进一步实施例的图1的照明布置的示意图。
具体实施方式
在整个以下描述中,相同的附图标记将用于标识相同的部件。
参考图1,第一间接飞行时间距离计算装置100包括检测和测距模块,该检测和测距模块包括构成光电检测器元件的光学接收器光子混合器像素设备102,该光学接收器光子混合器像素设备102包括光电二极管104,该光电二极管104具有可操作地耦合到地电位或其他预定电压的阳极和耦合光子混合器106的第一输入的阴极,该光子混合器106的输出耦合到积分器108的输入。在该示例中,为了描述的简洁和清晰,正在描述单个光子混合器像素设备102。然而,技术人员将理解,检测和测距模块包括上述类型的光子混合器像素设备的阵列。积分器108的输出耦合到具有多个并行输出的相位缓冲器110的输入,该多个并行输出表示关于光子混合器像素设备102的所施加的相位值的各自累积电荷电平。在该示例中,相位缓冲器110包括m个输出,关于每个施加的相位值有一个输出。
技术人员将认识到,由于积分器108的输出是累积电荷,并且在该示例中在模拟域中,积分器108的输出需要在相位缓冲器110下游的处理之前被转换为数字域。这可以例如,通过采用光子计数器作为积分器108或在相位缓冲器110之前或之后提供模数转换器来实现。
相位信号发生器112被配置为生成连续波电信号。连续波信号的相位可经由控制输入114选择,该连续波信号的相位可选自以下一组相位:[p1,p2,…,pm]。相位信号发生器112的输出被耦合到光子混合器106的第二输入。
该装置还包括定时控制单元118,该定时控制单元118具有耦合到相位信号发生器112的控制输入114的第一控制输出120和可操作地耦合到相位缓冲器110的定时输入124的同步输出122。
相位缓冲器110的多(m)个输出分别耦合到数字傅里叶变换(dft)单元116的多个并行输入。dft单元116具有多个数字同相(i)/正交(q)输出,该多个数字同相(i)/正交(q)输出与关于所测量的信号的不同谐波的b对数字i/q输出(未示出)相对应。
与所接收的反射的光信号的一次谐波有关的一对i/q输出126耦合到距离计算单元130的向量输入128。距离计算单元130具有可操作地耦合到定时控制单元118的第二控制输出134的多路径计算控制端口132。距离计算单元130的向量输入128可操作地耦合到向量缓冲器140,该向量缓冲器140也可操作地耦合到向量到距离计算单元136。距离计算单元130的向量缓冲器140还可操作地耦合到多路径计算单元138。在该示例中,向量到距离计算单元136包括相位角计算单元(例如用于采用arctan2技术的反正切单元)以计算相位角。然而,技术人员将认识到,可以采用其他技术来计算相位角(例如三角技术)。任选地,向量到距离计算单元136可以包括振幅计算单元,该振幅计算单元采用例如出租车范数l1或欧几里得范数l2计算技术。
装置100还包括第一电磁辐射源(例如激光二极管(ld)或发光二极管(led))(以下称为第一光源142)和第二电磁辐射源(例如ld或led)(以下称为第二光源144),在该示例中共享基本上共同的照明场。在该示例中,第一光源142和第二光源144被配置为根据间接飞行时间测量技术发射经振幅调制的红外光,以便在被驱动时分别作为第一连续波光信号和第二连续波光信号发射。在该方面,第一驱动器电路146具有可操作地耦合到定时控制单元118的触发信号输出148的第一输入,并且第二驱动器电路150具有也可操作地耦合到定时控制单元118的触发信号输出148、但经由例如开关电路的激活控制器152的第二输入。激活控制器152具有可操作地耦合到定时控制单元118的源选择输出154的控制输入。第一驱动器电路146的第一输出耦合到第一光源142的第一驱动输入,并且第二驱动器电路150的第二输出耦合到第二光源144的第二驱动输入。在该示例中,第一光源142被配置为发射光的均匀发射(即无图案的光),并且第二光源144被配置为发射结构化光(例如预定的光图案),如现在将在本文后面将进一步详细描述的。
在操作(图2和图3)中,在上电之后并且在测量时间帧(其构成多个连续时间帧的所选时间帧)的开始处,定时控制单元118确保第二光源114未激活(即不接收触发信号),并且第一光源142正在接收触发信号。因此,第一光源142发射第一均匀连续波光信号,该第一均匀连续波光信号照明(步骤200)场景,例如场景的全部。在该方面,第一光源142是非结构化光源。例如,场景中的对象反射所发射的第一光信号。第一光源142在多个连续时间帧期间照明场景。在多个连续时间帧的测量时间帧期间,相位信号发生器112生成连续波电信号,定时控制单元118关于相对于连续波第一光信号的电信号控制控制对该组相位的循环遍历。同步信号也由定时控制单元118施加到帧缓冲器单元110,以确保将完整的信号组传输到dft单元116。定时控制单元118还经由多路径计算控制端口132向距离计算单元130提供多路径计算激活信号,以计算经补偿的向量。这可以例如通过设置多路径计算单元138和向量到距离计算单元136监控的标志来实现。
由相位信号发生器112生成的电信号被施加到光子混合器106,并且在测量时间帧期间电信号的相位角循环遍历上文提及的该组相位角,并且帧缓冲器110串行地接收存储在积分器108中的关于该组相位角中的每一个相位角的电荷的数字表示(步骤202和步骤204)。在该方面,积分器108提供串行的多个相位角样本输出,该多个相位角样本输出表示关于光子混合器像素设备102的施加的相位角值的各自累积电荷电平。相位缓冲器110一旦已循环遍历一组相位角,就有效地执行源自积分器108的电测量信号的串到并转换,然后向dft单元116提供m个并行输出信号。
后续测量时间帧构成在时间上与所选时间帧有关的另一个时间帧,后续测量时间帧跟在该测量时间帧后,在该后续测量时间帧期间,响应于接收到m个输出信号,dft单元116在i/q输出126处生成(步骤206)一对i/q输出信号,该i/q输出信号关于基频构成均匀照明向量s均匀并且具有第一相位角。该i/q输出信号被距离计算单元130接收,并暂时存储在向量缓冲器140中,直到接收到关于该后续测量时间帧的另一对i/q输出信号。
附加地,在该后续测量时间帧开始之际,定时控制单元118指示激活控制器152允许第二驱动器电路150接收触发信号,以便驱动第二光源144,如上所提及的该第二光源144被配置为发射结构化光图案。参考图4,第二光源144投射高空间频率低强度照明图案,例如由放置在透镜的焦平面中的垂直腔表面发射激光器(vcsel)阵列生成的点图案,或者棋盘图案。在该方面,第二光源144采用包括无照明区域(regionofnoillumination)的照明图案。
在该后续测量时间帧期间,结构化光图案与第一光源142的对光的均匀(非结构化)发射同时被发射(步骤208),并被对象反射。因此得出结论,一般地,第二光源144在多个连续时间帧的预定帧期间照明,在该示例中,该预定帧是交替的时间帧。然而,技术人员应当认识到,在其他示例中,第二光源144的照明可以在预定数量的时间帧之后发生,如果需要,可以重复地发生。
当第二光源144照明场景时,相位信号发生器112仍然生成如上所述的关于仅由第一光源照明的连续波电信号,定时控制单元118关于相对于连续波第一光信号的电信号控制对该组相位的循环遍历。
由相位信号发生器112生成的电信号被再次施加到光子混合器106,并且在该后续测量时间帧期间电信号的相位角循环遍历上文提及的该组相位角,并且帧缓冲器110串行地接收存储在积分器108中的关于该组相位角中的每一个相位角的电荷的数字表示(步骤210和212)。
一旦该后续测量时间帧结束,定时控制单元118防止(步骤214)触发第二驱动器电路150,这停止由第二光源144发射第二光信号。重复上述利用第一光源142的仅均匀光照明然后由第一光源142和第二光源144进行组合照明的过程(步骤200到步骤214),同时计算所需的相关联的向量达所需时长。
当另一个测量时间帧过去时,相位缓冲器110再次对源自积分器108的电测量信号进行串到并转换,并向dft单元116提供m个并行输出信号。使用该m个并行输出信号,dft单元116生成(步骤216)后续的一对i/q输出信号,该后续的一对i/q输出信号关于基频构成组合照明向量
上述方法针对包括以上提及的光学接收器光子混合器像素设备102的多个像素执行。在该方面,为了从操作方法的此阶段开始更清楚地了解装置100的操作,现在描述与处理关于均匀照明向量
当测量时间帧过去时,距离计算单元130如下操作。在接收到组合照明向量
因此,一般地,可以看出,计算在关于所选时间帧(在本示例中为测量时间帧)的多组信号的图像帧与关于另一个时间帧(在本示例中为后续测量时间帧)的多组信号的图像帧之间的差图像帧。
根据结构化照明向量,多路径计算单元138使用第二光信号的结构化照明的图案的先验知识,以便标识(步骤220)图案的无照明区域。对于与第二光信号的结构化照明的图案的无照明区域相对应的那些区域
在该示例中,通过由多路径计算单元138执行的低通滤波操作来估计关于图案的无照明区域的反射的光。这构成了误差估计
其中k是由发射均匀光信号的第一光源142和发射结构化光信号的第二光源144之间的光功率比率定义的缩放常数,且
误差补偿向量
重复上述步骤(步骤216到步骤226)直到不再需要生成经补偿的所测量距离。因此,在该示例中,使用在后续测量时间帧之后的多个连续时间帧的所选时间帧期间生成的多组信号,以及使用在时间上与该后续所选时间帧有关的进一步时间帧期间生成的多组信号,根据需要更新误差估计,第一光源142的照明在后续所选时间帧期间发生,并且第一光源142和第二光源144的照明在该进一步时间帧期间发生。
技术人员应当认识到,上述实现方式仅仅是在所附权利要求的范围内可想到的各种实现方式的示例。实际上,应当认识到,例如在其他实施例中,相位缓冲器110以及由此对从光子混合器像素设备102串行获取的缓冲的相位测量的并行处理可以被省略。在此类实施例中,相位测量的串行传输可以直接到dft单元116,从而减少了检测和测距模块的存储器需求。在这方面,dft单元116可以被提供有更小的内部缓冲器,以针对每一个帧循环迭代地计算串行接收的各个相位测量的中间i值和q值,该中间i值和q值在帧循环中累积以生成最终i值和q值结果。为了支持该布置,dft单元116可以可操作地耦合到定时控制单元118以保持数据处理的同步。
在上述示例中,第一光源142在每一个测量时间帧上都均匀地照明,并且第二光源144每隔一帧投射高空间频率照明图案。在其他示例中,可以采用进一步光源来投射另一个图案(例如与第二光源144互补的图案),以进一步提高多路径误差补偿准确度,该附加图案在与第二光源144投射的照明不同的时间帧期间发射,但与第一光源142的均匀照明同时发射。在该方面,并且一般地,进一步光源的照明可以在该多个连续时间帧的与上文提及的预定帧不同的进一步预定帧期间发生。在此类示例中,可以在进一步预定帧期间分别由像素生成多组信号,并且可以通过使用在进一步预定帧的另一个所选时间帧期间生成的多组信号来导出误差估计,在该另一个所选时间帧期间发生该进一步光源的照明。在此类示例中,应当认识到,由第二光源144发射的结构化光图案与由该进一步光源发射的进一步结构化光图案不同。
上述示例描述了在测量时间帧期间基本上同时地生成多个均匀照明向量
应当认识到,除非另外明确说明,否则本文中对“光”的引用旨在作为涉及电磁频谱的光学范围的引用,例如在约350nm与约2000nm之间,诸如在约550nm与约1400nm之间、或在约600nm与约1000nm之间。
本发明的替代实施例可以实现为与计算机系统一起使用的计算机程序产品,该计算机程序产品例如是存储在有形数据记录介质(诸如磁盘、cd-rom、rom或固定盘)上或实现在计算机数据信号中的一系列计算机指令,该信号通过有形介质或无线介质(例如微波或红外线)传输。该一系列计算机指令可以构成上述功能的全部或部分,并且还可以被存储在易失性或非易失性的任何存储器设备中,诸如半导体设备、磁性设备、光学设备或其他存储器设备。