49]具体地,下面对TOF传感器和图像传感器交织阵列芯片进行简单的介绍。
[0050]韩国三星电子公司开发出了可同时获得深度图像和普通RGB彩色图像的CMOS传感器,用一个CMOS传感器同时获得这两种图像属当时全球首次,该公司于2012年2月22日在美国“ISSCC2012”会议上对该CMOS传感器进行了论文发表。该种类型的CMOS传感器即属于CMOS的TOF传感器和图像传感器交织阵列芯片的范畴。如图2显示了韩国三星电子公司开发的该CMOS传感器的构成,其中每个像素单元包含I个Z像素(T0F传感器,用于产生深度图像)和8个RGB像素(图像传感器,用于产生RGB彩色图像),即I个Z像素对应2个R像素、4个G像素和2个B像素。如图3显示了该CMOS传感器的电子布线,在使用同一组光学镜片时,该CMOS传感器能够几乎同时拍摄一幅深度图像(其水平解析度为480,垂直解析度为360)和一幅RGB彩色图像(其水平解析度为1920,垂直解析度为720)。
[0051]应该理解的是,所拍摄的一幅图像实际为给定行/列长度(或水平、垂直的解析度)、给定数值变化范围和给定数值排列方式的一个数值矩阵。
[0052]因此,CMOS的TOF传感器和图像传感器交织阵列芯片一旦确定,Z像素和RGB (或YUV亮度、色差等)像素的比例和排列关系即可确定,其拍摄的该彩色图像(或亮度图像)与深度图像之间的交织映射关系也就确定。
[0053]在本发明的实施例中,如图4所示,具有CMOS的TOF传感器和图像传感器交织阵列芯片的摄像头Cl (由图中带横纹的小方框示意)通常安装在本车辆Carl (由图中白色大方框示意)的车身中线上。摄像头Cl可以安装在Carl车头并向车头前方成像,也可以安装在Carl车尾并向车尾后方成像,还可以在Carl的车头和车尾各安装一个摄像头Cl同时向车头前方和车尾后方成像。在此,不对摄像头Cl的安装位置和成像方向进行限制。即本发明的车辆识别的方法对不同的安装位置和成像方向都是适用的,因此下文并不做区分并且只说明安装一个摄像头Cl的情况。
[0054]S102,根据第一图像获取公路车道线。
[0055]具体地,根据摄像头拍摄到的彩色图像或亮度图像来获取公路车道线。
[0056]在本发明的一个实施例中,如图5所示,根据第一图像获取公路车道线具体包括:
[0057]S1021,根据第一图像生成灰度图像,并根据灰度图像生成亮度阈值。
[0058]具体地,人们常见的彩色图像可以使用多种颜色制式在显示设备实现彩色显示,例如RGB(红、绿、蓝三原色)制式、YUV(Y表示亮度、U\V表示色差)制式等。因此,如果所拍摄的彩色图像采用YUV制式,则可以直接抽取Y信号来创建关于亮度的灰度图像;如果所拍摄的彩色图像采用RGB制式(或经过ga_a校准的R’ G’ B’),则由公式Y=0.299R’ +0.587G’ +0.114B’来创建关于亮度的灰度图像。
[0059]进一步地,由于车道线的亮度与公路路面的亮度存在明显差异(车道线的亮度较高),因此可以通过查找得到某些亮度阈值,亮度阈值可以利用“直方图统计一双峰”算法来查找得到;还可以将灰度图像分成多个子图像并对每个子图像执行“直方图统计一双峰”算法来查找得到多个亮度阈值,以应对公路路面或车道线亮度变化的情况。
[0060]更具体地,如图6所示,假设灰度图像中像素的量化亮度变化范围为O到255,直方图就统计了灰度图像或其子图像的所有像素关于量化亮度变化的分布概率(或统计数),其中,亮度较低的包含公路路面的若干像素集中分布在一个概率分布峰,而亮度较高的包含车道线的若干像素集中分布在另一个概率分布峰,概率分布“双峰”之间的谷底处的量化亮度即亮度阈值,例如,如图6所示,亮度阈值为170。因此,只要在直方图中沿着量化亮度轴分别从两头各查找一个峰值及其位置,再从两个峰值位置之间查找一个谷底值及其位置,该谷底位置就是亮度阈值。
[0061]S1022,根据灰度图像和亮度阈值创建二值图像。
[0062]具体地,在灰度图像中,将亮度高于亮度阈值的包含车道线的灰度图像像素值设置为1,将亮度低于亮度阈值的包含公路路面的其他的灰度图像像素值设置为0,从而创建了突出车道线的二值图像ΜΒ0,如图7所示。
[0063]S1023,根据二值图像识别初始公路车道线,并根据初始公路车道线获取公路车道线。
[0064]在本发明的一个实施例中,根据初始公路车道线获取公路车道线包括:对初始公路车道线进行筛选以获取两条直线段,并对两条直线段进行延长或合并,以获取公路车道线。
[0065]具体地,由于接近本车辆Carl的车道线总是接近于直的,因此可以利用Hough直线检测算法(Hough变换)在二值图像MBO中识别接近本车辆Carl的车道线。通常运用Hough直线检测算法将检测到较多像素值为I的直线段,如图7所示的直线段中,除了车道线还可能包含护栏、减速带等。因此需要从检测到的多个直线段中挑选出具有较长长度并且与水平线成较大锐角的N条直线段,如图8所示为经挑选后的6条直线段(直线段如粗实线所示,考虑图中右半边图像的直线段与水平线所成角的余角为锐角,水平线和锐角如虚线所示),抛弃其他直线段,从而创建了二值图像MB1。又由于最接近本车辆Carl的车道线通常有左右2条,并且该左右2条车道线段与水平线所形成的锐角在较长长度的N条直线段中具有比较稳定的锐角度变化范围,因此该左右2条车道线段能够被从上述N条直线段中挑选出来,从而创建了二值图像MB2,如图9所示。
[0066]更具体地,将挑选得到的左右2条车道直线段(即图8中所示的2条车道直线段)在灰度图像坐标系中延长即可创建车道线原始坐标集合,该车道线原始坐标集合包含该延长的左右2条车道直线段经过灰度图像的各个像素的坐标集合,从而创建了二值图像MB3,如图10所示。图10中所示即为公路车道线的示意图。
[0067]此外,当距离本车辆Carl较远处的车道线是弯道时,如果按照上述方法将挑选得到的左右2条车道直线段延长以形成公路车道线,将与实际情况存在较大的误差。例如,如图11所示,粗的实线段(标号为1、2)为Hough直线检测算法识别的车道线,细的虚线段(标号为3、4)为经挑选的左右2条车道直线段的延长线,实线段5以及虚线段6为实际中的公路车道线,那么如果后续按照线段1、2、3和4组成的车道线生成车辆识别范围,则将产生较大的误差,即线段3和线段5之间区域的为错误的车辆识别范围,而线段4和线段6之间的区域为遗漏的车辆识别范围。为此,在存在弯道的情况下,不对该左右2条车道直线段(即线段I和线段2)进行延长,而是在该左右2条车道直线段的上端附近查找直线段,并进行线段的合并;在合并后的线段的上端继续查找、合并直线段,直到合并的线段的长度达到设定的限值。其中,线段的合并过程如图12、13、14所示。完成合并的左右2条车道线段经过灰度图像的各个像素的坐标的集合即车道线原始坐标集合。图14所示,即为在存在弯道的情况下获取到的公路车道线的示意图。
[0068]S103,根据第一图像和第二图像之间的交织映射关系将公路车道线映射至第二图像中以在第二图像中生成车辆识别范围。
[0069]具体地,由于车道线紧贴公路路面,厚度小,在深度图像中车道线与公路路面有非常接近的深度变化(不是亮度变化),难以在深度图像中将车道线和公路路面区分开来,因此,可以根据彩色图像(或亮度图像、灰度图像)与深度图像之间的交织映射关系将步骤S102中获得的公路车道线映射到深度图像中以得到车辆识别范围。
[0070]更具体地,例如,以最简单的等比例交织映射关系为例,可设定深度图像中每一行Z像素对应步骤S1021中灰度图像的N行Y像素(灰度图像的垂直解析度为深度图像的N倍),并且每一列Z像素对应步骤S1021中灰度图像的M列Y像素(灰度图像的水平解析度为深度图像的M倍)。进一步地,根据上述交织映射关系的比例设定,对于车道线原始坐标集合中包含的每个坐标(包含原始行坐标和原始列坐标),将其原始行坐标除以N后取整得到映射的行坐标,其原始列坐标除以M后取整得到映射的列坐标。根据映射的行坐标和映射的列坐标可以创建关于深度图像的车道线映射坐标集合(即车辆识别范围)。由此,最接近本车辆Carl的左右2条车道线就从彩色图像(或亮度图像、灰度图像)映射到了深度图像,映射的左右2条车道线之间的深度图像部分像素区域即为车辆识别范围。
[0071]S104,根据车辆识别范围对车辆进行识别。
[0072]具体地,当本车辆Carl以外的对方车辆出现在彩色图像(或亮度图像)与深度图像中的时候,通常对方车辆的背面或正面距离本车辆Carl最近并且与公路路面(或其他更远的事物)形成强烈的亮度和深度差异(对方车辆的背面或正面的内部各部分具有几乎同样深度,却明显高出路面),而深度图像还直接包含了对方车辆距离信息。因此,可以根据车辆识别范围对车辆进行识别。
[0073]在本发明的一个实施例中,如图15所示,根据车辆识别范围对车辆进行识别进一步包括:
[0074]S1041,根据第二图像和车辆识别范围识别对方车辆。
[0075]在本发明的一个实施例中,如图16所示,根据第二图像和车辆识别范围识别对方车辆具体包括:
[0076]S201,获取两个不同时刻拍摄的两幅第二图像,并根据两幅第二图像创建突出移动对象的时间微分深度图像。
[0077]具体地,通常本车辆Carl与对方车辆的距离总是变化的,在深度图像中即表现为对方车辆的深度像素值或对方车辆在深度图像坐标系的位置随时间发生变化。因此,可以利用关于深度图像的时间微分算法来识别对方车辆。例如,拍摄时刻分别为Tl、T2(T1早于Τ2)的两幅深度图像Α1、Α2(分别如图17、18所示,图中两条细的虚线之间为车辆识别范围,为说明简便,示意图不绘出车辆以外的事物),将Al中每个像素al的深度值与A2中每个像素a2的深度值相减并取绝对值(其中al和a2具有同样的深度图像坐标),从而创建了突出移动对象的时间微分深度图像MC(如图19所示)。
[0078]S202,根据突出移动对象的时间微分深度图像获取车辆识别范围内的对方车辆的时间微分深度图像。
[0079]具体地,将Al或A2的车辆识别范围应用到突出移动对象的时间微分深度图像MC中,将MC中车辆识别范围以外的像素值设置为0,从而创建了车辆识别范围内的对方车辆的时间微分深度图像MD (如图20所示)。在图20中,以MD中填充网格的多边形图框突出表示上述Al、A2中对方车辆包含的深度像素的深度值的相减值。
[0080]S203,对对方车辆的时间微分深度图像沿行方向、列方向进行投影,以在对方车辆的时间微分深度图像中获取对方车辆的四个边缘的行序号、列序号。
[0081]具体地,将S202中的填充网格的多边形图框在MD的水平和垂直方向进行投影操作,容易查找得到该填充网格的多边形图框的上、下、左、右四边缘的行序号和