车辆追踪方法、装置、设备及存储介质与流程

文档序号:26174734发布日期:2021-08-06 18:20阅读:99来源:国知局
车辆追踪方法、装置、设备及存储介质与流程

本发明实施例涉及图像处理技术领域,尤其涉及一种车辆追踪方法、装置、设备及存储介质。



背景技术:

随着智能驾驶和智慧城市等概念的发展,当前智能驾驶和智能交通监控在城市生活中得到了大规模的普及和应用,而如何对感知范围内的车辆进行追踪是提高智能驾驶和智能交通监控的关键。

现有的智能追踪感知设备如激光雷达和深度相机存在硬件价格昂贵的问题,极大限制了感知设备的推广与应用。单目相机是指仅包含一个摄像头的相机,单目相机具有价格便宜和安装便利的优点。然而基于单目相机的追踪方法中通常以几何匹配的追踪方法为主,其中,几何匹配的追踪方法是指当车辆的检测框的几何特征满足一定条件时,确定为同一车辆。

然而,在多个检测框重合度较高时,也就是车辆交错时容易出现车辆id交换的问题,即上述方法存在着追踪性能不稳定的问题。



技术实现要素:

本发明实施例提供一种车辆追踪方法、装置、设备及存储介质,以解决现有的车辆追踪方法存在的追踪性能不稳定的问题。

第一方面,本发明实施例提供一种车辆追踪方法,包括:

对获取的当前帧图像进行目标检测,得到检测结果,其中,所述当前帧图像包括在道路中行驶的多个车辆的图像;所述检测结果包括多个目标检测框;

对于每一目标检测框,根据所述目标检测框的位置和预测的多个候选框的位置,确定与所述目标检测框相交的候选框,并计算所述目标检测框与每一相交的候选框的几何相似度;其中,所述预测的多个候选框的位置为对上一帧图像进行检测得到的目标检测框在当前帧图像中的预测位置;

通过车辆重识别网络确定所述多个目标检测框中每一目标检测框的第一图像特征向量,根据每一目标检测框的第一图像特征向量和多个候选框的第二图像特征向量确定所述目标检测框和各候选框的特征相似度;

根据所述几何相似度和特征相似度确定所述多个目标检测框分别对应的候选框,以根据对应的候选框确定车辆id。

可选的,根据所述目标检测框的位置和预测的多个候选框的位置,确定与所述目标检测框相交的候选框,并计算所述目标检测框与每一相交的候选框的几何相似度,包括:

获取多个候选框中与所述目标检测框存在相交区域的目标候选框;

分别计算每个目标候选框与所述目标检测框的交并比,将所述交并比确定为所述目标候选框与所述目标检测框的几何相似度。

可选的,通过车辆重识别网络确定所述多个目标检测框中每一目标检测框的第一图像特征向量,包括:

将所述多个目标检测框分别进行预处理操作,得到预处理后的多个输入图像;

将所述多个输入图像输入所述车辆重识别网络,经过所述车辆重识别网络的特征提取,得到与所述多个目标检测框对应的第一图像特征向量。

可选的,所述根据每一目标检测框的第一图像特征向量和多个候选框的第二图像特征向量确定所述目标检测框和各候选框的特征相似度,包括:

针对每一目标检测框,获取所述目标检测框和任一候选框的组合,根据所述目标检测框的第一图像特征向量和所述候选框的第二图像特征向量确定所述组合的特征相似度;

所述特征相似度包括:余弦相似度和/或欧式距离。

可选的,所述检测结果还包括每一目标检测框对应的置信度,根据所述几何相似度和特征相似度确定所述多个目标检测框分别对应的候选框,以根据对应的候选框确定车辆id,包括:

根据所述每一目标检测框对应的置信度确定高置信度的目标检测框和低置信度的目标检测框;

先将高置信度的目标检测框与对应的候选框匹配,再从未匹配的候选框中确定与低置信度的目标检测框对应的候选框;

当所述目标检测框存在对应的候选框时,将所述候选框的车辆id确定为对应的目标检测框的车辆id;当所述目标检测框不存在对应的候选框时,将新的车辆id确定为所述目标检测框的车辆id。

可选的,先将高置信度的目标检测框与对应的候选框匹配,再从未匹配的候选框中确定与低置信度的目标检测框对应的候选框,包括:

当所述高置信度的目标检测框与候选框的几何相似度与特征相似度均满足预设条件时,将所述候选框确定为与所述高置信度的目标检测框对应的候选框;

当所述高置信度的目标检测框与候选框的几何相似度与特征相似度均不满足预设条件时,将所述高置信度的目标检测框确定为新出现的检测框;

当所述低置信度的目标检测框与未匹配的候选框的几何相似度与特征相似度均满足预设条件时,将所述未匹配的候选框确定为与所述低置信度的目标检测框对应的候选框;

当所述低置信度的目标检测框与未匹配的候选框的几何相似度与特征相似度均不满足预设条件时,则判断所述未匹配的候选框对应的车辆id已脱离追踪感知范围,且所述低置信度的目标检测框为非车辆目标。

第二方面,本发明实施例提供一种车辆追踪装置,包括:

目标检测模块,用于对获取的当前帧图像进行目标检测,得到检测结果,其中,所述当前帧图像包括在道路中行驶的多个车辆的图像;所述检测结果包括多个目标检测框;

计算模块,用于对于每一目标检测框,根据所述目标检测框的位置和预测的多个候选框的位置,确定与所述目标检测框相交的候选框,并计算所述目标检测框与每一相交的候选框的几何相似度;其中,所述预测的多个候选框的位置为对上一帧图像进行检测得到的目标检测框在当前帧图像中的预测位置;

所述计算模块,还用于通过车辆重识别网络确定所述多个目标检测框中每一目标检测框的第一图像特征向量,根据每一目标检测框的第一图像特征向量和多个候选框的第二图像特征向量确定所述目标检测框和各候选框的特征相似度;

确定模块,用于根据所述几何相似度和特征相似度确定所述多个目标检测框分别对应的候选框,以根据对应的候选框确定车辆id。

第三方面,本发明实施例提供一种车辆追踪设备,包括:至少一个处理器和存储器;

所述存储器存储计算机执行指令;

所述至少一个处理器执行所述存储器存储的计算机执行指令,使得所述至少一个处理器执行如第一方面任一项所述的车辆追踪方法。

第四方面,本发明实施例提供一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机执行指令,当处理器执行所述计算机执行指令时,实现如第一方面任一项所述的车辆追踪方法。

本发明实施例提供的车辆追踪方法、装置、设备及存储介质,该方法通过对获取的当前帧图像进行目标检测,得到多个目标检测框;根据每一目标检测框的位置和预测的多个候选框的位置,计算每一目标检测框与每一相交的候选框的几何相似度;通过车辆重识别网络确定每一目标检测框的第一图像特征向量,根据每一目标检测框的第一图像特征向量和多个候选框的第二图像特征向量确定所述目标检测框和各候选框的特征相似度;根据几何相似度和特征相似度确定多个目标检测框分别对应的候选框,以根据对应的候选框确定车辆id,通过对车辆的几何相似度和特征相似度的验证,有效抑制了车辆在交错时导致的车辆id交换的问题,提高了车辆追踪性能的稳定性。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。

图1为本发明实施例提供的车辆追踪的应用场景示意图;

图2为本发明实施例提供的一种车辆追踪方法的流程示意图;

图3为本发明实施例提供的车辆追踪方法的原理示意图;

图4为本发明实施例提供的车辆重识别网络的结构示意图;

图5为本发明实施例提供的确定与目标检测框对应的候选框的原理示意图;

图6为本发明实施例提供的车辆追踪装置的结构示意图;

图7为本发明实施例提供的车辆追踪设备的硬件结构示意图。

具体实施方式

下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。

本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”“第四”等(如果存在)是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例例如能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

图1为本发明实施例提供的车辆追踪的应用场景示意图,如图1所示,通过摄像装置(图中未示出)获取当前帧图像,当前帧图像为车辆在道路中行驶时的图像,图中的长方形框表示为车辆,竖线及虚线表示车道线,其中,摄像装置可以设置在路端,还可以为设置在自动驾驶车辆内。车辆追踪设备获取摄像装置采集的当前帧图像,并对图像中的车辆进行车辆追踪处理,得到当前帧图像中每一车辆的车辆id,例如,图中的车辆分别对应的车辆id为id1,id2和id3。其中,当应用在自动驾驶车辆内时,车辆追踪设备设置在自动驾驶车辆内,摄像装置与车辆追踪设备可以单独设置,还可以集成设置在一个设备中。当应用在路端时,车辆追踪设备可以设置在远端。

现有技术中,在对车辆进行追踪时,通常以几何匹配的追踪方法为主,然而,几何匹配的追踪方法在当车辆的检测框的几何特征满足一定条件时,就确定为同一车辆。那么当车辆在交错时,如在相邻两个车道线上的两辆车,车辆a和车辆b,在同一时刻,车辆a从车道线1行驶至车道线2上,车辆b从车辆线2行驶至车道线1上,那么通过几何匹配的方法无法确定车辆是否发生了变道,有可能将车辆a认为是车辆b,则会产生车辆追踪不稳定的问题。

基于上述问题,可以发现仅通过检测框的几何特征来确定车辆id会造成较大的误差,因此,可以通过增加另一种特征来准确定位在交错时的车辆,如图像特征,图像特征可以表征车辆的颜色,线条等特征,那么当车辆在交错时通过进一步判断与上一帧图像之间的特征相似度,即可准确对交错时的车辆进行追踪。

本发明实施例提供的车辆追踪方法,对获取的当前帧图像进行目标检测,得到多个目标检测框;根据每一目标检测框的位置和预测的多个候选框的位置,计算每一目标检测框与每一相交的候选框的几何相似度;通过车辆重识别网络确定每一目标检测框的第一图像特征向量,根据每一目标检测框的第一图像特征向量和多个候选框的第二图像特征向量确定所述目标检测框和各候选框的特征相似度;根据几何相似度和特征相似度确定多个目标检测框分别对应的候选框,以根据对应的候选框确定车辆id,通过对车辆的几何相似度和特征相似度的验证,有效抑制了车辆在交错时导致的车辆id交换的问题,提高了车辆追踪性能的稳定性。

下面以具体地实施例对本发明的技术方案进行详细说明。下面这几个具体的实施例可以相互结合,对于相同或相似的概念或过程可能在某些实施例不再赘述。

图2为本发明实施例提供的一种车辆追踪方法的流程示意图,本实施例的方法可以由车辆追踪装置执行,该车辆追踪装置可以以软件和/或硬件的形式设置在图1的车辆追踪设备中。如图2所示,本实施例的方法,可以包括:

s201、对获取的当前帧图像进行目标检测,得到检测结果,其中,所述当前帧图像包括在道路中行驶的多个车辆的图像;所述检测结果包括多个目标检测框。

在本实施例中,当前帧图像是通过摄像装置获取的,其中,摄像装置可以为单目相机,单目相机具有性价比高和安装便利的优点。其中,单目相机采集的图像为rgb图像,也就是包含色彩信息的图像,以便于后续可以获取当前帧图像的图像特征。此外,获取的当前帧图像为车辆在道路中行驶的图像。

其中,为了保证追踪结果的稳定性,单目相机在采集图像时,需要保证采样帧率不低于10帧每秒,即一秒钟采集10帧图像,相应的车辆追踪设备的处理速度也不能低于10帧每秒。

其中,车辆追踪设备可以接收摄像装置获取的当前帧图像,并通过目标检测网络对当前帧图像进行目标检测,得到当前帧图像包含的目标检测框,其中,目标检测网络包括但不限于centernet、yolo(youonlylookonce)、faster-rcnn等。其中,一个目标检测框代表一个车辆或者被误识别为车辆的其他物体。例如,在当前帧图像中包含三个车辆,则通过目标检测网络的检测后,可以得到三个目标检测框。

s202、对于每一目标检测框,根据所述目标检测框的位置和预测的多个候选框的位置,确定与所述目标检测框相交的候选框,并计算所述目标检测框与每一相交的候选框的几何相似度;其中,所述预测的多个候选框的位置为对上一帧图像进行检测得到的目标检测框在当前帧图像中的预测位置。

在获取多个目标检测框后,可以计算所述目标检测框与每一相交的候选框的几何相似度。其中,候选框是对当前帧图像的目标检测框的预测框,是根据上一帧图像的目标检测框的位置确定的。具体的,在完成上一次图像中车辆的追踪后,根据两帧图像之间的时间间隔、车辆移动速度和移动方向确定候选框的偏移量;根据所述当前帧图像的多个目标检测框的位置和对应的候选框的偏移量确定预测的多个候选框的位置。其中,移动速度和移动方向可以根据两帧图像中检测框的位置和两帧图像间的时间间隔来确定。

图3为本发明实施例提供的车辆追踪方法的原理示意图,如图3所示,所述多个候选框采用虚线表示,由于存在多个目标检测框,在计算目标检测框和候选框的几何相似度时,需要对每一目标检测框进行计算。对于一个目标检测框,先获取与该目标检测框存在相交区域的候选框,当存在相交区域时,表示该目标检测框可能是与该候选框存在对应关系,其中存在对应关系是指,该候选框的车辆id与该目标检测框的车辆id相同。在得到相交的候选框后,计算所述目标检测框与每一相交的候选框的几何相似度。例如,对于某一目标检测框若存在两个相交的候选框,则分别计算该目标检测框与该两个候选框的几何相似度。

其中,几何相似度可以根据目标检测框和候选框的相交区域进行衡量,当相交区域较大时,则几何相似度越大;当相交区域越小时,则几何相似度越小。

s203、通过车辆重识别网络确定所述多个目标检测框中每一目标检测框的第一图像特征向量,根据每一目标检测框的第一图像特征向量和多个候选框的第二图像特征向量确定所述目标检测框和各候选框的特征相似度。

如图3所示,在本实施例中,还可以通过车辆重识别网络来提取每一目标检测框的图像特征向量,其中,车辆重识别网络包括主干网络、平均池化层和批归一化层。输入的数据为多个目标检测框对应的数据,经过主干网络、平均池化层和批归一化层的处理后,输出预设维度的特征向量,该特征向量即为第一图像特征向量。

在得到多个目标检测框的第一图像特征向量后,可以计算所述目标检测框和各候选框的特征相似度,其中,在计算特征相似度时,需要获取各候选框的第二图像特征向量,其中上一帧检测框的图像特征向量即为候选框的第二图像特征向量。

计算各个目标检测框与各个候选框的特征相似度时,可以根据图像特征向量来计算,特征相似度可以表征两个特征向量之间的相似程度,例如,采用余弦相似度来表示特征相似度时,余弦相似度的取值范围为-1到1,当取值为1时,表示检测框内的车辆特征与候选框中的车辆特征越接近。

s204、根据所述几何相似度和特征相似度确定所述多个目标检测框分别对应的候选框,以根据对应的候选框确定车辆id。

在本实施例中,在计算几何相似度和特征相似度后,可以根据几何相似度和特征相似度来确定与每一目标检测框对应的候选框,进而确定每一目标检测框的车辆id。其中,在确定与目标检测框对应的候选框时,需要使得几何相似度和特征相似度均满足预设条件。

例如,对于某一目标检测框来说,与其相交的候选框存在两个,分别为候选框1和候选框2,其中与候选框1之间的几何相似度为0.6,与候选框2之间的几何相似度为0.8,若仅通过几何相似度进行判断则会认为候选框2与目标候选框存在对应关系。但是,若目标检测框与候选框1之间的特征相似度为0.9,与候选框2之间的特征相似度为0.6,因此,可以判断目标检测框与候选框1存在对应关系。其中,候选框2与目标检测框之间的几何相似度大于候选框1与目标检测框之间的几何相似度,可能是由于两车辆在交错时所导致。其中,对于输入的第一帧图像,直接对目标检测框赋予新的车辆id,并作为下一帧的目标检测框匹配时的候选框。

其中,在确定与目标检测框对应的候选框后,则可以确定候选框对应的车辆id即为所述目标检测框的车辆id。

上述方法通过获取特征相似度,在进行目标检测框的识别时,不仅考虑几何相似度还考虑特征相似度,解决了当车辆在交错时,仅通过几何相似度无法对目标检测框进行追踪的问题,提高了车辆追踪性能的稳定性。

此外,由于基于几何相似度的车辆追踪方法中需要根据多帧图像来获取速度信息,进而获取更准确的候选框的位置,然而,对于新出现的车辆id,无法进行速度预测,因此基于几何相似度的方法不能准确追踪新出现的车辆id对应的车辆。而基于特征相似度的车辆追踪方法可以通过计算图像特征向量和特征相似度的方法来对车辆id进行匹配,则补充上述方法的缺陷。

下面结合一个具体的实施例对获取几何相似度、特征相似度以及确定车辆id的过程进行详细描述。

可选的,根据所述目标检测框的位置和预测的多个候选框的位置,确定与所述目标检测框相交的候选框,并计算所述目标检测框与每一相交的候选框的几何相似度,包括:

获取多个候选框中与所述目标检测框存在相交区域的目标候选框。

在本实施例中,在计算目标检测框与候选框之间的几何相似度时,首先需要确定目标候选框,在一帧图像中可能存在多个目标检测框,与其对应的,也会存在多个候选框,对于一个目标检测框,我们无需计算与所有候选框之间的几何相似度,仅计算与目标检测框存在相交区域的候选框之间的几何相似度即可。

具体的,可以获取目标检测框的四个顶点的位置坐标,以及候选框的四个顶点的位置坐标,当候选框中的四个顶点中至少一个顶点位于所述目标检测框围成的区域内时,则所述目标检测框与所述候选框相交,否则,目标检测框和所述候选框不相交。通过上述方法确定与目标检测框相交的所有候选框,该候选框即为目标候选框。

分别计算每个目标候选框与所述目标检测框的交并比,将所述交并比确定为所述目标候选框与所述目标检测框的几何相似度。

在本实施例中,在获取目标候选框后,可以计算目标检测框与每一目标候选框的交并比,其中,交并比的计算方法为:获取目标检测框与目标候选框的相交区域的面积,获取目标检测框与目标候选框的相并区域的面积,并计算相交区域的面积与相并区域的面积的商,得到的商即为交并比,而交并比即为几何相似度。

通过计算存在相交区域的目标候选框,则无需计算所有候选框的几何相似度,将交并比作为几何相似度具有计算简单的优点。

可选的,通过车辆重识别网络确定所述多个目标检测框中每一目标检测框的第一图像特征向量,包括:

将所述多个目标检测框分别进行预处理操作,得到预处理后的多个输入图像。

在本实施例中,在计算目标检测框的第一图像特征向量时,需要先对目标检测框进行预处理操作,其中,预处理操作是指将各个目标检测框裁剪并调整成统一大小。为了提高特征提取的速度和特征的精度,在对目标检测框的尺寸进行调整后,还需要判断目标检测框的像素值是否大于预设像素值,当大于预设像素值时,则将其作为处理后的输入图像;否则,不需要将目标检测框输入至车辆重识别网络。例如,对于一帧图像,当存在三个目标检测框时,将三个目标检测框裁剪下来,并将裁剪的三个图像分别调整为统一大小,当调整大小后的像素值大于900时,则将其输入至车辆重识别网络,否则,跳过计算特征相似度的步骤。

将所述多个输入图像输入所述车辆重识别网络,经过所述车辆重识别网络的特征提取,得到与所述多个目标检测框对应的第一图像特征向量。

在本实施例中,采用车辆重识别网络来获取图像特征向量,图4为本发明实施例提供的车辆重识别网络的结构示意图;如图4所示,所述网络包括主干网络、平均池化层、批归一化层、全连接层和softmax层,其中,主干网络、平均池化层和批归一化层用于提取图像特征向量,全连接层和softmax层用于对车辆重识别网络的参数进行训练,在提取特征时不使用。其中,主干网络包括但不限于resnet残差网络、vgg极深卷积神经网络、inception网络等常用的神经网络的主干网络的架构。例如,可以使用resnet-50作为主干网络,其中50指的是残差网络的层数。输入的数据可以为四维的张量数据如n*3*320*320,其中,四个维度的数据分别表示输入图像的个数,输入通道的个数,输入图像的横向宽度和输入图像的纵向长度。当输入数据经过主干网络后得到某一维度的特征向量,如512维、1024维和2048维的数据,再经过平均池化层和批归一化层后,可以得到n个相应维度的特征向量。

其中,全连接层和softmax层在对车辆重识别网络的参数进行训练时,基于交叉熵分类损失函数和成对损失函数对网络的参数进行更新。

具体的,在车辆重识别网络的训练阶段,数据库包括大量的车辆id以及每一车辆id对应的图像,将车辆id为id1的车辆图片输入车辆重识别网络,经过网络的特征提取及分类,若输出的车辆id不是id1,则获取该识别错误的样本的交叉熵分类损失函数,并根据该损失函数去更新网络的参数。此外,在训练时同一批次的车辆的图片时,将不同的图片依次作为锚点,计算与所述锚点图片的id相同的样本的余弦距离,作为正样本余弦距离,计算与所述锚点图片的id不同的样本的余弦距离,作为负样本余弦距离,其中,当所述负样本余弦距离与正样本余弦距离的第一差值小于预设阈值时,将该第一差值与预设阈值之间的第二差值作为成对损失函数,并根据该损失函数去更新网络的参数。

通过车辆重识别网络可以准确提取目标检测框的特征向量,通过成对损失函数可以实现相同车辆id的余弦距离与不同车辆id的余弦距离相差较大,通过交叉熵分类损失函数可以重点对分类错误的特征进行学习,从而提高车辆识别网络提取的特征的准确性。

可选的,所述根据每一目标检测框的第一图像特征向量和多个候选框的第二图像特征向量确定所述目标检测框和各候选框的特征相似度,包括:

针对每一目标检测框,获取所述目标检测框和任一候选框的组合,根据所述目标检测框的第一图像特征向量和所述候选框的第二图像特征向量确定所述组合的特征相似度;所述特征相似度包括:余弦相似度和/或欧式距离。

在本实施例中,可以不仅仅计算几何相似度不为0的目标候选框和目标检测框之间的特征相似度,针对每一目标检测框,应该计算该目标检测框与任一候选框的特征相似度,当出现掉帧的现象时,若某一组合的特征相似度较大,但是几何相似度较小时,也认为该目标检测框和候选框存在对应关系,可以解决掉帧时出现的追踪错误的问题。其中,在计算特征相似度时,可以根据第一特征向量和第二特征向量计算特征相似度,其中,第一特征向量和第二特征向量为预设维度的向量,如512维,1024维和2048维。例如,特征相似度可以为余弦相似度,也就是计算两个图像特征向量的夹角的余弦值。当余弦值为1时,表示两个图像特征向量越接近。此外,还可以计算两个图像特征向量的夹角,当计算的夹角趋于0时,表示两个图像特征向量越接近。此外,还可以计算两个图像特征向量的欧式距离,当欧式距离越小时,表示两个图像特征向量越接近。其中特征向量可以表示为车辆的颜色信息,线条信息等,当特征向量越接近时,表示车辆的颜色和线条等特征越接近。

通过计算特征相似度,可以衡量目标检测框和目标候选框的特征是否一致,进而可以作为车辆追踪的依据。

可选的,所述检测结果还包括每一目标检测框对应的置信度,根据所述几何相似度和特征相似度确定所述多个目标检测框分别对应的候选框,以根据对应的候选框确定车辆id,包括:

根据所述每一目标检测框对应的置信度确定高置信度的目标检测框和低置信度的目标检测框。

在本实施例中,在对车辆进行目标检测时,输出的信息还包括与目标检测框对应的置信度,当置信度大于预设置信度时,则该目标检测框为高置信度的目标检测框,当置信度小于等于预设置信度时,则该目标检测框为低置信度的目标检测框。其中,对预设置信度的设置不做限定。

例如,当预设置信度为0.7,当目标检测框1的置信度为0.8时,则目标检测框1为高置信度的目标检测框;当目标检测框1的置信度为0.6时,则该目标检测框1为低置信度的目标检测框。当目标检测框1的置信度小于某一数值(如0.5)时,则认为该目标检测框为非车辆目标。

先将高置信度的目标检测框与对应的候选框匹配,再从未匹配的候选框中确定与低置信度的目标检测框对应的候选框。

其中,在确定高置信度的目标检测框和低置信度的目标检测框后,可以先确定高置信度的目标检测框对应的候选框,再确定低置信度的目标检测框对应的候选框,从而提高确定的与目标检测框对应的候选框的准确率。

当所述目标检测框存在对应的候选框时,将所述候选框的车辆id确定为对应的目标检测框的车辆id;当所述目标检测框不存在对应的候选框时,将新的车辆id确定为所述目标检测框的车辆id。

其中,候选框的车辆id是已知的,当确定目标检测框对应的候选框后,则候选框对应的车辆id即为目标检测框的车辆id;而对于一个目标检测框,若不存在与其对应的候选框,则表示所述目标检测框在之前的多帧图像中未出现过,因此该目标检测框对应的车辆为新出现的车辆,可以为其设置新的车辆id。

通过将目标检测框划分为高置信度的目标检测框和低置信度的目标检测框,并先确定高置信度的目标检测框对应的候选框,能够避免将低置信度的目标检测框误认为是与某一候选框对应的目标检测框,可以提高车辆追踪的准确率。

图5为本发明实施例提供的确定与目标检测框对应的候选框的原理示意图,如图5所示,首先,根据高置信度的目标检测框和候选框以及候选框的车辆id进行第一次匹配,再进行第一次匹配后会对高置信度的目标检测框完成车辆id的分配,随后根据未被高置信度的目标检测框匹配的候选车辆id和低置信度的目标检测框进行第二次匹配,最后得到每一目标检测框的车辆id。下面给出一种具体的实施例来确定与目标检测框对应的候选框。

可选的,先将高置信度的目标检测框与对应的候选框匹配,再从未匹配的候选框中确定与低置信度的目标检测框对应的候选框,包括:

当所述高置信度的目标检测框与候选框的几何相似度与特征相似度均满足预设条件时,将所述候选框确定为与所述高置信度的目标检测框对应的候选框;

当所述高置信度的目标检测框与候选框的几何相似度与特征相似度均不满足预设条件时,将所述高置信度的目标检测框确定为新出现的检测框;

当所述低置信度的目标检测框与未匹配的候选框的几何相似度与特征相似度均满足预设条件时,将所述未匹配的候选框确定为与所述低置信度的目标检测框对应的候选框;

当所述低置信度的目标检测框与未匹配的候选框的几何相似度与特征相似度均不满足预设条件时,则判断所述未匹配的候选框对应的车辆id已脱离追踪感知范围,且所述低置信度的目标检测框为非车辆目标。

具体的,先确定高置信度的目标检测框对应的候选框,当某一高置信度的目标检测框存在多个相交的候选框时,分别判断该高置信度的目标检测框与每一候选框的几何相似度和特征相似度是否满足条件,其中,满足预设条件是指几何相似度大于第一预设阈值,特征相似度大于第二预设阈值,当每一候选框与目标检测框的几何相似度和特征相似度均满足在条件时,则将特征相似度数值最大时对应的候选框确定为与高置信度的目标检测框对应的候选框。

其中,当不存在满足条件的候选框时,则表示候选框中不存在与所述高置信度的目标检测框对应的候选框,也就是说所述高置信度的目标检测框为新增的检测框,至此完成第一次匹配。

其中,在完成第一次匹配后,还可能存在未匹配的候选车辆id,并且目标检测框中还存在低置信度的目标检测框,因此,需要将低置信度的目标检测框和未完成匹配的候选车辆id进行第二次匹配。其中,第二次匹配的方法第一次匹配的方法相同,均是判断几何相似度和特征相似度是否满足条件,若满足条件,则表示未匹配的候选框与低置信度的检测框存在对应关系;若不满足条件,则表示低置信度的目标检测框不是车辆目标;若对于一个未匹配的候选框,若所有的低置信度的目标检测框的几何相似度和特征相似度均不满足条件,则表示所述未匹配的候选框已脱离追踪范围,即驶离了当前摄像装置的监控范围。

通过上述方法,可以准确的为每一目标检测框准确的分配候选框,进而确定每一目标检测框对应的车辆id。

图6为本发明实施例提供的车辆追踪装置的结构示意图,如图5所示,本实施例提供的车辆追踪装置60,可以包括:目标检测模块601、计算模块602和确定模块603;

目标检测模块601,用于对获取的当前帧图像进行目标检测,得到检测结果,其中,所述当前帧图像包括在道路中行驶的多个车辆的图像;所述检测结果包括多个目标检测框;

计算模块602,用于对于每一目标检测框,根据所述目标检测框的位置和预测的多个候选框的位置,确定与所述目标检测框相交的候选框,并计算所述目标检测框与每一相交的候选框的几何相似度;其中,所述预测的多个候选框的位置为对上一帧图像进行检测得到的目标检测框在当前帧图像中的预测位置;

所述计算模块602,还用于通过车辆重识别网络确定所述多个目标检测框中每一目标检测框的第一图像特征向量,根据每一目标检测框的第一图像特征向量和多个候选框的第二图像特征向量确定所述目标检测框和各候选框的特征相似度;

确定模块603,用于根据所述几何相似度和特征相似度确定所述多个目标检测框分别对应的候选框,以根据对应的候选框确定车辆id。

可选的,所述计算模块602在根据所述目标检测框的位置和预测的多个候选框的位置,确定与所述目标检测框相交的候选框,并计算所述目标检测框与每一相交的候选框的几何相似度时,具体用于:

获取多个候选框中与所述目标检测框存在相交区域的目标候选框;

分别计算每个目标候选框与所述目标检测框的交并比,将所述交并比确定为所述目标候选框与所述目标检测框的几何相似度。

可选的,所述计算模块602在通过车辆重识别网络确定所述多个目标检测框中每一目标检测框的第一图像特征向量时,具体用于:

将所述多个目标检测框分别进行预处理操作,得到预处理后的多个输入图像;

将所述多个输入图像输入所述车辆重识别网络,经过所述车辆重识别网络的特征提取,得到与所述多个目标检测框对应的第一图像特征向量。

可选的,所述计算模块602在根据每一目标检测框的第一图像特征向量和多个候选框的第二图像特征向量确定所述目标检测框和各候选框的特征相似度时,具体用于:

针对每一目标检测框,获取所述目标检测框和任一候选框的组合,根据所述目标检测框的第一图像特征向量和所述候选框的第二图像特征向量确定所述组合的特征相似度;

所述特征相似度包括:余弦相似度和/或欧式距离。

可选的,所述确定模块603具体用于:

根据所述每一目标检测框对应的置信度确定高置信度的目标检测框和低置信度的目标检测框;

先将高置信度的目标检测框与对应的候选框匹配,再从未匹配的候选框中确定与低置信度的目标检测框对应的候选框;

当所述目标检测框存在对应的候选框时,将所述候选框的车辆id确定为对应的目标检测框的车辆id;当所述目标检测框不存在对应的候选框时,将新的车辆id确定为所述目标检测框的车辆id。

可选的,所述确定模块603在先将高置信度的目标检测框与对应的候选框匹配,再从未匹配的候选框中确定与低置信度的目标检测框对应的候选框时,具体用于:

当所述高置信度的目标检测框与候选框的几何相似度与特征相似度均满足预设条件时,将所述候选框确定为与所述高置信度的目标检测框对应的候选框;

当所述高置信度的目标检测框与候选框的几何相似度与特征相似度均不满足预设条件时,将所述高置信度的目标检测框确定为新出现的检测框;

当所述低置信度的目标检测框与未匹配的候选框的几何相似度与特征相似度均满足预设条件时,将所述未匹配的候选框确定为与所述低置信度的目标检测框对应的候选框;

当所述低置信度的目标检测框与未匹配的候选框的几何相似度与特征相似度均不满足预设条件时,则判断所述未匹配的候选框对应的车辆id已脱离追踪感知范围,且所述低置信度的目标检测框为非车辆目标。

本发明实施例提供的车辆追踪装置,可以实现上述如图2至图5所示的实施例的车辆追踪方法,其实现原理和技术效果类似,此处不再赘述。

图7为本发明实施例提供的车辆追踪设备的硬件结构示意图。如图7所示,本实施例提供的车辆追踪设备70包括:至少一个处理器701和存储器702。其中,处理器701、存储器702通过总线703连接。

在具体实现过程中,至少一个处理器701执行所述存储器702存储的计算机执行指令,使得至少一个处理器701执行上述方法实施例中的车辆追踪方法。

处理器701的具体实现过程可参见上述方法实施例,其实现原理和技术效果类似,本实施例此处不再赘述。

在上述的图7所示的实施例中,应理解,处理器可以是中央处理单元(英文:centralprocessingunit,简称:cpu),还可以是其他通用处理器、数字信号处理器(英文:digitalsignalprocessor,简称:dsp)、专用集成电路(英文:applicationspecificintegratedcircuit,简称:asic)等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合发明所公开的方法的步骤可以直接体现为硬件处理器执行完成,或者用处理器中的硬件及软件模块组合执行完成。

存储器可能包含高速ram存储器,也可能还包括非易失性存储nvm,例如至少一个磁盘存储器。

总线可以是工业标准体系结构(industrystandardarchitecture,isa)总线、外部设备互连(peripheralcomponent,pci)总线或扩展工业标准体系结构(extendedindustrystandardarchitecture,eisa)总线等。总线可以分为地址总线、数据总线、控制总线等。为便于表示,本申请附图中的总线并不限定仅有一根总线或一种类型的总线。

本发明实施例还提供一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机执行指令,当处理器执行所述计算机执行指令时,实现上述方法实施例的车辆追踪方法。

上述的计算机可读存储介质,上述可读存储介质可以是由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(sram),电可擦除可编程只读存储器(eeprom),可擦除可编程只读存储器(eprom),可编程只读存储器(prom),只读存储器(rom),磁存储器,快闪存储器,磁盘或光盘。可读存储介质可以是通用或专用计算机能够存取的任何可用介质。

一种示例性的可读存储介质耦合至处理器,从而使处理器能够从该可读存储介质读取信息,且可向该可读存储介质写入信息。当然,可读存储介质也可以是处理器的组成部分。处理器和可读存储介质可以位于专用集成电路(applicationspecificintegratedcircuits,简称:asic)中。当然,处理器和可读存储介质也可以作为分立组件存在于设备中。

本申请一个实施例提供一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现如本申请图2至图5所对应的实施例中任意实施例提供的车辆追踪方法。

本领域普通技术人员可以理解:实现上述各方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成。前述的程序可以存储于一计算机可读取存储介质中。该程序在执行时,执行包括上述各方法实施例的步骤;而前述的存储介质包括:rom、ram、磁碟或者光盘等各种可以存储程序代码的介质。

最后应说明的是:以上各实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述各实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1