多机位信息融合的车辆识别方法、系统、设备及存储介质与流程

1.本发明涉及ai视觉技术领域，尤其涉及一种多机位信息融合的车辆识别方法、系统、设备及存储介质。


背景技术：

2.随着计算机技术的发展，车辆、集装箱自动识别技术在我国港口、码头应用越来越普及，可以极大地减少人力成本，加快工作效率，提升工作准确率。在这些自动识别技术中，有一项核心工作就是解决跟车问题，即在车辆相距较近的情况将识别到的信息分配给对应的车辆。通常识别任务是由多个不同角度的摄像机配合完成(比如识别车牌的、识别箱号的等等)，最终识别结果需要将这些信息融合在一起。在前后两车距离很近时，各个摄像机看到的场景是不一样的(有的是前一辆车的画面，有的是后一辆车的画面)，因此很容易把前后车的识别结果弄混淆。
3.目前的解决方案有视觉目标追踪算法和基于激光雷达的分车方案两种。前者应用场景单一，只能应用于简单作业场景，在复杂的实际作业中效果不稳定。后者需要额外的激光雷达设备辅助，成本较高且增加技术复杂度。
4.有鉴于此，本发明提供了一种多机位信息融合的车辆识别方法、系统、设备及存储介质。
5.需要说明的是，上述背景技术部分公开的信息仅用于加强对本发明的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。


技术实现要素：

6.针对现有技术中的问题，本发明的目的在于提供多机位信息融合的车辆识别方法、系统、设备及存储介质，克服了现有技术的困难，能够基于多机位自动识别多车通过的场景，降低了整体成本，大大提高了识别的准确性和反应速度，分车效果鲁棒性高。
7.本发明的实施例提供一种多机位信息融合的车辆识别方法，包括以下步骤：
8.在通道的两端分别设置图像采集装置采集前向图像和后向图像；
9.分别基于所述前向图像和后向图像建立第一图像坐标系和第二图像坐标系，并基于所述通道建立所述通道空间立体坐标系，建立所述第一图像坐标系、第二图像坐标系中各像素与空间立体坐标的映射关系；
10.对所述前向图像和后向图像进行车辆的图像识别；
11.当图像中出现至少两个车辆时，获得所述前向图像和后向图像中每个车辆的车头、车尾所占的图像区域分别对应的所述通道空间立体坐标系中；
12.基于各所述车头、车尾的空间位置关系为每个车辆的车头图案和车尾图案进行配对。
13.优选地，所述在通道的两端分别设置图像采集装置采集前向图像和后向图像，包括：
14.所述通道为一单向车道，设置在所述通道的去向的图像采集装置采集经过所述通道的车辆的前向图像，设置在所述通道的来向的图像采集装置采集经过所述通道的车辆的后向图像。
15.优选地，所述分别基于所述前向图像和后向图像建立第一图像坐标系和第二图像坐标系，并基于所述通道建立所述通道空间立体坐标系，建立所述第一图像坐标系、第二图像坐标系中各像素与空间立体坐标的映射关系，包括：
16.分别基于所述前向图像和后向图像建立第一图像坐标系和第二图像坐标系；
17.选取所述通道的不在同一直线上的四个公共特征点，分别记录每个公共特征点在所述第一图像坐标系和第二图像坐标系中的坐标；
18.获得每个所述图像采集装置的透视变换矩阵，建立所述第一图像坐标系、第二图像坐标系中各像素与空间立体坐标的映射关系。
19.优选地，所述对所述前向图像和后向图像进行车辆的图像识别，包括：
20.对所述前向图像进行车辆的图像识别，并识别所述车辆部分对应的像素区域内的车头区域图像的坐标范围和第一文本信息；
21.对所述后向图像进行车辆的图像识别，并识别所述车辆部分对应的像素区域内的车尾区域图像的坐标范围和第二文本信息。
22.优选地，所述当图像中出现至少两个车辆时，获得所述前向图像和后向图像中每个车辆的车头、车尾所占的图像区域分别对应的所述通道空间立体坐标系中，包括：
23.根据采集前向图像的所述图像采集装置的透视变换矩阵将所述车辆的车头区域所占的图像区域映射到所述通道空间立体坐标系中，并基于相互分离的至少两个所述车头所占的图像区域建立车头区域图像的集合；
24.根据采集后向图像的所述图像采集装置的透视变换矩阵将所述车辆的车尾区域所占的图像区域映射到所述通道空间立体坐标系中，并基于相互分离的至少两个所述车尾所占的图像区域建立车尾区域图像的集合。
25.优选地，所述基于各所述车头、车尾的空间位置关系为每个车辆的车头图案和车尾图案进行配对，包括：
26.自所述车头区域图像的集合依次取出一个所述车头区域图像，并在所述车尾区域图像的集合中取出一个在所述通道空间立体坐标系中沿所述来向与所述车头的距离最小的车尾区域图像，组成整车图像集；
27.将所述第一文本信息和第二文本信息添加到包含对应的所述车头区域图像和车尾区域图像的整车图像集中，生成车辆识别信息。
28.优选地，所述根据采集前向图像的所述图像采集装置的透视变换矩阵将所述车辆的车头区域所占的图像区域映射到所述通道空间立体坐标系中，并基于相互分离的至少两个所述车头所占的图像区域建立车头区域图像的集合，还包括：
29.根据所述车头区域图像识别对应的车型，基于所述车型获得所述车辆的预设长度范围；
30.所述基于各所述车头、车尾的空间位置关系为每个车辆的车头图案和车尾图案进行配对，包括：
31.基于每个所述车头区域图像在所述通道空间立体坐标系中的位置沿所述通道的
来向在所述车头区域图像该范围的对应的预设长度范围中匹配一车尾区域图案，组成整车图像集；
32.将所述第一文本信息和第二文本信息添加到包含对应的所述车头区域图像和车尾区域图像的整车图像集中，生成车辆识别信息。
33.本发明的实施例还提供一种多机位信息融合的车辆识别系统，用于实现上述的多机位信息融合的车辆识别方法，多机位信息融合的车辆识别系统包括：
34.图像采集模块，在通道的两端分别设置图像采集装置采集前向图像和后向图像；
35.映射关系模块，分别基于所述前向图像和后向图像建立第一图像坐标系和第二图像坐标系，并基于所述通道建立所述通道空间立体坐标系，建立所述第一图像坐标系、第二图像坐标系中各像素与空间立体坐标的映射关系；
36.图像识别模块，对所述前向图像和后向图像进行车辆的图像识别；
37.分区识别模块，当图像中出现至少两个车辆时，获得所述前向图像和后向图像中每个车辆的车头、车尾所占的图像区域分别对应的所述通道空间立体坐标系中；
38.图案配对模块，基于各所述车头、车尾的空间位置关系为每个车辆的车头图案和车尾图案进行配对。
39.本发明的实施例还提供一种多机位信息融合的车辆识别设备，包括：
40.处理器；
41.存储器，其中存储有处理器的可执行指令；
42.其中，处理器配置为经由执行可执行指令来执行上述多机位信息融合的车辆识别方法的步骤。
43.本发明的实施例还提供一种计算机可读存储介质，用于存储程序，程序被执行时实现上述多机位信息融合的车辆识别方法的步骤。
44.本发明的多机位信息融合的车辆识别方法、系统、设备及存储介质，能够基于多机位自动识别多车通过的场景，降低了整体成本，大大提高了识别的准确性和反应速度，分车效果鲁棒性高。
附图说明
45.通过阅读参照以下附图对非限制性实施例所作的详细描述，本发明的其它特征、目的和优点将会变得更明显。
46.图1是本发明的多机位信息融合的车辆识别方法的流程图。
47.图2是本发明的多机位信息融合的车辆识别方法的一种实施过程景的示意图。
48.图3至9是本发明的多机位信息融合的车辆识别方法的另一种实施过程景的示意图。
49.图10是本发明的多机位信息融合的车辆识别系统的结构示意图。
50.图11是本发明的多机位信息融合的车辆识别设备的结构示意图。以及
51.图12是本发明一实施例的计算机可读存储介质的结构示意图。
具体实施方式
52.以下通过特定的具体实例说明本技术的实施方式，本领域技术人员可由本技术所
揭露的内容轻易地了解本技术的其他优点与功效。本技术还可以通过另外不同的具体实施方式加以实施或应用系统，本技术中的各项细节也可以根据不同观点与应用系统，在没有背离本技术的精神下进行各种修饰或改变。需说明的是，在不冲突的情况下，本技术中的实施例及实施例中的特征可以相互组合。
53.下面以附图为参考，针对本技术的实施例进行详细说明，以便本技术所属技术领域的技术人员能够容易地实施。本技术可以以多种不同形态体现，并不限定于此处说明的实施例。
54.在本技术的表示中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的表示意指结合该实施例或示例表示的具体特征、结构、材料或者特点包括于本技术的至少一个实施例或示例中。而且，表示的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本技术中表示的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
55.此外，术语“第一”、“第二”仅用于表示目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或隐含地包括至少一个该特征。在本技术的表示中，“多个”的含义是两个或两个以上，除非另有明确具体的限定。
56.为了明确说明本技术，省略与说明无关的器件，对于通篇说明书中相同或类似的构成要素，赋予了相同的参照符号。
57.在通篇说明书中，当说某器件与另一器件“连接”时，这不仅包括“直接连接”的情形，也包括在其中间把其它元件置于其间而“间接连接”的情形。另外，当说某种器件“包括”某种构成要素时，只要没有特别相反的记载，则并非将其它构成要素排除在外，而是意味着可以还包括其它构成要素。
58.当说某器件在另一器件“之上”时，这可以是直接在另一器件之上，但也可以在其之间伴随着其它器件。当对照地说某器件“直接”在另一器件“之上”时，其之间不伴随其它器件。
59.虽然在一些实例中术语第一、第二等在本发明中用来表示各种元件，但是这些元件不应当被这些术语限制。这些术语仅用来将一个元件与另一个元件进行区分。例如，第一接口及第二接口等表示。再者，如同在本发明中所使用的，单数形式“一”、“一个”和“该”旨在也包括复数形式，除非上下文中有相反的指示。应当进一步理解，术语“包含”、“包括”表明存在的特征、步骤、操作、元件、组件、项目、种类、和/或组，但不排除一个或多个其他特征、步骤、操作、元件、组件、项目、种类、和/或组的存在、出现或添加。此处使用的术语“或”和“和/或”被解释为包括性的，或意味着任一个或任何组合。因此，“a、b或c”或者“a、b和/或c”意味着“以下任一个：a；b；c；a和b；a和c；b和c；a、b和c”。仅当元件、功能、步骤或操作的组合在某些方式下内在地互相排斥时，才会出现该定义的例外。
60.此处使用的专业术语只用于言及特定实施例，并非意在限定本技术。此处使用的单数形态，只要语句未明确表示出与之相反的意义，那么还包括复数形态。在说明书中使用的“包括”的意义是把特定特性、区域、整数、步骤、作业、要素及/或成份具体化，并非排除其它特性、区域、整数、步骤、作业、要素及/或成份的存在或附加。
61.虽然未不同地定义，但包括此处使用的技术术语及科学术语，所有术语均具有与本技术所属技术领域的技术人员一般理解的意义相同的意义。普通使用的字典中定义的术语追加解释为具有与相关技术文献和当前提示的内容相符的意义，只要未进行定义，不得过度解释为理想的或非常公式性的意义。
62.图1是本发明的多机位信息融合的车辆识别方法的流程图。如图1 所示，本发明的实施例提供一种多机位信息融合的车辆识别方法，包括以下步骤：
63.s110、在通道的两端分别设置图像采集装置采集前向图像和后向图像。
64.s120、分别基于前向图像和后向图像建立第一图像坐标系和第二图像坐标系，并基于通道建立通道空间立体坐标系，建立第一图像坐标系、第二图像坐标系中各像素与空间立体坐标的映射关系。
65.s130、对前向图像和后向图像进行车辆的图像识别。
66.s140、当图像中出现至少两个车辆时，获得前向图像和后向图像中每个车辆的车头、车尾所占的图像区域分别对应的通道空间立体坐标系中。
67.s150、基于各车头、车尾的空间位置关系为每个车辆的车头图案和车尾图案进行配对。
68.本发明的技术方案将原始的多个摄像机画面经过特定变换后映射到同一坐标系下，利用检测到的车辆和集装箱信息，把车辆在现实中的3d 位置信息在此坐标系中表示出来，从而给不同车辆划分不同的坐标范围达到最终的分车目的。
69.在一个优选实施例中，步骤s110中，通道为一单向车道，设置在通道的去向的图像采集装置采集经过通道的车辆的前向图像，设置在通道的来向的图像采集装置采集经过通道的车辆的后向图像，但不以此为限。
70.在一个优选实施例中，步骤s120中，包括：
71.s121、分别基于前向图像和后向图像建立第一图像坐标系和第二图像坐标系。
72.s122、选取通道的不在同一直线上的四个公共特征点，分别记录每个公共特征点在第一图像坐标系和第二图像坐标系中的坐标。
73.s123、获得每个图像采集装置的透视变换矩阵，建立第一图像坐标系、第二图像坐标系中各像素与空间立体坐标的映射关系，但不以此为限。
74.在一个优选实施例中，步骤s130中，包括：
75.s131、对前向图像进行车辆的图像识别，并识别车辆部分对应的像素区域内的车头区域图像的坐标范围和第一文本信息。
76.s132、对后向图像进行车辆的图像识别，并识别车辆部分对应的像素区域内的车尾区域图像的坐标范围和第二文本信息，但不以此为限。
77.在一个优选实施例中，步骤s140中，包括：
78.s141、根据采集前向图像的图像采集装置的透视变换矩阵将车辆的车头区域所占的图像区域映射到通道空间立体坐标系中，并基于相互分离的至少两个车头所占的图像区域建立车头区域图像的集合。
79.s142、根据采集后向图像的图像采集装置的透视变换矩阵将车辆的车尾区域所占的图像区域映射到通道空间立体坐标系中，并基于相互分离的至少两个车尾所占的图像区域建立车尾区域图像的集合，但不以此为限。
80.在一个优选实施例中，步骤s150中，包括：
81.s151、自车头区域图像的集合依次取出一个车头区域图像，并在车尾区域图像的集合中取出一个在通道空间立体坐标系中沿来向与车头的距离最小的车尾区域图像，组成整车图像集。
82.s152、将第一文本信息和第二文本信息添加到包含对应的车头区域图像和车尾区域图像的整车图像集中，生成车辆识别信息，但不以此为限。
83.在一个优选实施例中，步骤s131中还包括根据车头区域图像识别对应的车型，基于车型获得车辆的预设长度范围。
84.步骤s150，包括：
85.s153、基于每个车头区域图像在通道空间立体坐标系中的位置沿通道的来向在车头区域图像该范围的对应的预设长度范围中匹配一车尾区域图案，组成整车图像集。
86.s154、将第一文本信息和第二文本信息添加到包含对应的车头区域图像和车尾区域图像的整车图像集中，生成车辆识别信息，但不以此为限。
87.本发明的目的在于克服现有技术的缺点和不足，基于原始的多摄像机画面，提供一种智能化实时识别车辆并定位它们的前后位置关系的技术方案，从而解决自动化识别过程中分车困难的问题，本发明的优点主要体现在以下几个地方：
88.(1)技术成本低，基于原有的检测摄像机即可，不需要激光雷达等额外设备辅助就能实现3d空间中车辆相对位置确认。
89.(2)分车效果鲁棒性高，根据真实场景坐标来区分车辆范围，能够兼容停车、倒车、快速过车等复杂作业场景。
90.(3)拓展性强，可应用于在于车牌检测、箱号检测、限重识别等自动检测流程中。
91.图2是本发明的多机位信息融合的车辆识别方法的一种实施过程景的示意图。如图2所示，本发明的一种实施过程主要包括：
92.首先是步骤s1，对输入的各个摄像机进行目标检测，主要检测车辆的车头、车尾以及车载的集装箱的前箱门面和后箱门面，得到各个目标的检测框信息；
93.如上的s1目标检测步骤，其具体步骤在于：
94.s11、收集对应场景过车的视频或图片数据。
95.s12、对数据进行人工标注，具体目标为车头、车架、前箱门、后箱门物体。
96.s13、对标注好的数据，选取80％数据用于训练 you-only-look-oncev5(yolov5)神经网络模型。其中，yolo(youonly look once)，由r.joseph等人在2015提出，是yolo系列的开山之作，也是深度学习领域第一个one-stage detector。它速度极快，在voc上保证map＝52.7％时能跑到155fps。作为一个one-stage 检测器，yolo没有生成建议框这一步骤，它直接将图片划分为s
×
s 个网格(grid cell)，每个网格对中心点落入其中的目标进行检测(如果目标的中心点落入某个格子中，就认为这个格子“包含”了这个目标，就由这个格子负责对这个目标的检测)。yolo进行目标检测是端到端 (end-to-end)的，直接从输入到输出，一步到位，没有中间步骤。而且， yolo的训练也是端到端的。
97.s14、用训练好的模型对各个摄像头画面进行目标检测，得到不同目标的矩形检测框，检测框的坐标形式为[x1，y1，x2，y2]，分别表示目标左上角点和右下角点坐标。
[0098]
其次是步骤s2，分别对各个摄像机的检测框信息进行固定方式的坐标映射，从而
将各个摄像机的车辆信息放在同一坐标系下面，得到统一的车辆位置关系；
[0099]
如上的s2坐标映射步骤，其具体步骤在于：
[0100]
s21、标定各摄像机，选取四个公共的区域，记录其在各摄像机中的像素位置，如附图的图3，并将它们映射到同样的四个坐标上，记录对应的四个坐标像素位置。
[0101]
s22、根据上一步得到的相对坐标，使用svd分解的方法，按下面的公式计算，其中x，y代表原始点的像素坐标，x，y，z代表变化后的像素坐标(由于是2d图片信息，z的值一般为1)，求解方程组可得到各个摄像头的透视变换矩阵a(一共9个系数，a33默认为1)。 svd(singular value decomposition，奇异值分解)是线性代数的工具，它揭示了矩阵最本质的变换.使用svd对矩阵进行分解，能得到代表矩阵最本质变化的矩阵元素.这就好比一个合数能表示为若干质数之积，分解合数能得到表示该合数的质因数；复杂周期信号可以表示为若干简单的正弦波和余弦波之和，使用傅里叶变换能得到表示该信号的简单波；复杂矩阵所代表的线性变换可由若干个简单矩阵所代表的线性变换组合起来，使用svd能找到这些简单矩阵。
[0102][0103]
s23、根据上一步得到的透视变化矩阵a，把s1步骤得到的检测框，分别按如下公式计算它们映射在统一坐标系中的像素坐标，其中x，y代表检测框原始的像素坐标，x
′
，y
′
，z
′
表示映射后的像素坐标(z
′
默认为1)
[0104][0105]
然后是步骤s3，将映射后的坐标信息传入逻辑算法，根据上一时刻车辆的信息，经逻辑过滤和匹配，更新当前时刻的车辆状态和位置范围；
[0106]
如上的s3逻辑算法步骤，其具体步骤在于：
[0107]
s31、标记上一帧和当前帧的车辆状态为无车的初始状态。
[0108]
s32、当前帧经过s1目标检测和s2坐标映射步骤后，得到的不同视角下车辆的位置信息在统一坐标系中的表示，然后更新当前帧车辆数量和车辆坐标范围，并把当前帧的信息记录为上一帧。
[0109]
s33、接收新一帧的信息，重复s32步骤。
[0110]
最后是步骤s4，将当前的各车辆位置范围输出给其他识别流程，以将最终识别结果匹配到对应范围的车辆上面。
[0111]
图3至9是本发明的多机位信息融合的车辆识别方法的另一种实施过程景的示意图。如图3至8所示，本发明的另一种实施过程主要包括：
[0112]
如图3所示，基于码头或是道路的一条通道10的两端分别设置图像采集装置采集经过通道10的车辆21、22的前向图像(车头方向的图像) 和后向图像(车尾方向的图像)。通道10为一单向车道，并且，设置在通道10的去向10a的图像采集装置11(例如：道路监控摄像机)采集经过通道10的车辆的前向图像，设置在通道10的来向10b的图像采集装置12(例如：道路监控摄像机)采集经过通道10的车辆的后向图像。图像采集装置11和图像采集装置12分别把拍摄到的视频发送到服务器3 中。
[0113]
如图4至7所示，基于前向图像3建立第一图像坐标系。如图5所示，基于后向图像4建立第二图像坐标系。分别和后向图像建立第一图像坐标系和第二图像坐标系，并基于通道10建立通道10空间立体坐标系，建立第一图像坐标系、第二图像坐标系中各像素与空间立体坐标的映射关系。例如：分别基于前向图像和后向图像建立第一图像坐标系和第二图像坐标系；还未有车辆通过的时候，先选取通道10的不在同一直线上的四个公共特征点(可以是地面上的标记或是路边的灯柱、栏杆等)，分别记录每个公共特征点在第一图像坐标系和第二图像坐标系中的坐标；获得每个图像采集装置的透视变换矩阵，从而在实施后续识别之前预先建立第一图像坐标系、第二图像坐标系中各像素与空间立体坐标的映射关系。本发明中也可以通过现有的基于地面标志物的多机位相机进行标定，从而获得每个相机中的像素位置与真实三维空间中的位置关系，但不以此为限。
[0114]
继续参见图4和6，通过经过训练的车辆识别神经网络对前向图像进行车辆的图像识别，识别出两个车辆部分对应的像素区域31、32内的车头区域图像的坐标范围33、34以及通过识别字符的文本神经网络去识别坐标范围31、坐标范围32中各自包含的第一文本信息。其中坐标范围 31包括了车牌号：津ah6139和集装箱的箱号前箱：oolu 9974030 45g1。坐标范围32包括了车牌号：沪a123456。并且，建立车头区域 33与像素区域31、车头区域34与像素区域32的对应关系。还根据车头区域图像识别对应的车型，基于车型获得车辆的预设长度范围，坐标范围 33对应的车型是集装箱卡车，预设长度范围为16米至19米。坐标范围 34对应的车型是家用轿车，预设长度范围为3.5米至5米。
[0115]
继续参见图5和7，对后向图像进行车辆的图像识别，并识别车辆部分对应的像素区域内的车尾区域图像41、42的坐标范围和通过识别字符的文本神经网络去识别坐标范围41、坐标范围44中各自包含的第二文本信息，此处不再赘述。并且，建立车尾区域43与像素区域41、车尾区域 44与像素区域42的对应关系。
[0116]
继续参见图8，根据采集前向图像的图像采集装置的透视变换矩阵将车辆的车头区域33、34所占的图像区域映射到通道10空间立体坐标系中，第一车头区域33对应的空间立体坐标系中第一垂直区域331，第二车头区域34对应的空间立体坐标系中第二垂直区域341。并基于相互分离的至少两个车头区域33、34所占的图像区域建立车头区域图像的集合。
[0117]
根据采集后向图像的图像采集装置的透视变换矩阵将车辆的车尾区域43、44分别所占的图像区域映射到通道10空间立体坐标系中，第一车尾区域43对应的空间立体坐标系中第三垂直区域431，第二车尾区域 44对应的空间立体坐标系中第四垂直区域441，并基于相互分离的至少两个车尾区域43、44所占的图像区域建立车尾区域图像的集合。
[0118]
本发明一种车头车尾配对的方式是：
[0119]
自车头区域图像的集合依次取出一个车头区域图像，并在车尾区域图像的集合中取出一个在通道10空间立体坐标系中沿来向10b与车头的距离最小的车尾区域图像，组成整车图像集；将第一文本信息和第二文本信息添加到包含对应的车头区域图像和车尾区域图像的整车图像集中，生成车辆识别信息。
[0120]
例如，自车头区域图像的集合先取出第一车头区域33对应的第一垂直区域331，并在车尾区域图像的集合中取出一个在通道10空间立体坐标系中沿来向10b与第一垂直区域331的距离最小的车尾区域图像对应的第三垂直区域431(来向10b，第三垂直区域431比第四垂直区域441 更靠近第一垂直区域331)，由于第三垂直区域431对应得的第一车尾区域43，则将第一车头区域33具有对应关系的坐标范围31和第一车尾区域43具有对应关系的坐标范围41组成整车图像集，并将第一文本信息“车牌号：津ah6139和集装箱的箱号前箱：oolu 9974030 45g1”添加到整车图像集中，生成针对车辆21的车辆识别信息。
[0121]
然后自车头区域图像的集合取出余下的第二车头区域34对应的第二垂直区域341，并在车尾区域图像的集合中取出一个在通道10空间立体坐标系中沿来向10b与第二垂直区域341的距离最小的车尾区域图像对应的第四垂直区域441，由于第四垂直区域441对应的第二车尾区域44，则将第二车头区域34具有对应关系的坐标范围32和二车尾区域44具有对应关系的坐标范围42组成整车图像集，并将坐标范围32包含的第一文本信息“车牌号：沪a123456”添加到整车图像集中，生成针对车辆22 的车辆识别信息。从而实现对多车同时通过通道的分车识别检测，而且，可以用于三车、四车的同时通过的识别场景。
[0122]
继续参见图9，本发明另一种车头车尾配对的方式是：
[0123]
利用之前获得的基于车型获得车辆的预设长度范围信息，坐标范围 33对应的车型是集装箱卡车，预设长度范围为16米至19米。坐标范围 34对应的车型是家用轿车，预设长度范围为3.5米至5米。基于每个车头区域图像在通道10空间立体坐标系中的位置沿通道10的来向10b在车头区域图像该范围的对应的预设长度范围中匹配一车尾区域图案，组成整车图像集；将第一文本信息和第二文本信息添加到包含对应的车头区域图像和车尾区域图像的整车图像集中，生成车辆识别信息。
[0124]
例如：自车头区域图像的集合先取出第一车头区域33对应的第一垂直区域331，自第一垂直区域331的位置向来向10b延展16米至19米的范围，自车尾区域图像的集合中取出一个位于该范围内的第三垂直区域 431(本实施例中，第三垂直区域431的中心与第一垂直区域331的中心的间距d1为17.5米，满足坐标范围33中的车头图像对应预设车长范围16米至19米)，由于第三垂直区域431对应得的第一车尾区域43，则将第一车头区域33具有对应关系的坐标范围31和第一车尾区域43具有对应关系的坐标范围41组成整车图像集，并将第一文本信息“车牌号：津ah6139和集装箱的箱号前箱：oolu 9974030 45g1”添加到整车图像集中，生成针对车辆21的车辆识别信息。
[0125]
同理，自车头区域图像的集合在取出第二车头区域34对应的第三垂直区域341，自第三垂直区域341的位置向来向延展16米至19米的范围，自车尾区域图像的集合中取出一个位于该范围内的第四垂直区域441 (本实施例中，第四垂直区域441的中心与第二垂直区域341的中心的间距d1为4.2米，满足坐标范围34中的车头图像对应预设车长范围3.5 米至5米)，由于第四垂直区域441对应得的第二车尾区域44，则将第二车头区域34具有对应关系
的坐标范围32和第二车尾区域44具有对应关系的坐标范围42组成整车图像集，并将坐标范围32包含的第一文本信息“车牌号：沪a123456”添加到整车图像集中，生成针对车辆22的车辆识别信息。后续不再赘述。
[0126]
本发明中使用到的识别车辆图片、车头图片、车尾图片的神经网络都是经过海量车辆、车头、车尾图片训练的图片识别神经网络，从而提高识别进度和计算速度。并且基于车头与车型、车长的映射关系模型是一个预设的映射模型，此处不在赘述。
[0127]
本发明中使用到的图像采集装置11、12都是最基础的摄像机，不需要激光雷达或是双目相机，从而大大降低了整体成本，有利于码头、闸道等场景下的，基于现有设备的智能升级。
[0128]
图10是本发明的多机位信息融合的车辆识别系统的结构示意图。如图10所示，本发明的多机位信息融合的车辆识别系统5，包括：
[0129]
图像采集模块51，在通道的两端分别设置图像采集装置采集前向图像和后向图像。
[0130]
映射关系模块52，分别基于前向图像和后向图像建立第一图像坐标系和第二图像坐标系，并基于通道建立通道空间立体坐标系，建立第一图像坐标系、第二图像坐标系中各像素与空间立体坐标的映射关系。
[0131]
图像识别模块53，对前向图像和后向图像进行车辆的图像识别。
[0132]
分区识别模块54，当图像中出现至少两个车辆时，获得前向图像和后向图像中每个车辆的车头、车尾所占的图像区域分别对应的通道空间立体坐标系中。
[0133]
图案配对模块55，基于各车头、车尾的空间位置关系为每个车辆的车头图案和车尾图案进行配对。
[0134]
在一个优选实施例中，图像采集模块51被配置为令通道为一单向车道，设置在通道的去向的图像采集装置采集经过通道的车辆的前向图像，设置在通道的来向的图像采集装置采集经过通道的车辆的后向图像。
[0135]
在一个优选实施例中，映射关系模块52被配置为分别基于前向图像和后向图像建立第一图像坐标系和第二图像坐标系。选取通道的不在同一直线上的四个公共特征点，分别记录每个公共特征点在第一图像坐标系和第二图像坐标系中的坐标。获得每个图像采集装置的透视变换矩阵，建立第一图像坐标系、第二图像坐标系中各像素与空间立体坐标的映射关系。
[0136]
在一个优选实施例中，图像识别模块53被配置为对前向图像进行车辆的图像识别，并识别车辆部分对应的像素区域内的车头区域图像的坐标范围和第一文本信息。对后向图像进行车辆的图像识别，并识别车辆部分对应的像素区域内的车尾区域图像的坐标范围和第二文本信息。
[0137]
在一个优选实施例中，分区识别模块54被配置为根据采集前向图像的图像采集装置的透视变换矩阵将车辆的车头区域所占的图像区域映射到通道空间立体坐标系中，并基于相互分离的至少两个车头所占的图像区域建立车头区域图像的集合。根据采集后向图像的图像采集装置的透视变换矩阵将车辆的车尾区域所占的图像区域映射到通道空间立体坐标系中，并基于相互分离的至少两个车尾所占的图像区域建立车尾区域图像的集合。
[0138]
在一个优选实施例中，图案配对模块55被配置为自车头区域图像的集合依次取出
一个车头区域图像，并在车尾区域图像的集合中取出一个在通道空间立体坐标系中沿来向与车头的距离最小的车尾区域图像，组成整车图像集。将第一文本信息和第二文本信息添加到包含对应的车头区域图像和车尾区域图像的整车图像集中，生成车辆识别信息。
[0139]
在一个优选实施例中，图像识别模块53还被配置为根据车头区域图像识别对应的车型，基于车型获得车辆的预设长度范围。
[0140]
图案配对模块55被配置为基于每个车头区域图像在通道空间立体坐标系中的位置沿通道的来向在车头区域图像该范围的对应的预设长度范围中匹配一车尾区域图案，组成整车图像集。将第一文本信息和第二文本信息添加到包含对应的车头区域图像和车尾区域图像的整车图像集中，生成车辆识别信息。
[0141]
本发明的多机位信息融合的车辆识别系统，能够基于多机位自动识别多车通过的场景，降低了整体成本，大大提高了识别的准确性和反应速度，分车效果鲁棒性高。
[0142]
本发明实施例还提供一种多机位信息融合的车辆识别设备，包括处理器。存储器，其中存储有处理器的可执行指令。其中，处理器配置为经由执行可执行指令来执行的多机位信息融合的车辆识别方法的步骤。
[0143]
如上，本发明的多机位信息融合的车辆识别设备能够基于多机位自动识别多车通过的场景，降低了整体成本，大大提高了识别的准确性和反应速度，分车效果鲁棒性高。
[0144]
所属技术领域的技术人员能够理解，本发明的各个方面可以实现为系统、方法或程序产品。因此，本发明的各个方面可以具体实现为以下形式，即：完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等)，或硬件和软件方面结合的实施方式，这里可以统称为“电路”、“模块”或“平台”。
[0145]
图11是本发明的多机位信息融合的车辆识别设备的结构示意图。下面参照图11来描述根据本发明的这种实施方式的电子设备600。图11 显示的电子设备600仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。
[0146]
如图11所示，电子设备600以通用计算设备的形式表现。电子设备600的组件可以包括但不限于：至少一个处理单元610、至少一个存储单元620、连接不同平台组件(包括存储单元620和处理单元610)的总线 630、显示单元640等。
[0147]
其中，存储单元存储有程序代码，程序代码可以被处理单元610执行，使得处理单元610执行本说明书上述电子处方流转处理方法部分中描述的根据本发明各种示例性实施方式的步骤。例如，处理单元610可以执行如图1中所示的步骤。
[0148]
存储单元620可以包括易失性存储单元形式的可读介质，例如随机存取存储单元(ram)6201和/或高速缓存存储单元6202，还可以进一步包括只读存储单元(rom)6203。
[0149]
存储单元620还可以包括具有一组(至少一个)程序模块6205的程序/实用工具6204，这样的程序模块6205包括但不限于：操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。
[0150]
总线630可以为表示几类总线结构中的一种或多种，包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
[0151]
电子设备600也可以与一个或多个外部设备700(例如键盘、指向设备、蓝牙设备等)通信，还可与一个或者多个使得用户能与该电子设备 600交互的设备通信，和/或与使
得该电子设备600能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(i/o)接口650进行。并且，电子设备600还可以通过网络适配器660与一个或者多个网络(例如局域网(lan)，广域网(wan)和/或公共网络，例如因特网)通信。网络适配器660可以通过总线630与电子设备600的其它模块通信。应当明白，尽管图中未示出，可以结合电子设备600使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、raid系统、磁带驱动器以及数据备份存储平台等。
[0152]
本发明实施例还提供一种计算机可读存储介质，用于存储程序，程序被执行时实现的多机位信息融合的车辆识别方法的步骤。在一些可能的实施方式中，本发明的各个方面还可以实现为一种程序产品的形式，其包括程序代码，当程序产品在终端设备上运行时，程序代码用于使终端设备执行本说明书上述电子处方流转处理方法部分中描述的根据本发明各种示例性实施方式的步骤。
[0153]
如上所示，该实施例的计算机可读存储介质的程序在执行时，能够基于多机位自动识别多车通过的场景，降低了整体成本，大大提高了识别的准确性和反应速度，分车效果鲁棒性高。
[0154]
图12是本发明的计算机可读存储介质的结构示意图。参考图12所示，描述了根据本发明的实施方式的用于实现上述方法的程序产品800，其可以采用便携式紧凑盘只读存储器(cd-rom)并包括程序代码，并可以在终端设备，例如个人电脑上运行。然而，本发明的程序产品不限于此，在本文件中，可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
[0155]
程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。
[0156]
计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、rf等等，或者上述的任意合适的组合。
[0157]
可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码，程序设计语言包括面向对象的程序设计语言—诸如 java、c++等，还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(lan)或广域网(wan)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商
来通过因特网连接)。
[0158]
综上，本发明的多机位信息融合的车辆识别方法、系统、设备及存储介质，能够基于多机位自动识别多车通过的场景，降低了整体成本，大大提高了识别的准确性和反应速度，分车效果鲁棒性高。
[0159]
以上内容是结合具体的优选实施方式对本发明所作的进一步详细说明，不能认定本发明的具体实施只局限于这些说明。对于本发明所属技术领域的普通技术人员来说，在不脱离本发明构思的前提下，还可以做出若干简单推演或替换，都应当视为属于本发明的保护范围。