确定道路信息数据的方法、装置和计算机存储介质与流程

本公开的实施例涉及自动驾驶领域，并且更具体地，涉及确定道路信息数据的方法、装置和计算机存储介质。

背景技术：

随着计算机和互联网的发展，在自动驾驶场景中，越来越多的神经网络的结构被提出用于预测道路中的各种车道线、路沿、路面箭头、限速标牌，这些神经网络模型的输入为交通工具的摄像头采集的图像信息，并且人工标注图像中车道线、路面箭头、限速标牌等语义信息作为真值，不断训练使神经网络模型能够准确地预测道路中的各种车道线、路沿、路面箭头、限速标牌。然而，这需要大量的标注数据来训练神经网络模型。因此，需要寻找一种低成本、快速高效的数据标注方法。

技术实现要素：

根据本公开的实施例，提供了一种确定道路信息数据的方案。

在本公开的第一方面中，提供了一种确定道路信息数据的方法，包括：经由交通工具的精准导航设备，确定交通工具的多个定位；经由交通工具的传感器，获取交通工具所处物理环境的多个图像帧；从多个定位中确定与多个图像帧中的至少一个图像帧相对应的目标定位；以及基于所获取的目标定位和与物理环境有关的地图，确定与至少一个图像帧相对应的道路信息数据。

在本公开的第二方面中，提供了一种确定道路信息数据的装置，包括：第一定位获取模块，被配置为经由交通工具的精准导航设备，确定交通工具的多个定位；图像获取模块，被配置为经由交通工具的传感器，获取交通工具所处物理环境的多个图像帧；定位确定模块，被配置为从多个定位中确定与多个图像帧中的至少一个图像帧相对应的目标定位；以及第一道路信息数据确定模块，被配置为基于所获取的目标定位和与物理环境有关的地图，确定与至少一个图像帧相对应的道路信息数据。

在本公开的第三方面中，提供了一种电子设备，包括一个或多个处理器；以及存储装置，用于存储一个或多个程序，当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现根据本公开的第一方面的方法。

在本公开的第四方面中，提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现根据本公开的第一方面的方法。

应当理解，发明内容部分中所描述的内容并非旨在限定本公开的实施例的关键或重要特征，亦非用于限制本公开的范围。本公开的其它特征将通过以下的描述变得容易理解。

附图说明

结合附图并参考以下详细说明，本公开各实施例的上述和其他特征、优点及方面将变得更加明显。在附图中，相同或相似的附图标注表示相同或相似的元素，其中：

图1示出了本公开的多个实施例能够在其中实现的示例环境的示意图；

图2示出了根据本公开的一些实施例的确定道路信息数据的过程的流程图；

图3示出了根据本公开的一些实施例的确定目标定位的过程的流程图；

图4示出了根据本公开的一些实施例的确定目标定位的过程的流程图；

图5示出了根据本公开的一些实施例的确定道路信息数据的装置的示意性框图；以及

图6示出了能够实施本公开的多个实施例的计算设备的框图。

具体实施方式

下面将参照附图更详细地描述本公开的优选实施例。虽然附图中显示了本公开的优选实施例，然而应该理解，可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了使本公开更加透彻和完整，并且能够将本公开的范围完整地传达给本领域的技术人员。

在本文中使用的术语“包括”及其变形表示开放性包括，即“包括但不限于”。除非特别申明，术语“或”表示“和/或”。术语“基于”表示“至少部分地基于”。术语“一个示例实施例”和“一个实施例”表示“至少一个示例实施例”。术语“另一实施例”表示“至少一个另外的实施例”。术语“第一”、“第二”等等可以指代不同的或相同的对象。下文还可能包括其他明确的和隐含的定义。

在本公开的实施例的描述中，术语“模型”可以从训练数据中学习到相应的输入与输出之间的关联，从而在训练完成后基于训练得到的参数集对给定的输入进行处理以生成对应的输出。“模型”有时也可以被称为“神经网络”、“学习模型”、“学习网络”或“网络”。这些术语在本文中可互换地使用。

如以上提及的，需要人工标注图像中车道线、路面箭头、限速标牌等语义信息。然而人工标注存在以下缺点(1)训练神经网络模型所述的大批量标注数据标注导致高成本；(2)标注工作人员水平层次不齐，标注质量不能保证，经常有错误标注、漏标的情况；(3)人工标注大批量数据需要较长的工作周期。因此，需要一种低成本、准确、且快速高效的道路信息数据标注方法。

根据本公开的实施例，提出了一种确定道路信息数据的方案。该方案利用定位和地图获取道路信息数据作为标注数据。在该方案中，通过交通工具的精准导航设备，确定该交通工具的多个定位，并通过该交通工具的传感器，获取该交通工具所处物理环境的多个图像帧。从该多个定位中确定与该多个图像帧中的至少一个图像帧相对应的目标定位。根据目标定位和地图，能够确定与图像帧相对应的道路信息数据。

通过建立交通工具定位与交通工具所拍摄的图像的关系，可以进一步建立高精度地图中的道路信息数据与所拍摄的图像的关系，并且可以利用该道路信息数据作为标注数据来训练神经网络模型。因而可以以低成本、准确、快速高效地生成道路信息数据标注，为准确训练神经网络模型打下基础。

以下参考附图来说明本公开的基本原理和若干示例实现。

图1示出了本公开的多个实施例能够在其中实现的示例环境100的示意图。应当理解，图1所示出的环境100仅仅是示例性的，而不应当构成对本公开所描述的实现的功能和范围的任何限制。如图1所示，环境100包括行驶在道路中的交通工具110。在图1的示例中，交通工具110可以是可以承载人和/或物并且通过发动机等动力系统移动的任何类型的车辆，包括但不限于轿车、卡车、巴士、电动车、摩托车、房车、火车等等。在一些实施例中，环境100中的一个或多个交通工具110可以是具有一定自动驾驶能力的车辆，这样的车辆也被称为无人驾驶车辆。在一些实施例中，交通工具110也可以是不具有自动驾驶能力的车辆。

交通工具110可以通信地耦合到计算设备105。计算设备105可以被嵌入在交通工具110中。计算设备105也可以是交通工具110外部的实体，并且可以经由无线网络与交通工具110通信。计算设备105可以是任何具有计算能力的设备。作为非限制性示例，计算设备105可以是任意类型的固定计算设备、移动计算设备或便携式计算设备，包括但不限于台式计算机、膝上型计算机、笔记本计算机、上网本计算机、平板计算机、多媒体计算机、移动电话等；计算设备105的全部组件或一部分组件可以分布在云端。计算设备105至少包含处理器、存储器以及其他通常存在于通用计算机中的组件，以便实现计算、存储、通信、控制等功能。

交通工具110包括精准导航设备130，该精准导航设备130可以利用各种定位信号如单独利用全球卫星导航系统(gnss)，或是结合gnss和实时差分定位技术(real-timekinematic，rtk)这两种定位信号，或是结合gnss与惯性导航系统(inertialnavigationsystem，ins)等方法来确定交通工具110的定位。在一个示例中，精准导航设备为span-cpt导航设备，由于span-cpt导航设备获得厘米级的定位精度，所以提高了交通工具110的定位的准确性。

在本文中，术语“定位”是指交通工具在特定坐标系中的经度、纬度、俯仰角、航向角和旋转角等。例如，在二维坐标系和三维坐标系中，交通工具的定位可以利用航向角来表示。在三维坐标系中，交通工具的姿态还可以利用俯仰角、航向角和旋转角来表示。然而应当理解，这仅仅出于示例的目的，而无意于限制本公开的范围。

交通工具110还包括至少一个传感器140，其被配置为获取交通工具110所处物理环境的图像110。例如，在图1的示例中，传感器140可以为图像传感器，其通过计算机视觉技术来获取交通工具110所处物理环境155的多个图像帧。在图1的示例环境100中，图像帧150是多个图像帧中的一个图像帧。尽管未示出，但是应当理解，多个图像帧还可以包括其他帧，并且可以对其他帧执行根据本公开的图像处理。多个图像帧也可以是由相机拍摄的动态图像中截取的多个图像帧。仅作为一个示例，在诸如l3级自动驾驶的场景中，多个图像帧可以是由一个前向广角摄像头和四个鱼眼摄像头采集的。多个图像帧也可以是通过任何适当的方式获取的。在一些实施例中，传感器140可以为具有一个或多个广角或者超广角的摄像头，这些摄像头能够捕获周围环境360度内的场景。备选地，传感器140也可以采用可旋转的结构，以便可旋转地检测交通工具110外部多个方向的实时场景。

地图180可以是与交通工具110所处物理环境155有关的地图。地图180可以在交通工具110行驶通过该物理环境155前预先确定，并且可以被提供给交通工具110的计算设备105。

在一个示例中，地图180可以为高精度地图，该高精度地图可以包括与物理环境155有关的各种道路信息数据，例如与车道线120-3相关的各种车道线类型190-2、190-3(单虚线、单实线、左虚右实双线、左实右虚双线、减速车道线、路沿、护栏)；与道路标识120-1、120-2、120-4相关的各种特征物(路面箭头、灯杆、高速路牌、限速牌等)的边框(boundingbox)190-1、190-4。高精度地图中的上述车道线通过例如在wgs-84(worldgeodeticsystem1984，一种为gps全球定位系统使用而建立的坐标系统)坐标系中，平均每4m采集一个点，然后通过将离散点连线而形成。在下文中，将地图180中的反应高道路信息的车道线类型190-2、190-3以及道路标识120-1、120-2、120-4统称为道路信息数据。

在该示例环境100中，由计算设备105利用精准导航设备130和传感器140分别获取多个定位160和多个图像帧，然后将图像中的至少一个图像帧150与响应的目标定位170进行匹配，从而利用该目标定位170获取相应的地图180中的道路信息数据。

以下结合图2至图4来进一步描述详细的确定道路信息数据的过程。图2图示了根据本公开的实施例的道路信息数据的方法200的流程图。方法200可以由图1中的计算设备105来实施。为便于描述，将参照图1来描述方法200。

在框210，计算设备105经由交通工具110的精准导航设备130，确定交通工具的多个定位160。在一些实施例中，当交通工具110行驶到某个位置时，可以利用安装在交通工具110内部或外部的例如span-cpt导航设备来获取交通工具110在全局坐标系中的经度、纬度、俯仰角、航向角和旋转角。

在一个示例中，精准导航设备130进行交通工具定位的原理为：基于粒子滤波、扩展卡尔曼滤波算法，以imu为驱动，以gps、交通工具速度、高精地图与摄像头感知数据匹配的结果作为观测，融合出交通工具定位。具体方法可以为：获取融合算法，在融合算法中有粒子滤波算法和扩展卡尔曼滤波算法，粒子滤波算法的作用是将多种方式的定位结果快速进行初始化，将高精地图和感知数据进行匹配，并将初始化的交通工具定位发送给扩展卡尔曼滤波算法中，卡尔曼滤波算法通过imu的交通工具定位预测下一帧的交通工具定位，采用观测的多种方式的定位对imu预测的定位进行更新，获得更新后的交通工具定位，该更新后的交通工具定位进行输出，即得到最终的交通工具定位。

在框220，计算设备105经由交通工具110的传感器140，获取交通工具110所处物理环境155的多个图像帧。在一些实施例中，当交通工具110行驶到某个位置时，可以利用安装在交通工具110内部或外部的相机来获取交通工具110前方的图像或视频，然后对该图像或视频进行截帧处理以获得多个图像帧。

如图1所示，多个图像帧中的一个图像帧150可以反映出交通工具110前方的物理环境155，其中包括道路信息标志120-1，信号灯120-2，车道线120-3、道路箭头120-4。应当理解，图1中所示的图像帧150包括的对象的数目和类型仅是示例性的，而无意限制。图像帧150可以包括任何数目和类型的对象。

在一个示例中，该图像帧150作为神经网络的输入数据来预测出图像坐标系下的感知数据(例如车道线数据、标识牌数据、信号灯数据等)。然而，由于感知系统的数据来源于对摄像头采集图像的处理，所以原始图像的质量影响最终感知数据的质量。感知数据受天气、光照、路况等不同场景的影响。在光照情况良好的情况下(晴天)，检测质量较高，在雨雪天气、夜间，检测质量较差。目前在匝道、交通拥堵等典型场景下，感知及其容易出现错检的现象，比如把虚线检测为实线，或者把实线检测为虚线。比如在有沥青的路段，因为沥青反光，容易将沥青检测为车道线。因此，需要与感知数据相对应的准确的道路信息数据作为真值来训练该神经网络。

在一个备选实施例中，计算设备105可以与交通工具110所处物理环境相关联的、交通工具110外部的一个或多个设备通信，以获取图像110。例如，计算设备105可以与交通工具110所处位置周围的路测相机通信以获得图像110。应当理解，可以采用本领域公知的网络技术(例如，蜂窝网络(例如第五代(5g)网络、长期演进(lte)网络、第三代(3g)网络、码分多址(cdma)网络等)、公共陆地移动网络(plmn)、局域网(lan)、广域网(wan)、城域网(man)、电话网络(例如公共交换电话网(pstn))、专用网络、自组织网络、内联网、因特网、基于光纤的网络等、和/或这些或其他类型的网络的组合)以建立计算设备105、交通工具110与路侧相机的连接，在此不再详叙。

在框230，计算设备105从多个定位160中确定与多个图像帧中的至少一个图像帧150相对应的目标定位17。计算设备105在时间上从多个定位160中确定与至少一个图像帧150相对应的目标定位。这将在下文结合图3详细描述。

跳转到图3进行描述，图3示出了确定根据本公开的一些实施例的确定目标定位的过程的流程图。

在框310处，计算设备105获取精准导航设备130的系统时间和传感器140获取图像帧的时间之间的时间戳偏移量。在一个实施例中，交通工具上的精准导航设备130按照预定频率(例如100hz)对交通工具110进行定位，以获得多个定位，并且每个定位具有定位时间戳。交通工具110上的相机按照预定频率对例如交通工具110前方的物理环境155进行拍照以或得多个图像帧帧，并且每个图像帧也具有图像帧时间戳。精准导航设备130系统的定位时间戳与图像曝光的图像帧时间戳之间往往具有差值，即时间戳偏移量。计算设备105会根据精准导航设备130的系统时间和图像曝光的时间计算该差值以作为时间戳偏移量。

在框320处，计算设备105基于时间戳偏移量，对多个图像帧的时间戳和多个定位的时间戳进行对齐处理。在一个示例中，计算设备105根据上述差值对定位时间戳或图像帧时间戳进行调整以将其对齐，例如，将每个定位的时间戳加上或者减去该差值以与图像曝光的时间戳对齐。

在框320处，计算设备105基于经对齐后的多个图像帧和多个定位，确定目标定位。由于精准导航设备130按照预定频率，例如100hz进行定位，而传感器140按照另一预定频率，例如33hz进行图像帧采集。因此定位数据较密集而图像帧数据较稀疏，然而稀疏的数据不一定可以直接与密集的数据相对应，例如在时间戳1.3s采集有一图像帧，然后在1.3s不一定有与其相对应的定位，所以需要确定与1.3s采集的图像帧相对应的目标定位。目标定位的确定将在下文结合图4详细描述。上述频率仅是示例性的，本公开对精准导航设备和传感器采集图像的频率不作限制。

跳转到图4进行描述，图4示出了确定根据本公开的一些实施例的确定目标定位的过程的流程图。

在框410处，计算设备105分别获取在时间戳上与至少一个图像帧最接近的第一定位和第二定位，第一定位的第一时间戳在至少一个图像帧的时间戳之前，第二定位的第二时间戳在至少一个图像帧的时间戳之后。在一个实施例中，如上所述的，计算设备105无法直接确定与1.3s采集的图像帧相对应的1.3s的定位，因此计算设备可以获取与1.3s最接近的前一定位时间戳和后一定位时间戳，例如第一定位的第一时间戳为1.0s并且第二定位的第二时间戳为2.0s，这里最接近的意思是在1.0s和1.3s之间没有其他定位数据，并且在1.3s和2.0s之间没有其他定位数据。

在框420处，计算设备105基于第一定位、第二定位、第一时间戳和第二时间戳，确定定位变化率。计算设备105可以基于第一时间戳1.0s和与其对应的第一定位、第二时间戳2.0s和与其对应的第二定位来确定定位变化率，例如，计算设备可以计算第一时间戳1.0s和第二时间戳2.0s之间每0.1s的定位变化率。

在框430处，计算设备105基于第一定位、第一时间戳、至少一个图像帧的时间戳和定位变化率，确定所述目标定位170。在一个实施例中，计算设备可以基于上述每0.1s的定位变化率和第一时间戳1.0s与至少一个图像帧的时间戳1.3s之间的差值0.3s，确定0.3s内的定位变化，并且基于该定位变化和1.0s处的定位来确定与在1.3s处的至少一个图像帧150相对应的目标定位。

请注意，上述确定目标定位的方法只是示意性的，还可以应用其他插值法，例如反距离加权法、样条插值法、克里金法、离散平滑插值和趋势面光滑插值来确定目标定位。

在一个备选实施例中，计算设备105在误差允许的范围内，可以直接将在时间戳上与至少一个图像帧150最接近的定位确定为目标定位170，这提供了准确性与计算资源节省之间的良好折中。

下面继续回到图2进行描述，在框240处，计算设备105基于所确定的目标定位和与物理环境有关的地图180，确定与至少一个图像帧150相对应的道路信息数据。例如，计算设备105可以获取上述确定的目标定位170的各种参数，例如经度、纬度、俯仰角、航向角和旋转角等，然后基于该参数从地图180中找到对应的数据。如上所述，该地图中包括与至少一个图像帧150相对应的准确道路信息数据，例如车道线数据190-3、路沿数据190-2、路面箭头190-4和路牌190-1的边框等。通过做这些准确道路信息数据和上述神经网络以该至少一个图像帧150作为输入预测的感知数据作比较，以不断训练神经网络模型。道路信息数据包括但不限于车道线数据、路沿数据、护栏数据、路灯数据或道路指示牌数据。

在一些实施例中，道路信息数据例如是地图180中的、交通工具的定位前方120米的车道线信息或者路面箭头、标识牌信息。

在一些实施例中，由于交通工具的传感器有时会放在交通工具前轴附近，由于路况等原因、交通工具行驶过程中会颠簸(又称为点头)从而导致图像帧的获取不准确，在这种情况下，计算设备105可以获取目标定位170的姿态定向，例如俯仰角，该俯仰角指示交通工具偏离路面的情况。计算设备响应于该俯仰角在预定范围内，基于地图180和目标定位170，确定所述道路信息数据。通过对车辆的俯仰角进行判断，使获取的道路信息数据更加准确，从而为训练网络模型提供了优质的真值数据。

在一些实施例中，该传感器140可以为相机，该相机具有内参和外参，计算设备105可以通过相机140的内外参确定投影变换方程,从而将全局坐标系下的道路信息数据转换为变换为图像帧坐标系下的道路信息数据。

本公开通过建立交通工具定位与交通工具所拍摄的图像的关系，可以进一步建立高精度地图中的道路信息数据与所拍摄的图像的关系，并且可以利用该道路信息数据作为标注数据来训练神经网络模型。因而可以以低成本、准确、快速高效地生成道路信息数据标注，为准确训练神经网络模型打下基础。

图5示出了根据本公开的一些实施例的确定道路信息数据的装置的示意性框图。装置500可以被包括在图1的计算设备105中或者被实现为计算设备105。

如图5所示，装置500包括第一定位获取模块510，被配置为经由交通工具的精准导航设备，确定交通工具的多个定位；图像获取模块，520，被配置为经由交通工具的传感器，获取交通工具所处物理环境的多个图像帧；定位确定模块530，被配置为从多个定位中确定与多个图像帧中的至少一个图像帧相对应的目标定位；以及第一道路信息数据确定模块540，被配置为基于所确定的目标定位和与物理环境有关的地图，确定与至少一个图像帧相对应的道路信息数据。

在一些实施例中，定位确定模块530可以包括：时间戳偏移量确定模块，被配置为获取精准导航设备的系统时间和传感器获取图像帧的时间之间的时间戳偏移量，时间戳对齐模块，被配置为基于时间戳偏移量，对多个图像帧的时间戳和多个定位的时间戳进行对齐处理；以及第一目标定位确定模块，被配置为基于经对齐后的多个图像帧和多个定位，确定目标定位。

在一些实施例中，第一目标定位确定模块可以包括：第二定位获取模块，被配置为分别获取在时间戳上与至少一个图像帧最接近的第一定位和第二定位，第一定位的第一时间戳在至少一个图像帧的时间戳之前，第二定位的第二时间戳在至少一个图像帧的时间戳之后；定位变化率确定模块，被配置为基于第一定位、第二定位、第一时间戳和第二时间戳，确定定位变化率；以及第二目标定位确定模块，被配置为基于第一定位、第一时间戳、至少一个图像帧的时间戳和定位变化率，确定目标定位。

在一些实施例中，第一道路信息数据确定模块540可以包括：姿态定向获取模块，被配置为获取目标定位的姿态定向；以及第二道路信息数据确定模块，被配置为响应于姿态定向在预定范围内，基于地图和目标定位，确定道路信息数据。

在一些实施例中，其中传感器为相机，装置500还可以包括：坐标系转换模块，被配置为基于相机的参数，将道路信息数据转换为图像帧坐标系中的道路信息数据。

在一些实施例中，其中道路信息数据包括以下中的至少一项：车道线数据、路沿数据、护栏数据、路灯数据或道路指示牌数据。

在一些实施例中，其中精准导航设备为span-cpt导航设备。

在一些实施例中，其中地图为高精度地图。

图6图示了可以用来实施本公开内容的实施例的示例设备600的示意性框图。例如，如图1所示的示例环境100中的计算设备105可以由设备600来实施。如图所示，设备600包括中央处理单元(cpu)601，其可以根据存储在只读存储器(rom)602中的计算机程序指令或者从存储单元608加载到随机访问存储器(ram)603中的计算机程序指令，来执行各种适当的动作和处理。在ram603中，还可存储设备600操作所需的各种程序和数据。cpu601、rom602以及ram603通过总线604彼此相连。输入/输出(i/o)接口605也连接至总线604。

设备600中的多个部件连接至i/o接口605，包括：输入单元606，例如键盘、鼠标等；输出单元607，例如各种类型的显示器、扬声器等；存储单元608，例如磁盘、光盘等；以及通信单元609，例如网卡、调制解调器、无线通信收发机等。通信单元609允许设备600通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

上文所描述的各个过程和处理，例如方法200、300和400，可由处理单元701执行。例如，在一些实施例中，方法200、300和400可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元608。在一些实施例中，计算机程序的部分或者全部可以经由rom602和/或通信单元609而被载入和/或安装到设备600上。当计算机程序被加载到ram603并由cpu601执行时，可以执行上文描述的方法200、300和400中的一个或多个动作。

本公开可以是方法、装置、系统和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质，其上载有用于执行本公开的各个方面的计算机可读程序指令。

计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：便携式计算机盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、静态随机存取存储器(sram)、便携式压缩盘只读存储器(cd-rom)、数字多功能盘(dvd)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身，诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如，通过光纤电缆的光脉冲)、或者通过电线传输的电信号。

这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备，或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令，并转发该计算机可读程序指令，以供存储在各个计算/处理设备中的计算机可读存储介质中。

用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(isa)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码，所述编程语言包括面向对象的编程语言—诸如smalltalk、c++等，以及常规的过程式编程语言—诸如“c”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络—包括局域网(lan)或广域网(wan)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中，通过利用计算机可读程序指令的状态信息来个性化定制电子电路，例如可编程逻辑电路、现场可编程门阵列(fpga)或可编程逻辑阵列(pla)，该电子电路可以执行计算机可读程序指令，从而实现本公开的各个方面。

这里参照根据本公开实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本公开的各个方面。应当理解，流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合，都可以由计算机可读程序指令实现。

这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理单元，从而生产出一种机器，使得这些指令在通过计算机或其它可编程数据处理装置的处理单元执行时，产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中，这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作，从而，存储有指令的计算机可读介质则包括一个制造品，其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。

也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上，使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤，以产生计算机实现的过程，从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。

附图中的流程图和框图显示了根据本公开的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分，所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

以上已经描述了本公开的各实施方式，上述说明是示例性的，并非穷尽性的，并且也不限于所披露的各实施方式。在不偏离所说明的各实施方式的范围和精神的情况下，对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择，旨在最好地解释各实施方式的原理、实际应用或对市场中的技术的改进，或者使本技术领域的其他普通技术人员能理解本文披露的各实施方式。