对象检测的系统和方法与流程

文档序号:14203939阅读:213来源:国知局
对象检测的系统和方法与流程

相关申请案的交叉参考

本申请案主张2015年8月27日提交的共同拥有的第14/837,606号美国非临时专利申请案的优先权,所述申请案的内容以全文引用的方式明确地并入本文中。

本发明大体上涉及对象检测。



背景技术:

高级驾驶员辅助系统(adas)包含于车辆中并且用于车辆的驾驶员。举例来说,adas可接收数据,例如图像数据、超声波数据等,并且可处理数据以检测对象及/或危险。响应于检测到对象或危险,adas可发起动作,例如通知驾驶员或改变车辆的操作特性(例如,速度)。类似地,自主车辆可响应于检测到对象或辨识到对象而发起动作。检测图像中的对象,例如交通标志,对于adas或自主车辆来说可能难以实时(或近实时)执行。举例来说,归因于视点变化、光照条件(例如,饱和度、低对比度等)、运动模糊、遮挡、行驶速度等,检测交通标志可能是困难的。



技术实现要素:

在特定方面中,装置包含经配置以产生场景的图像的图像传感器和经配置以接收图像的处理器。处理器进一步经配置以检测图像的道路区域且确定图像的子集。如本文中所使用,图像的“子集”包含图像的至少第一像素且不包含图像的至少第二像素。在一些实例中,图像的“子集”可以被替代地称作所关注区域(roi)。子集不包含道路区域的至少一部分。作为说明性、非限制性实例,处理器进一步经配置以对图像的子集执行对象检测操作以检测对象,例如交通标志、交通控制信号、户外广告或其它对象。对图像的不包含道路区域的至少一部分的子集执行对象检测操作(即,不对所述道路区域的至少一部分执行对象检测操作)。

在另一特定方面中,处理图像的方法包含在处理器处接收与场景的图像相关联的图像数据。方法进一步包含基于图像数据检测道路区域及确定图像数据的子集。子集不包含图像数据的对应于道路区域的至少一部分。方法进一步包含对图像数据的子集执行对象检测操作以检测对象。对图像数据的子集执行的对象检测操作不包含图像数据的对应于道路区域的至少一部分。

在另一特定方面中,存储指令的计算机可读存储装置,所述指令在由处理器执行时使所述处理器执行操作,所述操作包含响应于接收到场景的图像在图像内检测道路区域。操作进一步包含确定图像的子集。子集不包含道路区域的至少一部分。操作进一步包含搜索图像的不包含道路区域的至少一部分的子集以检测对象。

在另一特定方面中,设备包含用于捕捉包含道路区域的场景的图像的装置和用于选择图像的子集的装置。子集不包含在图像中检测到的道路区域的至少一部分。设备进一步包含用于对图像的不包含道路区域的至少一部分的子集执行对象检测操作以检测对象的装置。

在检视整个申请案后,本发明的其它方面、优点和特征将变得显而易见,申请案包含以下部分:附图说明、具体实施方式和权利要求书。

附图说明

图1是支持用于对象(例如,标志)检测的图像处理操作的系统的特定说明性实例的图;

图2是说明图像处理的实例的图1的系统的另一图;

图3是从图像排除道路区域的至少一部分的特定说明性实例的图;

图4是在对象(例如,标志)检测期间从图像排除道路区域的至少一部分的特定说明性实例的图;

图5是在对象(例如,标志)检测期间从图像排除道路区域的至少一部分的另一特定说明性实例的图;

图6是在对象(例如,标志)检测期间从图像排除道路区域的至少一部分的另一特定说明性实例的图;

图7是在对象(例如,标志)检测期间从图像排除道路区域的至少一部分的另一特定说明性实例的图;

图8是在对象(例如,标志)检测期间从图像排除道路区域的至少一部分的另一特定说明性实例的图;

图9是在对象(例如,标志)检测期间从图像排除道路区域的至少一部分的另一特定说明性实例的图;

图10是说明用于对象(例如,标志)检测的图像处理操作的方法的特定实例的流程图;

图11是可操作以支持本文中所公开的一或多种方法、系统、设备及/或电脑可读媒体的各种方面的电子装置的图。

具体实施方式

下文参考图式描述本发明的特定方面。在描述中,贯穿图式由常用参考数字指示常用特征。如本文中所使用,用以修改元件(例如结构、组件、操作等)的序数术语(例如“第一”、“第二”、“第三”等)本身并不指示所述元件相对于另一元件的任何优先权或次序,而是实际上仅将所述元件与具有相同名称(但使用序数术语)的另一元件区别开。

本发明涉及图像处理系统,例如对象检测和任选的对象辨识系统。可执行对象检测以检测包含于图像中的对象,例如交通标志或交通信号。可执行对象辨识以辨识检测到的对象的类型或类别(例如,一种类型的交通信号或一种类型的交通标志——停车、让步、速度、施工、方向等)。本文中所描述的成像处理系统和方法可与车辆相关联。举例来说,图像处理系统可接收包含道路的表示的图像。图像可从包含于车辆中或耦合到车辆的传感器(例如相机、红外传感器等)接收。图像处理系统可对图像执行车道/道路检测以检测的道路区域。道路区域或其部分可以从后续图像处理操作(例如对象检测、对象辨识等)排除。因此,应理解,如本文中所使用,图像的检测到的“道路区域”可以包含道路在图像中的表示的一部分或整体,且这种道路区域的全部或一部分可以从后续图像处理排除。在一些实施方案中,在检测到道路区域之后,图像处理系统可确定(例如,选择)道路区域的至少一部分,使得道路区域的至少所述部分小于或等于阈值大小(例如,像素的数目、图像的像素行的数目、图像的小部分或图像的百分比)、阈值距离(例如,如基于图像所确定的),或两者。

如上文所解释,图像处理系统在执行对象检测时(例如,在针对交通标志、交通信号或两者搜索图像时)可从图像排除道路区域的整体或一部分。在一些实施方案中,对图像执行的车道/道路检测可在比对象检测更低的分辨率下执行。因此,车道/道路检测可比对象检测执行得更快。通过从后续对象检测操作(例如,交通标志检测操作或交通信号检测操作)排除道路区域的至少一部分,对象检测操作可比在整个图像搜索对象时更快地执行。通过搜索少于整个图像,图像处理系统可更快速地执行对象检测辨识,这可能能够支持实时或几乎实时的对象检测、对象辨识或两者,例如针对adas。

参看图1,公开图像处理系统的特定说明性实例且一般将其指定为100。图像处理系统100可以与车辆相关联。举例来说,图像处理系统100可以包含于车辆或自主车辆的adas中或耦合到所述车辆或自主车辆的adas。

尽管一或多个实施方案参考车辆描述于本文中,但这并不视为限制。本文中所描述的技术可与电子装置、移动装置、游戏控制台、汽车系统控制台(例如adas)、可穿戴装置(例如个人固定式相机)、头戴式显示器(hmd)等一起使用。额外实例包含但不限于机器人或机器人装置、无人驾驶飞机(uav)和无人机。车辆的实例可包含机动车(例如,汽车、卡车、摩托车、公共汽车或火车)、(例如,船或小艇)、航空器(例如,飞机或直升机)、航天器(例如,太空梭)、自行车或另一种车辆。作为说明性、非限制性实例,车辆可以是带轮车辆、履带车辆、铁路车辆、空中车辆或滑雪车辆。在一些情况下,车辆可由一或多个驾驶员操作。在其他情况下,车辆可以是计算机控制车辆,例如自主车辆。此外,尽管一或多个方面在本文中可以描述为包含在车辆处执行的操作,但应理解,在其它实例中,这些操作可在“云端”中或车辆外部执行。

图像处理系统100包含经配置以接收图像104且任选地输出对象的指示符140的计算装置102。在一些实施方案中,可以从存储器(未展示)或图像捕捉装置(未展示)接收图像104。存储器、图像捕捉装置或两者可以包含于计算装置102中或可以在计算装置102外部。为了说明,计算装置102可以包含包括图像捕捉装置(例如相机)的移动电话或头戴式装置。

计算装置102可以包含道路区域检测器110、所关注区域(roi)产生器120、对象检测器130,及任选地对象辨识器134。图像处理系统100接收提供到道路区域检测器110且提供到roi产生器120的图像104。在一些实施方案中,图像104可以包含(例如,描绘)道路的表示。图像104可以包含多个像素的图像数据。在一些实施方案中,图像数据可以包含多个像素的强度值(例如,灰度值、红色/绿色/蓝色(rgb)值等)。另外或替代地,图像104可以包含于由图像处理系统100接收的图像流中。在包含图像流的各种实施方案中,可针对图像流的多个图像(例如,帧),例如针对每一图像或针对每n个图像(其中n是大于或等于1的整数),执行所描述的道路区域检测和排除技术。

道路区域检测器110可对图像104执行车道/道路检测(被替代地称作车道/道路检测)以确定图像104的道路区域112。道路区域112可以包含包括于图像104中的道路的表示的部分或整体。为了检测道路区域112,道路区域检测器110可在第一分辨率下搜索图像104以检测道路区域112。为了说明,作为说明性、非限制性实例,道路区域检测器110可使用具有第一分辨率的第一窗口搜索图像104,例如24像素×24像素的窗口大小。在一些实施方案中,道路区域检测器110可执行车道/道路检测以确定图像104内的一或多个车道标记。举例来说,道路区域检测器110可确定图像104内的一或多个车道标记的坐标。基于一或多个车道标记,道路区域检测器110可确定对应于道路区域112的多边形的周界。举例来说,道路区域检测器110可确定多边形的周界,以使得一或多个车道标记的坐标包含于所述多边形中。

在一些实施方案中,道路区域检测器110可确定道路区域112的至少一部分且将对应于道路区域112的部分或整体的道路指示符114提供到roi产生器120。在特定实施方案中,道路指示符114是道路区域112内的待从其它图像处理操作排除的像素(例如,像素位置)的列表,如本文中进一步描述。另外或替代地,道路指示符114可以包含图像104的待从其它图像处理操作排除的像素(例如,像素位置)的一或多个范围。在各种实施方案中,道路区域检测器110可比较道路区域112的大小与阈值大小。阈值大小可以包含或对应于图像104的像素的数目、图像104的百分比,或图像的顶部与底部之间的尺寸(例如,高度)。如果道路区域112的大小小于或等于阈值大小,那么道路指示符114可指示整个道路区域112。替代地,如果道路区域112的大小大于阈值大小,那么道路指示符114可指示小于整个道路区域112的道路区域112的一部分。举例来说,归因于在最接近车辆的道路区域112的部分中检测到标志的概率降低,道路区域检测器110可选择道路区域112的待由道路指示符114指示的底部部分(如参考图7所描述)。在一些实施方案中,道路区域112的所选部分可以小于或等于阈值大小。

作为另一实例,道路区域检测器110可基于确定道路区域112是否延伸超出阈值距离(例如,从车辆测量)确定道路区域112的部分。举例来说,道路区域检测器110可经配置以接收或确定与道路区域112相关联的距离信息,例如基于全球定位系统(gps)信息、超声波信息、激光信息、声纳信息,基于图像104的处理确定的信息等。道路区域检测器110可比较道路区域112的距离(例如,最远距离)与阈值距离。如果距离小于或等于阈值距离,那么道路指示符114可指示整个道路区域112。替代地,如果距离超过(例如,大于)阈值距离,那么道路指示符114可指示道路区域112的满足阈值距离(例如,大于或等于与车辆相距的阈值距离)的一部分。为了说明,如果图像104中的道路的表示指示道路的海拔变化(例如,当车辆在斜坡或接近斜面上行驶时),那么高架交通标志(或高架交通信号)可以包含于检测到的道路区域112中且当从图像104排除整个道路区域112时可能不是可侦测的。因此,道路区域112的部分可经确定以考虑道路表面的拓扑且改善对象检测结果(例如,标志检测结果)及任选地对象辨识结果(例如标志辨识结果)。

作为另一实例,道路区域检测器110可基于包含车辆的车道确定道路区域112的部分。举例来说,道路区域检测器110可确定道路区域112的部分包含车辆正行驶的车道。另外或替代地,道路区域检测器110可确定道路区域112的部分包含与车辆的相同行驶方向相关联的一或多个泳道。作为说明性、非限制性实例,如果车辆在分车道高速公路上行驶,那么所述部分可以包含车辆正在其上行驶的分车道高速公路的部分,且可不包含在与车辆相反的行驶方向上具有车流的分车道高速公路的其它部分。

在一些实施方案中,道路区域检测器110可经配置以接收数据,例如地图绘制数据(例如,位置数据)、环境数据(例如,天气数据、海拔数据)及/或车载数据(例如,速度、斜面/斜坡数据)。道路区域检测器110可基于数据检测道路区域112或确定道路指示符114。作为说明性、非限制性实例,如果数据指示车辆在具有大于或等于阈值的斜率的斜坡上行驶,那么道路区域检测器110可限制道路区域112的大小,如参考图7所描述。为了说明,道路指示符114可指示道路区域112或图像104的最接近车辆的部分(例如,小部分)。另外或替代地,如果数据指示车辆正接近或处于相交区,那么道路指示符114可指示道路区域112的基于车辆的行驶方向确定的一部分。为了说明,道路区域112可以包含对应于车辆的行驶方向的第一道路和为与第一道路交叉的街道的第二道路。道路指示符114可指示道路区域112的部分,所述部分包含第一道路的至少一部分但不包含第二道路,如参考图8所描述。

roi产生器120可接收图像104和道路指示符114。roi产生器120可经配置以基于道路指示符114确定待提供到对象检测器130的图像104的子集(在本文中被替代地称作roi122)。为了产生roi122,roi产生器120可从图像104排除道路区域112或其部分(如由道路指示符114所指示)。为了说明,图像104可以与多个所存储的像素值相关联,且roi产生器120可重写对应于待排除的道路区域112或其部分的一组像素值。举例来说,所述一组像素值可以预定值重写,例如以全部1's或全部0's来重写。以全部l's或全部0's重写所述一组像素值可以相当于从图像104排除(例如,去除)道路区域112的至少所述部分(例如,这是因为全部l's或全部0's的区域可自动地被后续图像处理操作跳过)。roi产生器120可将roi122或其指示提供到对象检测器130。

在一些实施方案中,可以将图像104提供到道路区域检测器110且提供到roi产生器120,且roi产生器120可在道路检测器区域112检测道路区域122的同时开始处理图像104以产生roi122。举例来说,roi产生器120可在道路区域检测器110检测道路区域112的同时执行一或多个操作。为了说明,roi产生器120可确定是否从图像104排除一或多个区域且可从图像104排除所述一或多个区域。响应于接收到道路指示符114,roi产生器120可从图像104排除道路区域112的至少一部分,这可完成roi122的产生。在其它实施方案中,道路区域检测器110和roi产生器120可串联配置。举例来说,图像104可以提供到道路区域检测器110而不提供到roi产生器120。道路区域检测器110可检测道路区域112且将道路指示符114以及图像104提供到roi产生器120。

对象检测器130可经配置以搜索roi122以在roi122内检测对象。在一些实例中,对象检测器130可基于执行一或多种检测算法检测对象,所述一或多种检测算法为例如图像分割、色彩分割、图像滤波、加速分段测试提取特征(fast)、快速鲁棒特征(surf)、尺度不变特征变换(sift)、角点检测、边缘检测、峰检测等。在一些实施方案中,当所述一组像素值经重写以排除道路区域112(或其部分)时,对象检测器130可经配置以跳过处理图像104的对应于全部l's或全部0's的像素值的区域。

作为说明性、非限制性实例,对象检测器130检测到的对象可以包含或对应于交通标志或交通信号。举例来说,对象检测器130可搜索(例如,扫描)roi122以检测候选对象132。在一些实例中,对象检测器130可以第二分辨率搜索roi122从而检测对象。为了说明,作为说明性、非限制性实例,对象检测器130可使用具有第二分辨率的第二窗口搜索roi122,例如15像素×15像素的窗口大小。第二分辨率可以是比由道路区域检测器110用以检测道路区域112的第一分辨率更高的分辨率。在一些实施方案中,对象检测器130可将roi122划分成多个窗口,例如多个15像素×15像素窗口。

在特定实施方案中,对象检测器130可确定每一像素窗口的色彩值且可比较所确定的色彩值与已知与交通标志相关联的色彩值。举例来说,作为说明性、非限制性实例,美国的已知标志色彩值可以包含:与停车标志相关联的红色、与警告标志相关联的黄色、与施工标志相关联的橙色、与速度标志相关联的白色、与导航标志相关联的绿色等。在一些实施方案中,特定像素窗口的色彩值可以是包含于特定像素窗口中的多个像素的多个色彩值的平均值。在其它实施方案中,特定像素窗口的色彩值可以是包含于特定像素窗口中的多个像素的多个色彩值的直方图。另外或替代地,对象检测器130可经配置以对roi122执行边缘检测操作。在一些实施方案中,对象检测器130可接收图像104且可对整个图像104执行边缘检测。在其它实施方案中,边缘检测操作可由另一组件执行,例如道路区域检测器110,且边缘检测操作的结果可以提供到对象检测器130。基于边缘检测操作的结果,对象检测器130可尝试检测已知对象(例如,标志)的形状。举例来说,作为说明性、非限制性实例,就道路标志来说,已知对象形状可以包含矩形、正方形、菱形等。

对象辨识器134可经配置以接收候选对象132(或其指示)且对候选对象132执行对象辨识操作。举例来说,作为说明性、非限制性实例,对象辨识操作可以包含交通标志辨识操作或交通信号辨识操作。在特定实施方案中,对象辨识器134包含一组分类器或可接入一组分类器。所述一组分类器中的每个分类器可对应于不同对象,例如不同交通标志或不同交通信号。对象辨识器134可比较候选对象132(或对应于其的特征,如由对象检测器130所确定)与所述一组分类器。如果候选对象132与所述一组分类器中的特定分类器匹配,那么对象辨识器134可产生与所识别对象(例如,所辨识对象)相关联的指示符140。

响应于对象辨识器134识别对象,对象辨识器134可以任选地输出所识别对象的指示符140。作为说明性、非限制性实例,指示符140可指示对象类型、对象的位置(例如,相对于车辆)或两者。作为说明性、非限制性实例,对于交通标志,对象类型可指示:交通标志是禁令标志(例如,停车标志、速度限制标志等)、警告标志、标记标志、导向及信息标志、休闲及/或人文标志等。作为说明性、非限制性实例,对于交通信号,对象类型可指示由交通信号提供的当前状态(例如,指示),例如停车信号、转向信号、通行信号等。在一些实施方案中,指示符140可以提供到控制器,例如包含计算装置102的车辆的控制器,如参考图2所描述。举例来说,控制器可以包含于adas或自主车辆中,并且响应于指示符140,adas或自主车辆可发起待由车辆执行的至少一个动作,例如制动。作为另一实例,控制器可以包含于音频/视觉系统中,并且响应于指示符140,控制器可经由显示器发起指示符140的视觉呈现,经由音频系统发起所述指示的音频呈现,或两者。在一些实施方案中,显示器可以包含于车辆的仪表盘中。在其它实施方案中,显示器可以包含于可穿戴装置(例如,头戴式装置(hmd))中,或可以是包含于车辆的挡风玻璃之上或之中的平视显示器(hud)。在计算装置102并不包含对象辨识器134的实施方案中,对象检测器130(例如,计算装置102)可输出与候选对象132相关联的指示符。可由对象检测器130提供的指示符可以包含如参考由对象辨识器134提供的指示符140所描述的信息。

在操作期间,计算装置102可接收图像104。在其它实施方案中,如果计算装置102包含图像捕捉装置,例如相机,那么计算装置可产生图像104(例如,图像数据)。图像104可以提供到道路区域检测器110且提供到roi产生器120。道路区域检测器110可在图像104内检测道路区域112。基于检测到的道路区域112,roi产生器120可通过从图像104排除道路区域112的至少一部分产生roi122。roi122可以提供到对象检测器130,所述对象检测器130可对roi122执行对象检测。在一些实施方案中,计算装置102包含可输出指示符140的对象辨识器134。

在一些实施方案中,除了道路区域112的至少所述部分之外,roi产生器120可排除图像104的其它部分以产生roi122。举例来说,roi产生器120可排除位于道路区域112上方的图像104中的图像104的另一部分,如参考图4所描述。在一些实例中,当车辆处于检测到高架标志的可能性降低的位置,例如处于乡村区域时,道路区域112上方的区域可由roi产生器120排除。另外或替代地,roi产生器120可经配置以接收数据,例如地图绘制数据(例如,位置数据)、环境数据(例如,天气数据、海拔数据)及/或车载数据(例如,速度、斜面/斜坡数据)。除了排除道路区域122的至少一部分之外,roi产生器120可基于所接收的数据排除图像104的一或多个部分。为了说明,如果数据指示车辆正在紧邻特征(例如,物理特征,例如水体或河谷)的道路上行驶,那么roi产生器120可排除图像104的与所述特征相关联的一部分。通过排除图像104的额外部分,roi122的大小可以进一步减小,这可能使得对象检测更快速地执行。另外或替代地,由于对小于整个图像104执行对象检测,对象检测可与在整个图像搜索对象时相比在更高分辨率下和更短时间量下执行。通过在更高分辨率下执行对象检测,对象检测操作可能更精确、更可靠且更可能在图像104中检测到一或多个对象。作为另一实例,除了排除道路区域112或其一部分之外,roi产生器120可排除图像104的最接近车辆的一部分,如参考图5所描述。举例来说,交通标志通常未包含在图像104的最接近车辆的一部分中,例如由车辆相机捕捉的图像的底部四分之一或底部三分之一。

在一些实施方案中,道路区域112(或与之相关联的数据)可以提供到对象检测器130。对象检测器130可经配置以对道路区域112执行文本检测以检测可以呈现在包含于图像104中的道路的表示上的文本,如参考图9所描述。尽管对象检测器130已描述为经配置以执行文本检测,但在其它实施方案中,计算装置102可以包含与对象检测器130不同的文本检测器。在一些实施方案中,可对道路区域的整体或其一部分(在与车辆相同的行驶方向上)执行文本检测。对象检测器130可在第三分辨率下针对文本搜索道路区域112。举例来说,对象检测器130可使用具有第三分辨率的第三窗口搜索道路区域112。在一些实施方案中,第三分辨率可以是比第二分辨率更低的分辨率。另外或替代地,第三分辨率可以低于、高于或相同于由道路区域检测器110用以检测道路区域112的第一分辨率。进一步参考图3到9描述排除道路区域部分的额外实例。

尽管计算装置102已描述为检测道路区域112且从图像104排除道路区域112(或其部分)以确定roi122,但在其它实施方案中,计算装置102可检测(或任选地识别)特定对象且从图像104排除所述特定对象以确定roi122。在一些实施方案中,替代从图像104排除的道路区域112的至少所述部分或除其之外,可以从图像104排除特定对象。

特定对象可以与图像104的具有重叠所关注对象(例如,与道路相关联的标志)的低可能性的一部分相关联。举例来说,特定对象可对应于天空,水体,对应于在前方且在与车辆相同的行驶方向上行驶的另一车辆,或对应于在与车辆相反的行驶方向上行驶的车辆。在一些实施方案中,车辆处于与所述车辆相同的车道。另一车辆可以在图像104中检测到(或任选地识别)且通过roi产生器120从图像104排除以产生roi122。替代地,另一车辆可以在图像中检测到(或任选地识别),所述图像在图像104之前由计算装置102接收,例如图像流中在图像104之前的第二图像。为了说明,另一车辆可以通过对象检测器130在第二图像中检测到(或任选地通过对象辨识器134在第二图像中识别),且对象检测器130(或任选地对象辨识器134)可将对另一车辆的指示提供到roi产生器120。

在一些实施方案中,计算装置102可经配置以检测包含于图像104中的特定对象(例如,在相同的行驶方向上行驶的另一车辆)。roi产生器120可经配置以从图像104排除特定对象以确定roi122。作为说明性、非限制性实例,计算装置102可对roi122执行对象检测及任选地对象辨识以检测对象,例如交通标志或交通信号。在一些实施方案中,可对对应于检测到的对象的roi122的一部分而不对整个roi122执行对象辨识。

在一些实施方案中,计算装置102可以包含一或多个存储器(未展示)。举例来说,计算装置可以包含经配置以接收和存储图像104的存储器。存储器可以是可由计算装置102的一或多个组件存取的,所述一或多个组件为例如道路区域检测器110、roi产生器120、对象检测器130或(任选地)对象辨识器134。在一些实施方案中,存储于存储器中的图像104(例如,图像数据)可由计算装置102的一或多个组件修改。举例来说,响应于从道路区域检测器110接收到道路指示符114,roi产生器120可修改存储在存储器处的图像104以排除道路区域112的至少一部分。为了说明,roi产生器120可重写图像数据(例如,图像104)的一部分,其中所述部分对应于待排除的道路区域112的至少一部分。

在图像处理系统100的特定实施方案中,计算装置102可经配置以接收与场景的图像104相关联的图像数据。计算装置102还可经配置以基于图像数据检测道路区域112且确定图像数据的子集。子集不包含图像数据的对应于道路区域112的至少一部分。计算装置102可进一步经配置以对图像数据的子集执行对象检测操作以检测对象。可对不包含图像数据的对应于道路区域112的至少一部分的图像数据的子集执行对象检测操作。换句话说,可对图像数据的子集执行对象检测操作且可不对图像数据的对应于道路区域112的至少一部分执行对象检测操作。

因此,计算装置102可经配置以从图像104排除道路区域112或其一部分以产生图像104的子集(例如,roi122)。计算装置102可搜索roi122以检测包含于roi122中的对象。通过从搜索对象(例如,交通标志或交通信号)的图像104排除道路区域112的至少一部分,图像104可与在搜索整个图像104时相比更快速地搜索。通过搜索少于整个图像104,图像处理系统100可更快速地执行对象检测(及任选地对象辨识)(例如,从而支持实时或近实时对象检测)。举例来说,在roi内执行对象检测可节省用于在整个图像内执行对象检测的时间的三分之一(或更高,取决于roi和图像的相对大小)。

参看图2,公开图像处理系统的特定说明性实例且一般将其指定为200。图像处理系统200可以包含或对应于图1的图像处理系统100。图像处理系统200可以与车辆相关联。举例来说,图像处理系统200可以包含于adas或自主车辆中或耦合到adas或自主车辆。在另一实例中,图像处理系统200可以包含于系统或装置中,例如由车辆的乘客或驾驶员使用的可穿戴装置(例如,hmd)。图像处理系统200包含图像传感器214、计算装置202和控制器250。

图像传感器214可以包含经配置以产生图像104的相机。举例来说,相机可以安装到车辆且经配置以产生图像帧或一连串图像帧。作为另一实例,相机可以安装到另一装置或系统,例如由车辆的乘客或驾驶员使用的hmd、无人机、卫星、另一车辆、基础设施相机系统(例如,监测系统)等。如所展示,图像传感器214可将图像104提供到计算装置202。

计算装置202可以包含道路区域检测器110、图像预处理器216、roi产生器120、对象检测器130、(任选地)对象辨识器134和色彩调谐器260。图像104可由计算装置202接收并且路由到道路区域检测器110和图像预处理器216。

作为说明性、非限制性实例,图像预处理器216可经配置以基于一或多个参数(例如色彩调谐参数、白平衡参数、亮度参数,或其组合)处理图像104。为了说明,图像预处理器216可将白平衡参数应用于图像104以调节(例如,提高或降低)图像104的白平衡。在调节图像104之后,图像预处理器216可将图像104(例如,图像104的经调节版本)提供到roi产生器120。由图像预处理器216执行的一或多个操作可与道路区域检测器110检测道路区域112(或其一部分)以用于由roi产生器120排除同时(例如至少部分地当前)执行。

在一些实施方案中,图像预处理器216、roi产生器120或两者可经配置以与道路区域检测器110同时操作。举例来说,图像预处理器216可在道路区域检测器110检测道路区域112的同时执行一或多个操作。在其它实施方案中,计算装置102可经配置使得图像104在图像预处理器216处经接收,且图像预处理器216将图像104的经预处理版本提供到道路区域检测器110、roi产生器120或两者。举例来说,在第一实施方案中,图像预处理器216可将图像104的经预处理版本提供到道路区域检测器110和roi产生器120两者。道路区域检测器110和roi产生器120可经配置以并行地对图像104的经预处理版本执行操作。作为另一实例,在第二实施方案中,图像预处理器216可将图像104的经预处理版本提供到道路区域检测器110(而不提供到roi产生器120)。道路区域检测器110和roi产生器120可经串联配置,使得道路区域检测器110可使用图像104的经预处理版本检测道路区域112且可将道路指示符114及图像104的经预处理版本提供到roi产生器120。

对象检测器130可执行对象检测操作,且对象辨识器134可以任选地执行对象辨识操作,如参考图1所描述。响应于检测到对象,及任选地辨识对象,对象检测器130(或对象辨识器134)可产生与对象相关联的指示符140。指示符140可以提供到控制器250且提供到色彩调谐器260。

控制器250可经配置以发起待由与图像处理系统200相关联的车辆的另一系统执行的操作。举例来说,控制器250可经配置以发起包含于车辆中的adas的操作或自主车辆的操作。为了说明,如果指示符140指示对象(例如,停车标志)已在图像104中检测到或识别,那么控制器250可发起待由adas或自主车辆执行的制动操作。在一些实施方案中,控制器250可以耦合到车辆的音频/视觉系统。作为说明性、非限制性实例,音频/视觉系统可以包含扬声器、显示器(例如,hud)或两者。响应于指示符140,控制器250可经配置以经由显示器发起指示符140的视觉呈现(例如,hud中的停车标志的视觉描述)、经由扬声器发起指示的音频呈现(例如,“前方有停车标志”)或两者。

色彩调谐器260可经配置以接收与对象相关联的指示符140且确定对象的图像质量特性。作为说明性、非限制性实例,如本文中所使用,“图像质量特性”可以包含色彩值或色彩值的直方图、白平衡值或白平衡值的直方图、亮度值或亮度值的直方图、模糊值或模糊值的直方图等。举例来说,色彩调谐器260可使用图像104、由图像预处理器216输出的图像104的经调节版本或roi122来确定对象的图像质量特性。色彩调谐器260可比较图像质量特性与阈值图像质量特性,例如对象的已知表示。举例来说,阈值图像质量特性可对应于由指示符140识别的对象的高品质图像。

为了说明,如果对象是停车标志,那么阈值图像质量特性可对应于停车标志的高品质图像的红色值。基于图像质量特性与图像质量特性阈值的比较,色彩调谐器260可确定待提供到图像预处理器216的参数更新。图像预处理器216可将参数更新应用于改变由图像预处理应用(例如应用于一或多个后续图像帧)的一或多个参数。作为说明性实例,如果色彩调谐器260确定对象在包含于roi122中时过暗,那么色彩调谐器260可产生参数更新262以使得图像预处理器216增大亮度参数,使得由道路区域检测器110及/或roi产生器120处理的后续图像相对于由图像传感器214捕捉的图像被调亮。因此,在此实例中,图像预处理器216可将亮度参数应用于在图像104之后接收到的第二图像。通过增大亮度参数,对第二图像中的对象的检测(及任选地识别)可得以改善。

因此,图2的计算装置202可经配置以响应于在图像104中检测到(或任选地识别)对象将反馈(例如参数更新262)提供到图像预处理器216。通过更新图像预处理器216的一或多个参数,对在图像104之后接收到的图像中的对象的检测(或任选地识别)可得以改善(例如,可更快地及/或以提高的精确性执行)。

参看图3到9,描绘从图像排除道路区域的至少一部分的图像处理的说明性实例。举例来说,参考图3到9描述的图像处理的实例中的每一个可由图1的图像处理系统100或图2的图像处理系统200执行。

参看图3,描绘从图像排除道路区域的至少一部分的图像处理的说明性第一实例。在300处描绘包含道路的表示的与道路区域(例如图1的道路区域112)相关联的图像。图像300可以包含或对应于图1的图像104。

图像300的第一表示指定为320。第一表示320包含第一区域324和第二区域322。如所展示,第二区域322是图像300的不包含第一区域324的子集。第一区域324可以包含在车辆相机的视场中的道路区域的全部或一部分。第二区域322可对应于roi,例如图1的roi122,其中可执行对象检测及任选地对象辨识。

第二表示340描绘待从图像300排除的第一区域324和待搜索的所得roi342(非影线阴影区域)。举例来说,roi342可由图1的对象检测器130搜索以检测一或多个对象(例如,一或多个候选对象)。尽管第二表示340指示从图像300排除整个道路以产生所关注区域342,但在其它实施方案中,可从图像300排除少于整个道路。举例来说,可以通过仅排除道路的一部分确定所关注区域342,例如在车辆的行驶方向上的道路的一部分。

参看图4,描绘从图像排除道路区域的至少一部分的图像处理的说明性第二实例。在400处描绘包含道路的表示的与道路区域(例如图1的道路区域112)相关联的图像。图像400可以包含或对应于图1的图像104。

指示待搜索以检测对象的图像400的子集的图像400的表示指定为410。表示410包含第一区域424、第二区域426和roi442。第一区域424可以包含在车辆相机的视场中的道路区域的全部或一部分。在图4的实例中,第二区域426是图像400的定位于第一区域424上方的一部分。举例来说,第二区域426的宽度(w)可以基于地平线412的与第一区域424接触的一部分确定。第一区域424和第二区域426可以从图像400排除以确定roi442。

在一些实施方案中,可以基于与图像400相关联的数据选择性地排除第二区域426,所述数据为例如映射数据(例如,位置数据)、环境数据(例如,地形数据)及/或车载数据(例如,速度、斜面/斜坡数据)。举例来说,当数据指示第一区域424(例如,道路区域)上方的高架标志的可能性较低时可以选择性地排除第二区域426。为了说明,如果数据指示乡村(例如,耕种)区域中的位置的图像400,那么可以作出高架标志的可能性较低且可从图像400排除第二区域426的确定。作为另一实例,第二区域426可对应于部分地阻挡车辆相机的视场的大型车辆(例如,卡车)。除了第一区域424之外,通过排除第二区域426,roi442的大小可以进一步减小。通过减小roi442的大小,对roi442执行的对象检测操作可比在roi442并不排除第二区域426时更快速地执行。

参看图5,描绘从图像排除道路区域的至少一部分的图像处理的说明性第三实例。在500处描绘包含道路的表示的与道路区域(例如图1的道路区域112)相关联的图像。图像500可以包含或对应于图1的图像104。

指示待搜索以检测对象的图像500的子集的图像500的表示指定为520。表示520包含第一区域524、第二区域526,和待搜索对象的roi542。第一区域524可以包含在车辆相机的视场中的道路区域的全部或一部分。第二区域526可以与图像500的最接近车辆的一部分相关联。图像500的最接近车辆的部分(例如图像500的下半部、底部三分之一或底部四分之一)可不大可能包含对象,例如交通标志或交通信号。举例来说,当车辆接近交通标志时,交通标志变得更大,并且基于交通标志超过地面的高度,交通标志定位于安装到车辆的相机的视场的上部部分(例如,上半部、顶部三分之二等)中。因此,可从图像500排除第二区域526以及第一区域524。通过从图像500排除第一区域524和第二区域526两者,相较于仅排除第一区域524,roi542的大小可减小。通过减小roi542的大小,对roi542执行的对象检测操作可比在roi542并不排除第二区域526时更快速地执行。

在其它实施方案中,除了(inadditionto/otherthan)图像最接近车辆的部分之外,可排除图像500的另一部分。举例来说,可排除图像500的顶部,例如十分之一或上半部,以确定所关注区域542。为了说明,基于用于产生图像500的相机的聚焦特性,当执行对象辨识操作时远方的对象可能难以分类。因此,可从所关注区域542排除图像500的顶部部分。在特定实施方案中,可通过排除道路的至少一部分、图像500的底部四分之一和图像500的顶部四分之一确定所关注区域542。

参看图6,描绘从图像排除道路区域的至少一部分的图像处理的说明性第四实例。在600处描绘包含道路的表示及高架标志(例如,出口标志)的与道路区域(例如图1的道路区域112)相关联的图像。图像600可以包含或对应于图1的图像104。

图像600的表示指定为620。表示620包含区域624和roi642。区域624可以包含在车辆相机的视场中的道路区域的全部或一部分。roi642可以包含或对应于图1的roi122。如图6中所说明,可从图像600排除区域624以确定roi642。从图像600排除区域624可得到包含高架标志(例如,出口标志)的roi642。因此,对roi642执行的交通标志检测操作可检测高架标志。

参看图7,描绘从图像排除道路区域的至少一部分的图像处理的说明性第五实例。在700处描绘包含道路的表示及高架标志(例如,出口标志)的与道路区域(例如图1的道路区域112)相关联的图像。举例来说,图像700可以包含或对应于图1的图像104。包含于图像700中的高架标志可至少部分地重叠包含于图像700中的道路区域。在一些实施方案中,图像700可描绘在下坡方向上行驶或正接近升高地形(例如坡道)的车辆的相机的视场。

图像700的表示指定为720。表示720包含区域724和roi742(例如,待搜索对象的图像700的子集)。区域724可以包含在车辆相机的视场中的道路区域的全部或一部分。在一些实施方案中,区域724可确定为道路区域的一部分或图像700最接近车辆的一部分,例如图像700的底部部分。为了说明,区域724可确定为道路区域最接近车辆的百分比(例如,50%)或确定为图像700最接近车辆的百分比(例如,20%)。在其它实施方案中,可基于数据,例如距离值,确定道路区域的部分。举例来说,参考图1,道路区域检测器110可接收指示从车辆到包含于图像700中的一或多个点或对象的距离的深度信息。基于深度信息,道路区域检测器110可确定道路区域的部分。为了说明,作为说明性、非限制性实例,区域724可与100英尺的距离相关联。通过将区域724确定为道路区域的一部分,可避免高架标志与道路区域之间的重叠状况。因此,roi742可以包含高架标志,且对roi742执行的对象检测可检测所述高架标志。

参看图8,描绘从图像排除道路区域的至少一部分的图像处理的说明性第六实例。在800处描绘包含道路的表示的与道路区域(例如图1的道路区域112)相关联的图像。图像800可以包含或对应于图1的图像104。道路区域可以包含与车辆的行驶方向相关联的街道802(例如,包含所述车辆的交通车道)与交叉街道804的相交区。图像800还可包含至少部分地与交叉街道804重叠的街道标志。

图像800的表示指定为820。表示820包含区域824和roi842。roi642可以包含或对应于图1的roi122。在一些实施方案中,区域824可仅包含道路区域(或交通车道)的在车辆的行驶方向上的部分。在其它实施方案中,基于映射数据或响应于在两个或更多个街道之间检测到大于阈值大小的相交区,区域824可以包含道路区域(或交通车道)的在行驶方向上的部分,而非整个道路区域。为了说明,区域824可不包含交叉街道804不与街道802重叠的部分。如表示820中所说明,可从roi842(例如,图像800的子集)排除区域824。通过将区域824确定为不同于交叉街道804不与街道802重叠的部分,图8中展示的速度限制标志可通过对象检测操作检测。

参看图9,描绘从图像排除道路区域的至少一部分的图像处理的说明性第七实例。在900处描绘包含道路的表示的与道路区域(例如图1的道路区域112)相关联的图像。图像900可以包含或对应于图1的图像104。道路区域可以包含显示在道路区域上的信息,例如警告消息、速度限制、交通流箭头、道路标识符等。在图9的实例中,图像900包含印刷在道路区域上的警告消息“减速(slow)”。

图像900的第一表示指定为920。第一表示920包含第一区域924和第一roi942(例如,图像300的不包含第一区域924的第一子集)。第一区域924可以包含在车辆相机的视野中的道路区域的全部或一部分。如图9中所说明,可从图像900排除区域924以确定第一roi942。

第二表示950描绘第二区域974和第二roi992。第二区域974和第二roi992可分别对应于第一表示920的第一roi942和第一区域924。举例来说,第二roi992可对应于图像900的道路区域。第二roi992可排除第二区域974。可对第二roi992执行文本及/或符号检测操作以检测包含于第二roi992中的文本(例如,警告消息“减速”)及/或符号。在一些实施方案中,在执行文本检测操作之前可从第二roi992去除(例如,排除)一或多个车道标记。去除一或多个车道标记可改善文本/符号检测操作的质量。

在一些实施方案中,所关注区域992和第一区域924可相同或可不同。举例来说,所关注区域992和第一区域924可具有相同大小和相同形状。替代地,所关注区域992和第一区域可具有不同大小、不同形状或两者。为了说明,所关注区域992可以包含车道,所述车道包含车辆或在与车辆相同的行驶方向上具有车流。所关注区域992可排除图像900的与在车辆的行驶方向的相反方向上的车流相关联的道路区域的部分。另外或替代地,所关注区域992可排除与车辆正行驶的车道不同的一或多个车道。在一些实施方案中,所关注区域922可排除图像900的道路区域的部分,所述道路区域的部分不包含车辆正行驶的车道或紧邻车辆正行驶的车道(在与车辆相同的行驶方向上具有车流)的一或多个车道。通过排除道路区域的部分以确定所关注区域992,对所关注区域992执行的文本检测(及任选地文本辨识)可比在对图像900的整个道路区域或整个第一区域924执行文本检测(及任选地文本辨识)时更快地执行。

因此,图9说明图像900的道路区域的至少一部分可被检测到(例如,确定)且用于确定不包含道路区域的部分(例如,第一区域924)的第一roi942。另外,图像900的道路区域的部分自身可确定为第二roi992。可对第一roi942执行对象检测操作(例如,交通标志检测操作),且可对第二roi992执行文本/符号检测操作。

参看图10,展示处理图像的方法1000的说明性方面。图像可以包含图1的图像104、图3的图像300、图4的图像400、图5的图像500、图6的图像600、图7的图像700、图8的图像800,或图9的图像900。在说明性、非限制性实例中,方法1000可通过图1的图像处理系统100或图2的图像处理系统200执行。

方法1000包含在1002处,在处理器处接收与场景的图像相关联的图像数据。图像数据可以包含或对应于图1的图像数据104。

方法1000包含在框1004处基于图像数据检测道路区域。举例来说,道路区域可以包含或对应于图1的道路区域112。为了说明,图像可以包含道路的表示,且道路区域可以包含道路的表示的部分或整体。参考图1,道路区域可通过道路区域检测器110检测到。图像可与多个像素相关联,且道路区域可与所述多个像素的子集相关联。多个像素值、所述多个像素值的子集,或两者可存储在数据存储装置(例如耦合到图1的图像处理系统100或图2的图像处理系统200或包含于其中的存储器)处。

方法1000进一步包含在框1006处确定图像数据的子集。子集不包含图像数据的对应于道路区域的至少部分。确定图像的子集可至少部分地与检测道路区域并行地执行或在检测道路区域之后执行。举例来说,图像的子集可以包含或对应于图1的roi122、图3的roi342、图4的roi442、图5的roi542、图6的roi642、图7的roi742、图8的roi842,或图9的roi942。为了说明,参考图1,图像的子集,即roi122,可通过roi产生器120确定。在一些实施方案中,图像的子集还可以不包含图像的除道路区域外的额外部分。

方法1000进一步包含在框1008处对图像数据的子集执行对象检测操作以检测对象,对图像数据的子集执行的对象检测操作不包含图像数据的对应于道路区域的至少一部分。换句话说,用以检测对象的对象检测操作可对图像数据的子集执行且可不对图像数据的对应于道路区域的至少一部分执行。举例来说,对象可以包含或对应于图1的候选对象132或指示符140。参看图1,作为说明性、非限制性实例,图像的子集,即roi122,可由对象检测器130搜索以检测交通标志。任选地,可通过图1的对象辨识器134对检测到的对象执行对象辨识操作。

在一些实施方案中,响应于在图像的子集内检测到对象,可产生和输出与所述对象相关联的指示符。举例来说,对象检测器130可经配置以输出与检测到的对象相关联的指示符。另外或替代地,对象辨识器134可以任选地经配置以输出指示符140。由对象检测器130输出的指示或由对象辨识器134输出的指示符140可以包含与对象相关联的信息(例如,对象类型)、对象在图像104内的位置,或两者。在一些实施方案中,响应于指示,方法1000可以包含发起额外动作,例如待由adas或自主车辆执行的动作。另外或替代地,响应于指示,指示的视觉呈现可经发起以经由显示器、hud、可穿戴装置(例如,头戴式显示器)呈现,指示的音频呈现可经发起以经由扬声器或可穿戴装置(例如,头戴扬声器)呈现,或两者。

作为说明性、非限制性实例,指示符可与例如速度信息、地点信息、障碍信息等其它信息组合使用,所述其它信息与车辆或装置相关联。为了说明,如果速度限制45的标志经辨识,那么输出指示符或发起动作可取决于车辆操作的特性,例如速度特性。举例来说,如果速度数据指示自主车辆在小于45英里/小时(mph)的速度限制下行驶,且额外障碍检测信息指示畅通无阻的行驶条件,那么动作可将车辆的速度增加到速度限制。替代地,如果速度数据指示自主车辆超过45英里/小时(mph)的速度限制而行驶,那么动作可将车辆的速度降低到45mph或更低。在车辆包含显示器或hud的实施方案中,可视化显示可基于指示、其它车辆信息(例如,车辆数据)或两者经由显示器或hud呈现。举例来说,如果指示符对应于45mph的速度限制标志,速度信息指示车辆在55mph下行驶,那么指示45mph的速度限制的消息、将车辆速度降低到45mph的消息或两者可经由显示器或hud呈现。替代地,如果车辆在45mph或更低下行驶,那么可呈现指示45mph的速度限制的消息或可能不呈现消息。

在一些实施方案中,方法1000可以包含在检测到道路区域之后,确定道路区域的大小且比较所述道路区域的大小与阈值大小。响应于道路区域的大小大于或等于阈值大小,方法1000可以包含选择道路区域最接近车辆的一部分以供排除。在一些实施方案中,阈值大小可以是固定阈值,并且在其它实施方案中,阈值大小可以是动态阈值。举例来说,阈值大小可基于道路区域被覆盖的多少、车辆速度、其它准则或其组合而选择。

在一些实施方案中,道路区域的待排除的部分可基于图像或距离数据(例如,超声波数据)而确定。为了说明,可确定道路区域的最远距离。最远距离可与阈值距离相比。如果最远距离小于或等于距离阈值,那么可从图像排除整个道路区域以确定图像的子集(例如,roi122)。替代地,如果最远距离大于(例如,超过)阈值距离,那么可确定道路区域的延伸到小于或等于阈值距离的一距离的底部部分。道路区域的底部部分(如图像中所描绘)可选为道路区域的待排除的部分。

在一些实施方案中,图像的另一部分(除了道路区域的至少所述部分之外)可经排除以确定子集。举例来说,可如至少参考图1、2、4、5、7和8所描述的排除图像的另一部分。举例来说,如至少参考图1、2、4、5、7和8所描述,图1的roi产生器120可经配置以单独地或以组合方式应用技术中的一或多种。为了说明,roi产生器120可排除图像最接近车辆的一部分及在道路区域上方的图像的区域。如本文中所描述,可基于车辆信息、地点信息、地图绘制信息等确定待排除的图像的另一部分(例如,待应用的一或多种技术)。在一些实施方案中,roi产生器120可通过多种技术循环以排除图像的其它部分。举例来说,roi产生器120在处理第一图像或图像的第一群组期间可应用第一技术(例如,去除图像最接近车辆的一部分),且在处理第二图像或图像的第二群组期间可应用第二技术(例如,去除在道路区域上方的图像的一部分)。

在一些实施方案中,方法1000可以包含选择图像数据的对应于道路区域的至少一部分且从图像去除道路区域的至少所述部分以确定图像的子集。在特定实施方案中,可从图像去除(例如,排除)整个道路区域以确定图像的子集。从图像去除的图像数据对应于道路区域的至少所述部分可对应于道路区域最接近车辆的一部分,如上文参考图7所描述。作为说明性、非限制性实例,经确定最接近车辆的道路区域的部分可对应于特定值,例如距车辆的距离、图像的像素行的数目、图像的小部分(例如,部分区域)、图像的百分比等。另外或替代地,从图像排除图像数据对应于道路区域的至少所述部分可以包含重写一组像素值,所述一组像素值对应于道路区域的至少所述部分且存储于耦合到图1的图像处理系统100或图2的图像处理系统200或包含于图1的图像处理系统100或图2的图像处理系统200中的存储器中。

在一些实施方案中,确定图像的子集可以包含从图像排除道路区域的部分以产生图像的第一子集。在产生图像的第一子集之后,可确定图像的第一子集的第二部分。第一子集的第二部分可能不同于图像的底部部分(例如,不与其重叠)。(第一子集的)第二部分可选为经搜索以检测对象的图像的子集。

在一些实施方案中,方法1000可以包含对图像数据执行第二对象检测操作以检测道路区域。第二对象检测操作可与在第一搜索分辨率下的第一搜索窗相关联。对图像数据的子集执行的对象检测操作可能与在第二分辨率下的第二搜索窗相关联以检测对象。第一分辨率可以是比第二分辨率更低的分辨率。在一些实施方案中,可对图像数据对应于道路区域的至少第二部分执行文本及/或符号检测。文本检测操作可能与在第三分辨率下的第三搜索窗相关联。第三分辨率可以是比第二分辨率更低的分辨率。可对整个道路区域或其一部分执行文本检测。在执行文本检测的实施方案中,可对整个道路区域或道路区域的一部分执行文本检测操作。道路区域的所述部分可与从图像排除以确定图像的子集的道路区域的一部分相同或不同。

在一些实施方案中,搜索图像的子集可以包含检测包含于图像的子集中的候选对象。可对检测到的候选对象执行对象辨识以将候选对象辨识为对象。在检测到或辨识对象之后,可基于对象的图像确定图像质量特性。图像质量特性可与阈值图像质量特性(例如对象的已知质量值)相比较。如果对象的图像质量特性小于或等于阈值图像质量特性,那么可确定与图像质量特性相关的参数更新。参数更新可应用于在接收到图像之后接收的第二图像。参数更新可与色彩调谐参数、白平衡参数、亮度参数或其组合相关联。

因此,方法1000使得能够确定且从其它图像处理操作排除图像的子集。举例来说,通过从搜索对象(例如,交通标志)的图像排除道路区域的至少一部分,对象搜索可比在搜索整个图像时更快速地执行。另外,通过搜索少于整个图像,图像处理系统可更快速地执行对象检测及任选地对象辨识。

图10的方法1000中展示的过程可由处理单元控制,所述处理单元为例如中央处理单元(cpu)、控制器、现场可编程门阵列(fpga)装置、专用集成电路(asic)、另一硬件装置、固件装置,或其任何组合。作为实例,图10的方法1000可由一或多个处理器执行,所述一或多个处理器执行指令以处理图像从而确定(例如,选择)图像的子集,所述子集不包含图像的道路区域的至少一部分。

参看图11,描绘电子装置的特定说明性方面且一般将其指定为1100。装置1100包含耦合到存储器1132的处理器1110,例如数字信号处理器(dsp)、中央处理单元(cpu)等。装置1100或其组件可以包含或对应于图1的图像处理系统100(例如,计算装置102)、图2的图像处理系统200(例如,计算装置202),或其组件。

存储器1132,例如非暂时性计算机可读媒体,可以包含图像数据188、指示符1190和指令1168。图像数据1188可以包含或对应于一或多个图像,例如图1的图像104。指示符1190可基于图像数据1188与例如交通标志的对象相关联。在一些实施方案中,指示符1190可以包含或对应于图1的指示符140或由图1的对象检测器130产生的指示符(与检测到的对象相关联)。指令可由处理器1110执行。

处理器1110可以包含道路区域检测器1110和对象检测器130。在一些实施方案中,处理器1110可以任选地包含对象辨识器134。另外或替代地,处理器1110可以包含图1的roi产生器120、图2的图像预处理器216、色彩调谐器260、控制器250,或其组合。处理器1110可经配置以执行存储于存储器1132中的软件(例如,一或多个指令1168的程序)。举例来说,处理器1110可经配置以根据图10的方法1000操作。为了说明,处理器1110可经配置以执行使得处理器1110执行操作的指令1168,所述操作包含响应于接收到场景的图像,在图像内检测道路区域。操作进一步包含确定(例如,选择)图像的子集。子集可不包含道路区域的至少一部分。操作进一步包含搜索图像的不包含道路区域的至少一部分的子集以检测对象。

图11还展示了显示控制器1126,其耦合到处理器1110并且耦合到显示器1128。在一些实施方案中,显示器1128可以包含平视显示器(hud)。编码器/解码器(编解码器)1134也可以耦合到处理器1110。扬声器1136和麦克风1138可以耦合到编解码器1134。处理器1110还可以耦合到相机控制器1160,所述相机控制器耦合到相机1162(例如,图像捕捉装置)。举例来说,相机1162可以包含或可对应于图2的图像传感器214。在一些实施方案中,装置1100包含单个图像捕捉装置。在其它实施方案中,装置1100可以包含多个图像捕捉装置。

图11还指示无线接口1140可以耦合到处理器1110且耦合到天线1142。举例来说,无线接口1140可经由收发器1141耦合到天线1142。收发器1141可包含发射器、接收器或两者。收发器1141可经配置以发射由装置1100产生的一或多个消息且接收通过其它装置(例如其它车辆、路边单元、移动装置、接入点、地点信息等)发射到装置1100的一或多个消息。举例来说,传输器可经配置以发射包含指示符1190的消息(例如,通知)。作为说明性、非限制性实例,消息(例如,通知)可由处理器1110产生。在一些实施方案中,电子装置1100可以包含经配置以确定电子装置的地点信息的定位系统,例如全球定位系统(gps)。作为说明性、非限制性实例,地点信息可与地图绘制数据(例如可能存储在存储器1132处的地图绘制数据)组合使用以确定电子装置1100是否正接近斜面或斜坡、正接近相交区、处于城市区域、处于乡村区域、紧邻水体等。地点信息可能存储于存储器1132中,包含于包含指示符1190的消息(例如,通知)中,或两者。

在一些实施方案中,处理器1110、显示控制器1126、相机控制器1170、存储器1132、编解码器1134、无线接口1140和收发器1141包含于系统级封装或芯片上系统装置1122中。在特定实施方案中,输入装置1130和电源1144耦合到芯片上系统装置1122。此外,在另一特定实施方案中,如图11中所说明,显示器1128、相机1162、输入装置1130、扬声器1136、麦克风1138、天线1142和电源1144在芯片上系统装置1122外部。然而,显示器1128、相机1162、输入装置1130、扬声器1136、麦克风1138、天线1142和电源1144中的每一者可耦合到芯片上系统装置1122的组件,例如接口或控制器。

结合图1到11的所描述方面中的一或多者,设备包含用于捕捉场景的图像的装置。举例来说,用于捕捉的装置可以包含或对应于计算装置102、图2的图像传感器214、图11的相机1162、输入装置1130、用以捕捉图像的一或多个其它结构、装置、电路、模块或指令,或其任何组合。

设备还包含用于选择图像的子集的装置。子集可不包含在图像中检测到的道路区域的至少一部分。举例来说,用于选择的装置可以包含或对应于图1的计算装置102、roi产生器120、图2的计算装置202、经编程以执行图11的指令1168的处理器1110、用以识别图像的子集一或多个其它结构、装置、电路、模块或指令,或其任何组合。

设备还包含用于对图像的不包含道路区域的至少一部分的子集执行对象检测操作以检测对象的装置。举例来说,用于执行的装置可以包含或对应于图1的计算装置102、对象检测器130、对象辨识器134、图2的计算装置202、经编程以执行图11的指令1168的处理器1110、用以执行对象检测操作的一或多个其它结构、装置、电路、模块或指令,或其任何组合。作为说明性、非限制性实例,用于捕捉的装置、用于选择的装置和用于执行的装置可包含于车辆中,例如轿车。

另外或替代地,设备还可包含用于提供与对象相关联的指示的装置。举例来说,用于提供的装置可以包含或对应于图1的捕捉装置102、对象检测器130、对象辨识器134、图2的计算装置202、控制器256、无线接口1140、收发器1141、天线1142、扬声器1136、麦克风1138、hud、显示器1128、经编程以执行图11的指令1168的处理器1110、用以提供指示的一或多个其它结构、装置、电路、模块或指令,或其任何组合。

尽管图1至11中的一或多者可以说明根据本发明的教示的系统、设备及/或方法,但本发明不限于这些所说明的系统、设备及/或方法。如本文中所说明或所描述的图1到11中的任一者的一或多个功能或组件可与图1到11的另一功能或组件的一或多个其它部分组合。因此,本文中所描述的单个实例不应被解释为限制性的,且在不脱离本发明的教示的情况下,本发明的实例可适当组合。

所属领域的技术人员将进一步理解,结合本文中所公开的方面描述的各种说明性逻辑块、配置、模块、电路和算法步骤可实施为电子硬件、由处理器执行的计算机软件,或两者的组合。上文已大体在其功能性方面描述各种说明性组件、块、配置、模块、电路和步骤。这种功能性是实施为硬件还是处理器可执行指令取决于特定应用和强加于整个系统的设计约束。所属领域的技术人员可以针对每一特定应用以不同方式实施所描述的功能性,但此类实施决策不应被解释为导致对本公开的范围的偏离。

结合本文中所公开的实例描述的方法或算法的步骤可直接以硬件、以由处理器执行的软件模块或以所述两者的组合来体现。软件模块可驻留在随机存取存储器(ram)、快闪存储器、只读存储器(rom)、可编程只读存储器(prom)、可擦除可编程只读存储器(eprom)、电可擦除可编程只读存储器(eeprom)、寄存器、硬盘、可移动磁盘、压缩光盘只读存储器(cd-rom)或所属领域中已知的任何其它形式的非暂时性存储媒体中。示范性存储媒体耦合到处理器,使得处理器可从存储媒体读取信息并且将信息写入到存储媒体。在替代方案中,存储媒体可与处理器成整体。处理器及存储媒体可以驻留在专用集成电路(asic)中。asic可以驻留在计算装置或用户终端中。在替代方案中,处理器和存储媒体可以作为离散组件驻留于计算装置或用户终端中。

提供对所公开方面的先前描述,以使得所属领域的技术人员能够制造或使用所公开方面。对这些方面的各种修改对于所属领域的技术人员将易于显而易见,且在不脱离本发明的范围的情况下,本文中所定义的原理可应用于其它方面。因此,本公开并不意图限于本文中所展示的方面,而应被赋予与如通过所附权利要求书界定的原理及新颖特征一致的可能的最广范围。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1