一种物料位姿识别方法、装置、电子设备及上料系统与流程

文档序号:31598486发布日期:2022-09-21 07:51阅读:56来源:国知局
一种物料位姿识别方法、装置、电子设备及上料系统与流程

1.本技术涉及物料运送技术领域,具体而言,涉及一种物料位姿识别方法、装置、电子设备及上料系统。


背景技术:

2.目前,在小家电生产行业中,主要采取人工装配工业进行产品装配,人力成本日益剧增,因此,急需能够实现产品自动装配的自动化装配产线来替代人工进行装配作业。在自动化装配产线中,零件通常是无序地堆放在传送带上,通过图像识别方法识别传送带上的零件的位姿后,控制机械臂根据位姿识别结果夹取零件并转移到装配工位,从而实现零件的自动上料。
3.然而,现有的这种自动化装配产线在进行位姿识别时,一般使用基于模板匹配的二维视觉识别方法,这种识别方法需要对实物图像与模板图像进行逐点比对,需要耗费较多的处理时间,尤其是当图像分辨率高的时候,图像的像素点数量巨大,处理效率更低。


技术实现要素:

4.本技术的目的在于提供一种物料位姿识别方法、装置、电子设备及上料系统,对零件位姿识别效率高,从而有利于提高上料效率。
5.第一方面,本技术提供了一种物料位姿识别方法,用于识别零件的位姿,包括步骤:a1.获取包含零件的原始图像;a2.在所述原始图像中生成所述零件的最小外接矩形;a3.根据所述最小外接矩形获取所述零件的位置数据和主方向夹角;a4.提取所述最小外接矩形内的第一图像,以计算所述第一图像与第一模板图像的第一相似度,并计算所述第一图像与第二模板图像的第二相似度;a5.根据所述主方向夹角、所述第一相似度和所述第二相似度确定所述零件的旋转角度;a6.把所述位置数据和所述旋转角度映射到世界坐标系中,得到所述零件的位姿。
6.该物料位姿识别方法,与现有的基于模板匹配的二维视觉识别方法相比,无需对实物图像与模板图像进行逐点比对,数据处理量更少,位姿识别效率更高,应用于物料的上料系统时,有利于提高上料效率。
7.优选地,步骤a3包括:获取所述最小外接矩形的中心点的位置数据,作为所述零件的位置数据;计算所述最小外接矩形的主方向线与图像参考轴之间的夹角,作为所述主方向夹角。
8.优选地,步骤a4包括:分别计算所述第一图像、所述第一模板图像和所述第二模板图像的全局平均亮
度;分别计算所述第一图像、所述第一模板图像和所述第二模板图像的第一局部平均亮度;所述第一局部平均亮度为对应图像的第一局部区域的平均亮度,所述第一局部区域为所述对应图像的边界以所述对应图像的中心点为基点按第一预设比例缩小后得到的第一框线所包围的区域;分别计算所述第一图像、所述第一模板图像和所述第二模板图像的第二局部平均亮度;所述第二局部平均亮度为对应图像的第二局部区域的平均亮度,所述第二局部区域为所述对应图像的边界以所述对应图像的中心点为基点按第二预设比例缩小后得到的第二框线所包围的区域;根据所述全局平均亮度、所述第一局部平均亮度和所述第二局部平均亮度计算所述第一相似度和所述第二相似度。
9.优选地,所述第一预设比例为1/2,所述第二预设比例为1/4。
10.优选地,所述根据所述全局平均亮度、所述第一局部平均亮度和所述第二局部平均亮度计算所述第一相似度和所述第二相似度的步骤包括:根据以下公式计算所述第一相似度和所述第二相似度:;;其中,为所述第一图像与所述第一模板图像的所述第一相似度;为所述第一图像与所述第二模板图像的所述第二相似度; 、、分别为所述第一图像的所述全局平均亮度、所述第一局部平均亮度和所述第二局部平均亮度,、、分别为所述第一模板图像的所述全局平均亮度、所述第一局部平均亮度和所述第二局部平均亮度,、、分别为所述第二模板图像的所述全局平均亮度、所述第一局部平均亮度和所述第二局部平均亮度。
11.通过该方式计算第一相似度和第二相似度,计算过程简单,计算量小,有利于进一步提高位姿识别效率。
12.优选地,所述第二模板图像为所述第一模板图像在图像平面中旋转180
°
得到的图像;步骤a5包括:若所述第一相似度小于所述第二相似度,则根据以下公式计算所述旋转角度:;若所述第一相似度不小于所述第二相似度,则根据以下公式计算所述旋转角度:;其中,为所述零件的所述旋转角度,为所述主方向夹角。
13.在前面的步骤得到的主方向夹角,仅反映了零件的主方向所在直线与图像参考轴之间的夹角,该主方向与图像参考轴之间的实际夹角(即旋转角度)可能等于该主方向夹
角,也可能为该主方向夹角增加180
°
后的值,此处,用相差180
°
的两个模板图像分别与第一图像进行相似度对比,比较两个相似度的大小即可确定第一图像更接近于哪个模板图像,进而可确定主方向夹角与旋转角度之间的关系,因此,可快速得到旋转角度。
14.第二方面,本技术提供了一种物料位姿识别装置,用于识别零件的位姿,包括:第一获取模块,用于获取包含零件的原始图像;第一生成模块,用于在所述原始图像中生成所述零件的最小外接矩形;第二获取模块,用于根据所述最小外接矩形获取所述零件的位置数据和主方向夹角;第一计算模块,用于提取所述最小外接矩形内的第一图像,以计算所述第一图像与第一模板图像的第一相似度,并计算所述第一图像与第二模板图像的第二相似度;第二计算模块,用于根据所述主方向夹角、所述第一相似度和所述第二相似度确定所述零件的旋转角度;第三计算模块,把所述位置数据和所述旋转角度映射到世界坐标系中,得到所述零件的位姿。
15.该物料位姿识别装置,其对零件位姿的识别过程与现有的基于模板匹配的二维视觉识别方法相比,无需对实物图像与模板图像进行逐点比对,数据处理量更少,位姿识别效率更高,应用于物料的上料系统时,有利于提高上料效率。
16.第三方面,本技术提供了一种电子设备,包括处理器和存储器,所述存储器存储有所述处理器可执行的计算机程序,所述处理器执行所述计算机程序时,运行如前文所述物料位姿识别方法中的步骤。
17.第四方面,本技术提供了一种上料系统,包括传送带、工业相机、机械臂和控制系统,所述传送带、所述工业相机和所述机械臂均与所述控制系统电性连接;所述传送带用于传送待装配的零件;所述工业相机用于对所述传送带的一段局部区域进行持续的图像采集作业;所述控制系统用于:根据所述工业相机采集到的帧图像判断是否有零件进入预设区域;在有零件进入所述预设区域时,控制所述传送带停止移动;获取所述工业相机在所述传送带停止移动后采集的包含所述零件的原始图像;在所述原始图像中生成所述零件的最小外接矩形;根据所述最小外接矩形获取所述零件的位置数据和主方向夹角;提取所述最小外接矩形内的第一图像,以计算所述第一图像与第一模板图像的第一相似度,并计算所述第一图像与第二模板图像的第二相似度;根据所述主方向夹角、所述第一相似度和所述第二相似度确定所述零件的旋转角度;把所述位置数据和所述旋转角度映射到世界坐标系中,得到所述零件的位姿;根据所述零件的位姿控制所述机械臂夹取所述零件并转移至装配工位。
18.该上料系统,在进行零件位姿识别时,无需对实物图像与模板图像进行逐点比对,数据处理量更少,与现有的基于模板匹配的二维视觉识别方法相比,位姿识别效率更高,有利于提高上料效率。
19.优选地,所述的上料系统,还包括落料装置,所述落料装置用于存储待装配的零件,并把所述零件逐个地送入所述传送带。
20.有益效果:本技术提供的物料位姿识别方法、装置、电子设备及上料系统,通过获取包含零件的原始图像;在所述原始图像中生成所述零件的最小外接矩形;根据所述最小外接矩形获取所述零件的位置数据和主方向夹角;提取所述最小外接矩形内的第一图像,以计算所述第一图像与第一模板图像的第一相似度,并计算所述第一图像与第二模板图像的第二相似度;根据所述主方向夹角、所述第一相似度和所述第二相似度确定所述零件的旋转角度;把所述位置数据和所述旋转角度映射到世界坐标系中,得到所述零件的位姿;从而,对零件位姿识别效率高,从而有利于提高上料效率。
21.本技术的其他特征和优点将在随后的说明书阐述,并且,部分地从说明书中变得显而易见,或者通过实施本技术了解。
附图说明
22.图1为本技术实施例提供的物料位姿识别方法的流程图。
23.图2为本技术实施例提供的物料位姿识别装置的结构示意图。
24.图3为本技术实施例提供的电子设备的结构示意图。
25.图4为本技术实施例提供的上料系统的结构示意图。
26.图5为示例性的第一局部区域和第二局部区域的示意图。
27.标号说明:1、第一获取模块;2、第一生成模块;3、第二获取模块;4、第一计算模块;5、第二计算模块;6、第三计算模块;90、第一矩形框;91、第二矩形框;92、第三矩形框;301、处理器;302、存储器;303、通信总线;400、传送带;500、工业相机;600、机械臂;700、落料装置;701、料斗;702、抖动盘。
具体实施方式
28.下面将结合本技术实施例中附图,对本技术实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本技术一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本技术实施例的组件可以以各种不同的配置来布置和设计。因此,以下对在附图中提供的本技术的实施例的详细描述并非旨在限制要求保护的本技术的范围,而是仅仅表示本技术的选定实施例。基于本技术的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本技术保护的范围。
29.应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。同时,在本技术的描述中,术语“第一”、“第二”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
30.请参照图1,图1是本技术一些实施例中的一种物料位姿识别方法,用于识别零件的位姿,包括步骤:a1.获取包含零件的原始图像;a2.在原始图像中生成零件的最小外接矩形;a3.根据最小外接矩形获取零件的位置数据和主方向夹角;
a4.提取最小外接矩形内的第一图像(即最小外接矩形内的图像,为了便于后续进行说明,把最小外接矩形内的图像称为第一图像),以计算第一图像与第一模板图像的第一相似度,并计算第一图像与第二模板图像的第二相似度;a5.根据主方向夹角、第一相似度和第二相似度确定零件的旋转角度;a6.把位置数据和旋转角度映射到世界坐标系中,得到零件的位姿。
31.该物料位姿识别方法,与现有的基于模板匹配的二维视觉识别方法相比,无需对实物图像与模板图像进行逐点比对,数据处理量更少,位姿识别效率更高,应用于物料的上料系统时,有利于提高上料效率。
32.其中,该物料位姿识别方法可应用于图4所示的上料系统的控制系统中。
33.在一些实施方式中,步骤a2包括:对比原始图像各像素点的亮度与预设的亮度阈值,以确定零件的像素点;获取零件的像素点的凸包(获取凸包的具体方法为现有技术,此处不对其进行详述);分别以该凸包的各段包围线为目标线段,获取该凸包的外接矩形,使该外接矩形为一边与该目标线段共线的最小矩形,从而得到各目标线段对应的外接矩形;选取这些外接矩形中面积最小的一个作为零件的最小外接矩形。
34.其中,原始图像中的背景亮度比工件的亮度低,例如,当该物料位姿识别方法应用于图4所示的上料系统的控制系统中的时候,可把上料系统的传送带的颜色亮度设置为比零件颜色亮度低,从而原始图像中的背景亮度即为传送带的亮度;从而,当原始图像的像素点的亮度小于预设的亮度阈值(可根据实际需要设置)时,把该像素点判定为背景的像素点,否则,把该像素点判定为零件的像素点。
35.假设凸包的一段目标线段所在的直线为直线l1,可生成与该直线l1垂直的两条直线l2、l3,使直线l2和直线l3沿直线l1平移,使得直线l2和直线l3均与凸包有至少一个相交点且直线l2和直线l3之间的距离最大,然后生成与直线l2垂直的直线l4(直线l4与直线l3也垂直),使直线l4沿直线l2平移,使得直线l4与凸包有至少一个相交点且直线l4与直线l1之间的距离最大,直线l1、直线l2、直线l3和直线l4之间围成的矩形即为与该目标线段对应的外接矩形。
36.在实际应用中,不限于采用上述方式生成零件的最小外接矩形,也可采用任意的现有的最小外接矩形生成方法生成零件的最小外接矩形。
37.在本实施例中,步骤a3包括:获取最小外接矩形的中心点的位置数据,作为零件的位置数据;计算最小外接矩形的主方向线与图像参考轴之间的夹角,作为主方向夹角。
38.其中,可以用最小外接矩形的一长边、一短边、两短边的中点连线或两长边的中点连线作为该最小外接矩形的主方向线。
39.其中,图像参考轴可以为图像横轴、纵轴或其他方向轴。
40.例如,在一些实施方式中,最小外接矩形的主方向线为该最小外接矩形的一长边,图像参考轴为图像横轴,但不限于此。
41.矩形的中心点的位置数据和两直线之间的夹角的计算方法为现有技术,此处不对其进行详述。
42.优选地,步骤a4包括:分别计算第一图像、第一模板图像和第二模板图像的全局平均亮度;分别计算第一图像、第一模板图像和第二模板图像的第一局部平均亮度;第一局部平均亮度为对应图像(第一图像、第一模板图像或第二模板图像)的第一局部区域的平均亮度,第一局部区域为对应图像的边界以对应图像的中心点为基点按第一预设比例缩小后得到的第一框线所包围的区域;分别计算第一图像、第一模板图像和第二模板图像的第二局部平均亮度;第二局部平均亮度为对应图像的第二局部区域的平均亮度,第二局部区域为对应图像的边界以对应图像的中心点为基点按第二预设比例缩小后得到的第二框线所包围的区域;根据全局平均亮度、第一局部平均亮度和第二局部平均亮度计算第一相似度和第二相似度。
43.参考图5,图中的第一矩形框90为一图像(第一图像、第一模板图像或第二模板图像)的边界;图中的第二矩形框91为该图像的第一局部区域的边界(即第一框线),该第二矩形框91所包围的区域即为第一局部区域;图中的第三矩形框92为该图像的第二局部区域的边界(即第二框线),该第三矩形框92所包围的区域即为第二局部区域;图中的点o即为该图像的中心点。
44.一般地,图像的全局平均亮度可等于该图像各像素点的亮度值之和除以该图像的像素点总数;图像的第一局部平均亮度可等于该图像的第一局部区域各像素点的亮度值之和除以该第一局部区域的像素点总数;图像的第二局部平均亮度可等于该图像的第二局部区域各像素点的亮度值之和除以该第二局部区域的像素点总数。但在采集原始图像时,可能由于环境亮度的变化,导致零件部分和背景部分的亮度出现变化,进而影响第一相似度和第二相似度的可靠性;因此,优选地,可根据以下公式计算图像的全局平均亮度、第一局部平均亮度和第二局部平均亮度:;;;其中,、、分别为该图像的全局平均亮度、第一局部平均亮度和第二局部平均亮度,、分别为该图像的第个像素点的修正前和修正后的亮度值,为该图像的像素点总数,、分别为第一局部区域的第个像素点的修正前和修正后的亮度值,为该第一局部区域的像素点总数,、分别为第二局部区域的第个像素点的修正前和修正后的亮度值,为该第二局部区域的像素点总数,为预设的亮度阈值。通过该方式,把零件部分的像素点的亮度值统一调整为1,并把背景部分的像素点同一
调整为0,根据调整后的亮度值计算相似度,可避免环境光照条件的变化而影响相似度计算结果的可靠性。
45.其中,第一预设比例和第二预设比例均为大于0小于1的值,且第一预设比例和第二预设比例不相等,具体可根据实际需要设置。例如,在图5中,第一预设比例为1/2,第二预设比例为1/4,从而,第二矩形框91的各边边长为第一矩形框90的相应边边长的1/2,第三矩形框92的各边边长为第一矩形框90的相应边边长的1/4。
46.在一些优选实施方式中,根据全局平均亮度、第一局部平均亮度和第二局部平均亮度计算第一相似度和第二相似度的步骤包括:根据以下公式计算第一相似度和第二相似度:;;其中,为第一图像与第一模板图像的第一相似度;为第一图像与第二模板图像的第二相似度;、、分别为第一图像的全局平均亮度、第一局部平均亮度和第二局部平均亮度,、、分别为第一模板图像的全局平均亮度、第一局部平均亮度和第二局部平均亮度,、、分别为第二模板图像的全局平均亮度、第一局部平均亮度和第二局部平均亮度。
47.通过该方式计算第一相似度和第二相似度,计算过程简单,计算量小,有利于进一步提高位姿识别效率。实际上,第一相似度和第二相似度也可以是ssim值(结构相似性)、psnr值(峰值信噪比)等现有的用于评价图像相似性的相似度(其计算方法为现有技术)。通过前文的方法计算的第一相似度和第二相似度,与现有的相似度计算方法相比,计算量更小。
48.其中,第一模板图像是采用与实时拍摄的原始图像相同的拍摄条件,对标准零件进行拍摄得到标准图像后,在该标准图像中生成零件的最小外接矩形(具体过程参考前文),并提取该最小外接矩形内部的图像而得到。
49.在本实施例中,第二模板图像为第一模板图像在图像平面中旋转180
°
得到的图像;步骤a5包括:若第一相似度小于第二相似度,则根据以下公式计算旋转角度:;若第一相似度不小于第二相似度,则根据以下公式计算旋转角度:;其中,为零件的旋转角度,为主方向夹角。
50.在前面的步骤得到的主方向夹角,仅反映了零件的主方向所在直线与图像参考轴之间的夹角,该主方向与图像参考轴之间的实际夹角(即旋转角度)可能等于该主方向夹角,也可能为该主方向夹角增加180
°
后的值,此处,用相差180
°
的两个模板图像分别与第一
图像进行相似度对比,比较两个相似度的大小即可确定第一图像更接近于哪个模板图像,进而可确定主方向夹角与旋转角度之间的关系,因此,可快速得到旋转角度。
51.经过上述过程,得到了零件的位置数据和旋转角度,该位置数据是在图像坐标系下的坐标数据,该旋转角度是零件的主方向与图像坐标系的参考轴(例如横轴)的夹角,为便于对零件进行抓取,需要把该位置数据和旋转角度映射到世界坐标系中,以得到零件在世界坐标系下的位姿,其中,可根据预先标定得到的位姿转换矩阵与该位置数据和旋转角度进行转换计算(此为现有技术,不对其进行详述),得到零件在世界坐标系下的位姿。
52.由上可知,该物料位姿识别方法,通过获取包含零件的原始图像;在原始图像中生成零件的最小外接矩形;根据最小外接矩形获取零件的位置数据和主方向夹角;提取最小外接矩形内的第一图像,以计算第一图像与第一模板图像的第一相似度,并计算第一图像与第二模板图像的第二相似度;根据主方向夹角、第一相似度和第二相似度确定零件的旋转角度;把位置数据和旋转角度映射到世界坐标系中,得到零件的位姿;从而对零件位姿识别效率高,有利于提高上料效率。
53.参考图2,本技术提供了一种物料位姿识别装置,用于识别零件的位姿,包括:第一获取模块1,用于获取包含零件的原始图像;第一生成模块2,用于在原始图像中生成零件的最小外接矩形;第二获取模块3,用于根据最小外接矩形获取零件的位置数据和主方向夹角;第一计算模块4,用于提取最小外接矩形内的第一图像(即最小外接矩形内的图像,为了便于后续进行说明,把最小外接矩形内的图像称为第一图像),以计算第一图像与第一模板图像的第一相似度,并计算第一图像与第二模板图像的第二相似度;第二计算模块5,用于根据主方向夹角、第一相似度和第二相似度确定零件的旋转角度;第三计算模块6,把位置数据和旋转角度映射到世界坐标系中,得到零件的位姿。
54.该物料位姿识别装置,其对零件位姿的识别过程与现有的基于模板匹配的二维视觉识别方法相比,无需对实物图像与模板图像进行逐点比对,数据处理量更少,位姿识别效率更高,应用于物料的上料系统时,有利于提高上料效率。
55.其中,该物料位姿识别装置可应用于图4所示的上料系统的控制系统中。
56.在一些实施方式中,第一生成模块2用于在原始图像中生成零件的最小外接矩形的时候,执行:对比原始图像各像素点的亮度与预设的亮度阈值,以确定零件的像素点;获取零件的像素点的凸包(获取凸包的具体方法为现有技术,此处不对其进行详述);分别以该凸包的各段包围线为目标线段,获取该凸包的外接矩形,使该外接矩形为一边与该目标线段共线的最小矩形,从而得到各目标线段对应的外接矩形;选取这些外接矩形中面积最小的一个作为零件的最小外接矩形。
57.其中,原始图像中的背景亮度比工件的亮度低,例如,当该物料位姿识别装置应用于图4所示的上料系统的控制系统中的时候,可把上料系统的传送带的颜色亮度设置为比零件颜色亮度低,从而原始图像中的背景亮度即为传送带的亮度;从而,当原始图像的像素点的亮度小于预设的亮度阈值(可根据实际需要设置)时,把该像素点判定为背景的像素
点,否则,把该像素点判定为零件的像素点。
58.假设凸包的一段目标线段所在的直线为直线l1,可生成与该直线l1垂直的两条直线l2、l3,使直线l2和直线l3沿直线l1平移,使得直线l2和直线l3均与凸包有至少一个相交点且直线l2和直线l3之间的距离最大,然后生成与直线l2垂直的直线l4(直线l4与直线l3也垂直),使直线l4沿直线l2平移,使得直线l4与凸包有至少一个相交点且直线l4与直线l1之间的距离最大,直线l1、直线l2、直线l3和直线l4之间围成的矩形即为与该目标线段对应的外接矩形。
59.在实际应用中,不限于采用上述方式生成零件的最小外接矩形,也可采用任意的现有的最小外接矩形生成方法生成零件的最小外接矩形。
60.在本实施例中,第二获取模块3用于在根据最小外接矩形获取零件的位置数据和主方向夹角的时候,执行:获取最小外接矩形的中心点的位置数据,作为零件的位置数据;计算最小外接矩形的主方向线与图像参考轴之间的夹角,作为主方向夹角。
61.其中,可以用最小外接矩形的一长边、一短边、两短边的中点连线或两长边的中点连线作为该最小外接矩形的主方向线。
62.其中,图像参考轴可以为图像横轴、纵轴或其他方向轴。
63.例如,在一些实施方式中,最小外接矩形的主方向线为该最小外接矩形的一长边,图像参考轴为图像横轴,但不限于此。
64.矩形的中心点的位置数据和两直线之间的夹角的计算方法为现有技术,此处不对其进行详述。
65.优选地,第一计算模块4用于在提取最小外接矩形内的第一图像,以计算第一图像与第一模板图像的第一相似度,并计算第一图像与第二模板图像的第二相似度的时候,执行:分别计算第一图像、第一模板图像和第二模板图像的全局平均亮度;分别计算第一图像、第一模板图像和第二模板图像的第一局部平均亮度;第一局部平均亮度为对应图像(第一图像、第一模板图像或第二模板图像)的第一局部区域的平均亮度,第一局部区域为对应图像的边界以对应图像的中心点为基点按第一预设比例缩小后得到的第一框线所包围的区域;分别计算第一图像、第一模板图像和第二模板图像的第二局部平均亮度;第二局部平均亮度为对应图像的第二局部区域的平均亮度,第二局部区域为对应图像的边界以对应图像的中心点为基点按第二预设比例缩小后得到的第二框线所包围的区域;根据全局平均亮度、第一局部平均亮度和第二局部平均亮度计算第一相似度和第二相似度。
66.参考图5,图中的第一矩形框90为一图像(第一图像、第一模板图像或第二模板图像)的边界;图中的第二矩形框91为该图像的第一局部区域的边界(即第一框线),该第二矩形框91所包围的区域即为第一局部区域;图中的第三矩形框92为该图像的第二局部区域的边界(即第二框线),该第三矩形框92所包围的区域即为第二局部区域;图中的点o即为该图像的中心点。
67.一般地,图像的全局平均亮度可等于该图像各像素点的亮度值之和除以该图像的
像素点总数;图像的第一局部平均亮度可等于该图像的第一局部区域各像素点的亮度值之和除以该第一局部区域的像素点总数;图像的第二局部平均亮度可等于该图像的第二局部区域各像素点的亮度值之和除以该第二局部区域的像素点总数。但在采集原始图像时,可能由于环境亮度的变化,导致零件部分和背景部分的亮度出现变化,进而影响第一相似度和第二相似度的可靠性;因此,优选地,可根据以下公式计算图像的全局平均亮度、第一局部平均亮度和第二局部平均亮度:;;;其中,、、分别为该图像的全局平均亮度、第一局部平均亮度和第二局部平均亮度,、分别为该图像的第个像素点的修正前和修正后的亮度值,为该图像的像素点总数,、分别为第一局部区域的第个像素点的修正前和修正后的亮度值,为该第一局部区域的像素点总数,、分别为第二局部区域的第个像素点的修正前和修正后的亮度值,为该第二局部区域的像素点总数,为预设的亮度阈值。通过该方式,把零件部分的像素点的亮度值统一调整为1,并把背景部分的像素点同一调整为0,根据调整后的亮度值计算相似度,可避免环境光照条件的变化而影响相似度计算结果的可靠性。
68.其中,第一预设比例和第二预设比例均为大于0小于1的值,且第一预设比例和第二预设比例不相等,具体可根据实际需要设置。例如,在图5中,第一预设比例为1/2,第二预设比例为1/4,从而,第二矩形框91的各边边长为第一矩形框90的相应边边长的1/2,第三矩形框92的各边边长为第一矩形框90的相应边边长的1/4。
69.在一些优选实施方式中,第一计算模块4在根据全局平均亮度、第一局部平均亮度和第二局部平均亮度计算第一相似度和第二相似度的时候,执行:根据以下公式计算第一相似度和第二相似度:;;其中,为第一图像与第一模板图像的第一相似度;为第一图像与第二模板图像的第二相似度;、、分别为第一图像的全局平均亮度、第一局部平均亮度和第二局部平均亮度,、、分别为第一模板图像的全局平均亮度、第一局部平均亮度和第二
局部平均亮度,、、分别为第二模板图像的全局平均亮度、第一局部平均亮度和第二局部平均亮度。
70.通过该方式计算第一相似度和第二相似度,计算过程简单,计算量小,有利于进一步提高位姿识别效率。实际上,第一相似度和第二相似度也可以是ssim值(结构相似性)、psnr值(峰值信噪比)等现有的用于评价图像相似性的相似度(其计算方法为现有技术)。通过前文的方法计算的第一相似度和第二相似度,与现有的相似度计算方法相比,计算量更小。
71.其中,第一模板图像是采用与实时拍摄的原始图像相同的拍摄条件,对标准零件进行拍摄得到标准图像后,在该标准图像中生成零件的最小外接矩形(具体过程参考前文),并提取该最小外接矩形内部的图像而得到。
72.在本实施例中,第二模板图像为第一模板图像在图像平面中旋转180
°
得到的图像;第二计算模块5用于在根据主方向夹角、第一相似度和第二相似度确定零件的旋转角度的时候,执行:若第一相似度小于第二相似度,则根据以下公式计算旋转角度:;若第一相似度不小于第二相似度,则根据以下公式计算旋转角度:;其中,为零件的旋转角度,为主方向夹角。
73.在前面的步骤得到的主方向夹角,仅反映了零件的主方向所在直线与图像参考轴之间的夹角,该主方向与图像参考轴之间的实际夹角(即旋转角度)可能等于该主方向夹角,也可能为该主方向夹角增加180
°
后的值,此处,用相差180
°
的两个模板图像分别与第一图像进行相似度对比,比较两个相似度的大小即可确定第一图像更接近于哪个模板图像,进而可确定主方向夹角与旋转角度之间的关系,因此,可快速得到旋转角度。
74.经过上述过程,得到了零件的位置数据和旋转角度,该位置数据是在图像坐标系下的坐标数据,该旋转角度是零件的主方向与图像坐标系的参考轴(例如横轴)的夹角,为便于对零件进行抓取,需要把该位置数据和旋转角度映射到世界坐标系中,以得到零件在世界坐标系下的位姿,其中,可根据预先标定得到的位姿转换矩阵与该位置数据和旋转角度进行转换计算(此为现有技术,不对其进行详述),得到零件在世界坐标系下的位姿。
75.由上可知,该物料位姿识别装置,通过获取包含零件的原始图像;在原始图像中生成零件的最小外接矩形;根据最小外接矩形获取零件的位置数据和主方向夹角;提取最小外接矩形内的第一图像,以计算第一图像与第一模板图像的第一相似度,并计算第一图像与第二模板图像的第二相似度;根据主方向夹角、第一相似度和第二相似度确定零件的旋转角度;把位置数据和旋转角度映射到世界坐标系中,得到零件的位姿;从而对零件位姿识别效率高,有利于提高上料效率。
76.请参照图3,图3为本技术实施例提供的一种电子设备的结构示意图,本技术提供一种电子设备,包括:处理器301和存储器302,处理器301和存储器302通过通信总线303和/或其他形式的连接机构(未标出)互连并相互通讯,存储器302存储有处理器301可执行的计
算机程序,当电子设备运行时,处理器301执行该计算机程序,以执行上述实施例的任一可选的实现方式中的物料位姿识别方法,以实现以下功能:获取包含零件的原始图像;在原始图像中生成零件的最小外接矩形;根据最小外接矩形获取零件的位置数据和主方向夹角;提取最小外接矩形内的第一图像,以计算第一图像与第一模板图像的第一相似度,并计算第一图像与第二模板图像的第二相似度;根据主方向夹角、第一相似度和第二相似度确定零件的旋转角度;把位置数据和旋转角度映射到世界坐标系中,得到零件的位姿。
77.请参考图4,本技术提供了一种上料系统,包括传送带400、工业相机500、机械臂600和控制系统(图中没画),传送带400、工业相机500和机械臂600均与控制系统电性连接;传送带400用于传送待装配的零件;工业相机500用于对传送带400的一段局部区域进行持续的图像采集作业;控制系统用于:根据工业相机500采集到的帧图像判断是否有零件进入预设区域;在有零件进入预设区域时,控制传送带400停止移动;获取工业相机500在传送带400停止移动后采集的包含零件的原始图像;在该原始图像中生成零件的最小外接矩形(具体参考前文的步骤);根据该最小外接矩形获取零件的位置数据和主方向夹角(具体参考前文的步骤);提取该最小外接矩形内的第一图像,以计算第一图像与第一模板图像的第一相似度,并计算第一图像与第二模板图像的第二相似度(具体参考前文的步骤);根据主方向夹角、第一相似度和第二相似度确定零件的旋转角度(具体参考前文的步骤);把位置数据和旋转角度映射到世界坐标系中,得到零件的位姿(具体参考前文的步骤);根据零件的位姿控制机械臂600夹取零件并转移至装配工位。
78.该上料系统,在进行零件位姿识别时,无需对实物图像与模板图像进行逐点比对,数据处理量更少,与现有的基于模板匹配的二维视觉识别方法相比,位姿识别效率更高,有利于提高上料效率。
79.其中,传送带400的颜色亮度比零件的颜色亮度低。
80.预设区域是以工业相机500的视场中心点为中心的具有预设宽度和预设长度的矩形区域(其宽度和长度可根据实际需要设置),控制系统用于在根据工业相机500采集到的帧图像判断是否有零件进入预设区域的时候,执行:获取帧图像的亮度不小于预设的亮度阈值的像素点的位置数据,记为第一位置数据;根据各第一位置数据计算零件的形心位置数据(形心位置数据的横坐标值为各第一位置数据的横坐标值之和除以第一位置数据总个数,形心位置数据的纵坐标值为各第一位置数据的纵坐标值之和除以第一位置数据总个数);若零件的形心位于预设区域内,则判定有零件进入预设区域,否则,判定没有零件进入预设区域。
81.优选地,该上料系统,还包括落料装置700,落料装置700用于存储待装配的零件,并把零件逐个地送入传送带400。从而,避免传送带400上的零件相互堆叠而影响位姿识别
的准确性,进一步保证机械臂600能够可靠抓取零件。
82.其中,落料装置700可以是现有的振动盘上料装置,也可以为图4中的落料装置700,其包括用于存储待装配零件的料斗701,该料斗701的下端出口处设置有抖动盘702,抖动盘702与料斗701下端铰接,通过抖动控制料斗701下端出口的开合,从而使料斗701中的零件逐个地落入传送带400。
83.其中,工业相机500可设置在机械臂600外,也可设置在机械臂600末端(如图4所示)。若工业相机500设置在机械臂600末端,则机械臂600还用于带动工业相机500至预设的拍照位姿,以使工业相机500对准传送带400的一段局部区域进行持续的图像采集作业。
84.其中,机械臂600每完成一个零件的抓取和转移后,会回到预设的拍照位姿,然后控制系统控制传送带400再次启动,如此循环。
85.在本技术所提供的实施例中,应该理解到,所揭露装置和方法,可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,又例如,多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
86.另外,作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,既可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
87.再者,在本技术各个实施例中的各功能模块可以集成在一起形成一个独立的部分,也可以是各个模块单独存在,也可以两个或两个以上模块集成形成一个独立的部分。
88.在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。
89.以上所述仅为本技术的实施例而已,并不用于限制本技术的保护范围,对于本领域的技术人员来说,本技术可以有各种更改和变化。凡在本技术的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本技术的保护范围之内。
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1