
1.本发明涉及用于行李破损分析的图像识别技术,具体的说是一种基于目标检测的行李破损分析方法及系统。
背景技术:2.目前航空业关于旅客行李破损的分析一般都是依靠人工进行分析,这会消耗大量的人力资源进行行李破损部位的分析以及赔付。其次行李破损赔付的过程本身存在两个问题,一是旅客托运行李时行李已经存在破损,却以此向航空公司索要赔偿,导致航空公司成本上升。二是旅客托运行李破损后,特别是离开隔离区后,发现行李存在破损,提出投诉时,存在人工审核标准不明确、人工恰谈赔付耗时长,导致二次投诉,影响公司品牌形象。
3.利用目标检测算法进行图片中物体的检测,在学术界和工业界都有广泛的研究和应用,而且目标检测算法更新迭代也很快,每年都有更加优化或者甚至跨越式的模型发表。常用的目标检测算法按照目前的发展大致可以分为两类。一类是以faster-rcnn为代表的two-stage网络,另一类是以yolo系列代表的one-stage网络。两种网络都各有各的优点,需要根据针对问题使用对应的算法以及网络结构。
4.yolov5是yolo系列目前最成熟的版本,作为ultralytics应用出身的yolov5,本身就具备很高的商用性,对于目前许多的目标检测应用,yolov5都可以覆盖得到。yolov5的整体网络结构分为输入端、backone,neck、prediction四个部分,根据网络的深度以及宽度,由小到大依次分四个模型为yolov5s、yolov5m、yolov5l、yolov5x。随着深度以及宽度的增加,模型的学习能力越强,目标检测的ap精度越高,但同时模型的处理速度也在增加,即需要的花费的训练时间以及推理时间也会变长。与其它的深度学习算法、目标检测算法一样,yolov5给出的许多测试数据都是基于目前网上开源的经典数据集进行训练推理的,对于真实场景中的实际应用效果还需要进行测试。yolov5相对较好的是,因为本身有应用支持,所以它的源码非常具有结构性,对于模型训练以及推理来说十分方便。具体yolov5在行李破损分析这个场景中的检测准确率是否符合业务人员的需求,仍然需要本领域技术人员进行调试与优化。
技术实现要素:5.本发明所要解决的技术问题是:提供一种基于目标检测的行李破损分析方法。
6.解决上述技术问题,本发明所采用的技术方案如下:
7.一种基于目标检测的行李破损分析方法,其特征在于,包括:训练阶段和应用阶段;
8.在所述训练阶段,通过用历史数据对目标检测模型进行训练和测试,得到以下八个检测模型:行李类型检测模型、脚轮破损检测模型、把手破损检测模型、拉杆破损检测模型、锁破损检测模型、裂痕破损检测模型、刮痕破损检测模型和变形破损检测模型;
9.在所述应用阶段,首先,获取目标行李的目标行李图片;然后,用所述行李类型检
测模型对目标行李图片进行处理,以判断所述目标行李是否为行李箱;最后,如果判断所述目标行李为行李箱,则用所述脚轮破损检测模型、把手破损检测模型、拉杆破损检测模型、锁破损检测模型、裂痕破损检测模型、刮痕破损检测模型和变形破损检测模型分别对目标行李图片进行处理,以依次判断所述目标行李是否存在脚轮破损、把手破损、拉杆破损、锁破损、裂痕破损、刮痕破损和变形破损该七种破损形式。其中,所述脚轮破损表示行李箱的脚轮存在损坏或丢失的破损,所述把手破损、拉杆破损、锁破损依次表示行李箱的把手、拉杆、锁存在损坏的破损,所述裂痕破损、刮痕破损和变形破损依次表示行李箱存在出现裂痕、刮痕和变形的破损。
10.优选的:在所述训练阶段,通过以下步骤训练和测试得到所述八个检测模型:
11.步骤s1、获取旅客行李图片的历史数据,并从中筛选出数据格式符合预设要求、非重复的有效行李图片;其中,所述历史数据可以通过过拍摄旅客破损的行李以及收集旅客反馈的行李破损图片这两种方式收集得到;收集得到的历史数据需要进行数据清洗,将数据格式出错的图片进行修复或删除,并剔除一些不属于行李范畴的图片,以及删除重复的图片,以筛选出所述有效行李图片。
12.步骤s2、通过数据标注平台上创建行李类型和所述七种破损形式的标签,以在数据标注平台上,对所述步骤s1筛选出的有效行李图片进行行李类型的标签标注,且对行李类型为行李箱的有效行李图片进行所述七种破损形式的标签标注;
13.步骤s3、对步骤s2获得的数据进行切割,也即:
14.将所述步骤s1筛选出的有效行李图片及其行李类型的标签划分出有效行李图片训练集和有效行李图片测试集;
15.将每一种破损形式的标签及其对应的有效行李图片均划分出训练集和测试集,分别记为:行李箱脚轮破损训练集和行李箱脚轮破损测试集,行李箱把手破损训练集和行李箱把手破损测试集,行李箱拉杆破损训练集和行李箱拉杆破损测试集,行李箱锁破损训练集和行李箱锁破损测试集,行李箱裂痕破损训练集和行李箱裂痕破损测试集,行李箱刮痕破损训练集和行李箱刮痕破损测试集,行李箱变形破损训练集和行李箱变形破损测试集;
16.步骤s4、分别将所述有效行李图片训练集、行李箱脚轮破损训练集、行李箱把手破损训练集、行李箱拉杆破损训练集、行李箱锁破损训练集、行李箱裂痕破损训练集、行李箱刮痕破损训练集和行李箱变形破损训练集放入目标检测模型中进行训练,以依次得到以下八个识别模型:行李类型识别模型、脚轮破损识别模型、把手破损识别模型、拉杆破损识别模型、锁破损识别模型、裂痕破损识别模型、刮痕破损识别模型和变形破损识别模型;其中,在初次训练时,采用yolov5s模型作为所述目标检测模型;
17.步骤s5、分别用所述有效行李图片测试集、行李箱脚轮破损测试集、行李箱把手破损测试集、行李箱拉杆破损测试集、行李箱锁破损测试集、行李箱裂痕破损测试集、行李箱刮痕破损测试集和行李箱变形破损测试集对步骤s4得到的八个识别模型进行测试,以得到所述八个识别模型的识别准确率;
18.其中,所述八个识别模型均预设有对应的识别准确率阈值,如果某一个所述识别模型的识别准确率低于对应的识别准确率阈值,则判定这一个识别模型不合格;
19.步骤s6、对于步骤s5判定为不合格的识别模型,通过优化手段对该识别模型和/或该识别模型对应的训练集及测试集进行优化,以优化后的识别模型作为所述目标检测模
型,以优化后的训练集及测试集替代所述步骤s4和步骤s5中对应的训练集及测试集,重复所述步骤s4至步骤s6,直至所述八个识别模型的识别准确率均在对应的识别准确率阈值以上时,判定所述八个识别模型均合格;
20.步骤s7、将步骤s6判定为合格的八个识别模型,作为所述行李类型检测模型、脚轮破损检测模型、把手破损检测模型、拉杆破损检测模型、锁破损检测模型、裂痕破损检测模型、刮痕破损检测模型和变形破损检测模型。
21.作为本发明的优选实施方式:所述步骤s4中,在初次训练时,所述有效行李图片训练集放入学习率learning rate设置为默认的0.01的yolov5s模型中进行训练,所述行李箱锁破损训练集放入学习率设置为0.05的yolov5s模型中进行训练,所述行李箱脚轮破损训练集、行李箱把手破损训练集、行李箱拉杆破损训练集、行李箱裂痕破损训练集、行李箱刮痕破损训练集和行李箱变形破损训练集分别放入学习率设置为0.03的yolov5s模型中进行训练。
22.从而,本发明采用yolov5s模型作为目标检测模型,并在初次训练时,针对不同的破损形式设置不同的yolov5s模型的学习率,也即行李箱锁破损对应的yolov5s模型设置0.05的学习率,其他六种破损形式对应的yolov5s模型设置0.03的学习率,相较于采用yolov5s模型默认的学习率0.01,能够提高初次训练得到的脚轮破损识别模型、把手破损识别模型、拉杆破损识别模型、锁破损识别模型、裂痕破损识别模型、刮痕破损识别模型和变形破损识别模型该七个识别模型的识别准确率,提高幅度大概为1%~2%,由此,能够更快训练得到步骤s6最终判定为合格的八个识别模型。
23.作为本发明的优选实施方式:所述步骤s6中,所述优化手段包括以下优化手段一至优化手段八中的任意一种或多种;
24.优化手段一、如果所述步骤s1筛选出的有效行李图片的数量少于预设的有效行李图片数量阈值,则按像素裁剪方法进行数据增强,也即:设置横向像素为x、纵向像素为y的像素框架,对于大于所述像素框架的有效行李图片,将其复制并等比例缩小成为有效行李图片新样本,而原来的有效行李图片则保持不变,并且,在所述步骤s3和步骤s4中,将增加的有效行李图片新样本及其标签合并到所述步骤s1筛选出的有效行李图片及其标签中进行相应训练集和测试集的划分;其中,如果所述有效行李图片的横向像素x1小于纵向像素y1,则所述有效行李图片新样本的等比例缩小方式为:所述有效行李图片新样本的纵向像素y2=y,所述有效行李图片新样本的横向像素x2=x1*y/y1;如果所述有效行李图片的横向像素x1大于纵向像素y1,则所述有效行李图片新样本的等比例缩小方式为:所述有效行李图片新样本的横向像素x2=x,所述有效行李图片新样本的纵向像素y2=y1*x/x1;
25.从而,所述优化手段一,按像素裁剪方法进行数据增强,以增大步骤s3和步骤s4中全部训练集和测试集中的样本数量,能够针对步骤s1筛选出的有效行李图片的数量少于有效行李图片数量阈值的未达标情况,对所述八个识别模型的识别准确率进行提高。
26.优化手段二、如果所述步骤s1所筛选出标签为锁破损的有效行李图片的数量少于预设的锁破损有效行李图片数量阈值,则通过用对抗生成网络(即:gan:generative adversarial networks)对标签为锁破损的有效行李图片进行数据增强,生成新的标签为锁破损的有效行李图片,以增加所述步骤s3和步骤s4中行李箱锁破损训练集和行李箱锁破损测试集的样本数量;
27.优化手段三、如果所述步骤s1所筛选出标签为刮痕破损的有效行李图片的数量少于预设的刮痕破损有效行李图片数量阈值,则通过用对抗生成网络对标签为刮痕破损的有效行李图片进行数据增强,生成新的标签为刮痕破损的有效行李图片,以增加所述步骤s3和步骤s4中行李箱刮痕破损训练集和行李箱刮痕破损测试集的样本数量;
28.优化手段四、如果所述步骤s1所筛选出标签为变形破损的有效行李图片的数量少于预设的变形破损有效行李图片数量阈值,则通过用对抗生成网络对标签为变形破损的有效行李图片进行数据增强,生成新的标签为变形破损的有效行李图片,以增加所述步骤s3和步骤s4中行李箱变形破损训练集和行李箱变形破损测试集的样本数量;
29.其中,所述优化手段二至四中,用对抗生成网络进行数据增强的过程简述如下:首先对小样本数据,例如标签为锁破损或刮痕破损或变形破损的有效行李图片,按照8:2的比例分别进行训练集和测试集的划分,初始化生成器g和辨别器d两个网络的参数从训练集抽取n个样本,以及生成器利用三个数据的的噪声分布生成n个样本,固定生成器g,训练辨别器d,使其尽可能区分真假,循环更新k次辨别器d之后,更新1次生成器g,使辨别器尽可能区分不了真假。最后多次更新迭代后,理想状态下,最终辨别器d无法区分图片到底是来自真实的训练样本集合,还是来自生成器g生成的样本即可,此时辨别的概率为0.5,完成训练。将生成器g生成的图片作为样本数据加入到原样本数据,自此整个数据增强的优化步骤完成。
30.从而,所述优化手段二、优化手段三、优化手段四,通过用对抗生成网络分别对锁破损、刮痕破损、变形破损的有效行李图片进行数据增强,以增大步骤s3和步骤s4中锁破损、刮痕破损、变形破损对应的训练集和测试集中的样本数量,能够分别针对步骤s1所筛选出标签为锁破损、刮痕破损、变形破损的有效行李图片的数量少于对应数量阈值的未达标情况,分别提高锁破损识别模型、刮痕破损识别模型、变形破损识别模型的识别准确率。
31.优化手段五、如果所述步骤s5判定刮痕破损识别模型的识别准确率低于对应的识别准确率阈值,则为所述刮痕破损识别模型所对应的yolov5s模型增设一组锚框(anchor),且这一组锚框所包含的三个锚框的长宽比分别为5x6、7x15和12x6;
32.从而,所述优化手段五,通过为刮痕破损识别模型所对应的yolov5s模型增设一组锚框(anchor),且这一组锚框所包含的三个锚框的长宽比分别为5x6、7x15和12x6,能够针对刮痕破损属于目标检测中的小目标的情况,解决yolov5s模型默认已有的三组锚框(anchor)难以准确检测刮痕的问题,能够提高刮痕破损识别模型的识别准确率。
33.优化手段六、如果所述步骤s5判定锁破损识别模型的识别准确率低于对应的识别准确率阈值,则在所述锁破损识别模型所对应yolov5s模型的backbone网络中的第三个c3网络中添加cbam注意力机制(convolutional block attention module);
34.优化手段七、如果所述步骤s5判定刮痕破损识别模型的识别准确率低于对应的识别准确率阈值,则在所述刮痕破损识别模型所对应yolov5s模型的backbone网络中的第二个c3网络和第三个c3网络中添加cbam注意力机制;
35.优化手段八、如果所述步骤s5判定变形破损识别模型的识别准确率低于对应的识别准确率阈值,则在所述变形破损识别模型所对应yolov5s模型的backbone网络中的第一个c3网络和第二个c3网络中添加cbam注意力机制。
36.其中,所述优化手段六、优化手段七、优化手段八中,首先卷积运算是通过将跨通
道信息和空间信息混合在一起来提取信息特征的,因此cbam可以用来强调通道轴和空间轴这两个主要维度上的有意义特征。而cbam的主要两个模块分别是利用特征间的通道关系来生成通道注意图的channel attention module以及利用特征间的空间关系生成空间注意图的spatial attention module,前者是将通道的注意力集中在给定输入图像的"什么"是有意义的,后者关注的是信息部分“在哪里”,作为前者的补充。鉴于cbam的轻量级和通用性,它可以无缝集成到任何cnn网络当中去。
37.从而,所述优化手段六、优化手段七、优化手段八,分别通过在锁破损识别模型、刮痕破损识别模型、变形破损识别模型的网络结构层中的不同位置,也即第三个c3网络中、第二个c3网络和第三个c3网络中、第一个c3网络和第二个c3网络中,添加cbam注意力机制,能够分别优化锁破损识别模型、刮痕破损识别模型、变形破损识别模型的网络结构,使模型从类似边缘、形状等特征部位获得更多的反馈,关注重要的特征,抑制不必要特征,以分别降低锁破损在行李箱打开和关闭状态下的辨认难度,以及,更准确的辨认出刮痕破损相对行李箱本身的区别、变形破损相对行李箱本身的区别,由此能够提高锁破损识别模型、刮痕破损识别模型、变形破损识别模型的识别准确率;经试验,它们的识别准确率均大概有5%的较大幅度提升。
38.作为本发明的优选实施方式:在所述应用阶段中,使用多线程或多进程操作,同时运行所述脚轮破损检测模型、把手破损检测模型、拉杆破损检测模型、锁破损检测模型、裂痕破损检测模型、刮痕破损检测模型和变形破损检测模型,以提高对目标行李是否存在破损的检测效率。
39.本发明所要解决的技术问题是:提供一种基于目标检测的行李破损分析系统。
40.解决上述技术问题,本发明所采用的技术方案如下:
41.一种基于目标检测的行李破损分析系统,其特征在于:包括托运行李图片采集装置和行李破损分析装置;
42.所述托运行李图片采集装置安装在自助行李托运设备处,用于对通过自助行李托运设备进行自助行李值机的目标行李进行图片拍摄采集;
43.所述行李破损分析装置能够接收所述托运行李图片采集装置采集到的图片,以该图片作为目标行李图片,按照所述基于目标检测的行李破损分析方法,判断通过所述自助行李托运设备进行自助行李值机的目标行李是否存在所述七种破损形式的任意一种或多种,并且,如果判断结果为是,则中断该目标行李的值机操作,并提示该目标行李所属的旅客需至柜台进行人工托运,以此降低行李破损赔偿成本。
44.优选的:所述行李破损分析装置还能够接收由旅客在提取行李后发现行李存在破损时通过手机主动上传的目标行李图片,按照所述基于目标检测的行李破损分析方法,判断该旅客的行李是否存在所述七种破损形式的任意一种或多种。
45.优选的:所述行李破损分析装置还能够对判断为存在所述七种破损形式的任意一种或多种的目标行李图片,按照预设的破损形式赔偿标准,向旅客给出相应的赔偿金额,以解决人工审核时长、标准不一致的问题,提高赔偿工作效率。
46.从而,本发明的行李破损分析系统,通过在自助行李值机环节(即自助行李托运设备处)和旅客提取行李环节该两个关键节点,采用行李破损分析方法对旅客托运行李进行自动的破损分析,能够优化行李赔付流程,减少人力成本的消耗,实现服务质量、人力成本
和旅客满意度之间的平衡。
47.与现有技术相比,本发明具有以下有益效果:
48.第一,本发明基于目标检测模型训练得到的八个检测模型,能够实现对目标行李的分析,识别出目标行李是否为行李箱,以及行李箱是否存在脚轮破损、把手破损、拉杆破损、锁破损、裂痕破损、刮痕破损和变形破损该七种破损形式。
49.第二,本发明采用yolov5s模型作为目标检测模型,并在初次训练时,针对不同的破损形式设置不同的yolov5s模型的学习率,也即行李箱锁破损对应的yolov5s模型设置0.05的学习率,其他六种破损形式对应的yolov5s模型设置0.03的学习率,相较于采用yolov5s模型默认的学习率0.01,能够提高初次训练得到的脚轮破损识别模型、把手破损识别模型、拉杆破损识别模型、锁破损识别模型、裂痕破损识别模型、刮痕破损识别模型和变形破损识别模型该七个识别模型的识别准确率,提高幅度大概为1%~2%,由此,能够更快训练得到步骤s6最终判定为合格的八个识别模型。
50.第三,本发明在步骤s6中,能够根据实际情况,采用优化手段一至优化手段八中的任意一种或多种优化手段进行优化,能够有效提高所述八个检测模型的识别准确率;其中:
51.优化手段一,按像素裁剪方法进行数据增强,以增大步骤s3和步骤s4中全部训练集和测试集中的样本数量,能够针对步骤s1筛选出的有效行李图片的数量少于有效行李图片数量阈值的未达标情况,对所述八个识别模型的识别准确率进行提高;
52.优化手段二、优化手段三、优化手段四,通过用对抗生成网络分别对锁破损、刮痕破损、变形破损的有效行李图片进行数据增强,以增大步骤s3和步骤s4中锁破损、刮痕破损、变形破损对应的训练集和测试集中的样本数量,能够分别针对步骤s1所筛选出标签为锁破损、刮痕破损、变形破损的有效行李图片的数量少于对应数量阈值的未达标情况,分别提高锁破损识别模型、刮痕破损识别模型、变形破损识别模型的识别准确率。
53.优化手段五,通过为刮痕破损识别模型所对应的yolov5s模型增设一组锚框(anchor),且这一组锚框所包含的三个锚框的长宽比分别为5x6、7x15和12x6,能够针对刮痕破损属于目标检测中的小目标的情况,解决yolov5s模型默认已有的三组锚框(anchor)难以准确检测刮痕的问题,能够提高刮痕破损识别模型的识别准确率。
54.优化手段六、优化手段七、优化手段八,分别通过在锁破损识别模型、刮痕破损识别模型、变形破损识别模型的网络结构层中的不同位置,也即第三个c3网络中、第二个c3网络和第三个c3网络中、第一个c3网络和第二个c3网络中,添加cbam注意力机制,能够分别优化锁破损识别模型、刮痕破损识别模型、变形破损识别模型的网络结构,使模型从类似边缘、形状等特征部位获得更多的反馈,关注重要的特征,抑制不必要特征,以分别降低锁破损在行李箱打开和关闭状态下的辨认难度,以及,更准确的辨认出刮痕破损相对行李箱本身的区别、变形破损相对行李箱本身的区别,由此能够提高锁破损识别模型、刮痕破损识别模型、变形破损识别模型的识别准确率;经试验,它们的识别准确率均大概有5%的较大幅度提升。
55.第四,本发明的行李破损分析系统,通过在自助行李值机环节(即自助行李托运设备处)和旅客提取行李环节该两个关键节点,采用行李破损分析方法对旅客托运行李进行自动的破损分析,能够优化行李赔付流程,减少人力成本的消耗,实现服务质量、人力成本和旅客满意度之间的平衡。
附图说明
56.下面结合附图和具体实施例对本发明作进一步的详细说明:
57.图1为本发明的行李破损分析方法的流程框图。
具体实施方式
58.下面结合实施例及其附图对本发明进行详细说明,以帮助本领域的技术人员更好的理解本发明的发明构思,但本发明权利要求的保护范围不限于下述实施例,对本领域的技术人员来说,在不脱离本发明之发明构思的前提下,没有做出创造性劳动所获得的所有其他实施例,都属于本发明的保护范围。
59.实施例一
60.如图1所示,本发明公开的是一种基于目标检测的行李破损分析方法,包括:训练阶段和应用阶段;
61.在所述训练阶段,通过用历史数据对目标检测模型进行训练和测试,得到以下八个检测模型:行李类型检测模型、脚轮破损检测模型、把手破损检测模型、拉杆破损检测模型、锁破损检测模型、裂痕破损检测模型、刮痕破损检测模型和变形破损检测模型;
62.在所述应用阶段,首先,获取目标行李的目标行李图片;然后,用所述行李类型检测模型对目标行李图片进行处理,以判断所述目标行李是否为行李箱;最后,如果判断所述目标行李为行李箱,则用所述脚轮破损检测模型、把手破损检测模型、拉杆破损检测模型、锁破损检测模型、裂痕破损检测模型、刮痕破损检测模型和变形破损检测模型分别对目标行李图片进行处理,以依次判断所述目标行李是否存在脚轮破损、把手破损、拉杆破损、锁破损、裂痕破损、刮痕破损和变形破损该七种破损形式。其中,所述脚轮破损表示行李箱的脚轮存在损坏或丢失的破损,所述把手破损、拉杆破损、锁破损依次表示行李箱的把手、拉杆、锁存在损坏的破损,所述裂痕破损、刮痕破损和变形破损依次表示行李箱存在出现裂痕、刮痕和变形的破损。
63.以上为本实施例一的基本实施方式,可以在该基本实施方式的基础上做进一步的优化、改进和限定:
64.优选的:在所述训练阶段,通过以下步骤训练和测试得到所述八个检测模型:
65.步骤s1、获取旅客行李图片的历史数据,并从中筛选出数据格式符合预设要求、非重复的有效行李图片;其中,所述历史数据可以通过过拍摄旅客破损的行李以及收集旅客反馈的行李破损图片这两种方式收集得到;收集得到的历史数据需要进行数据清洗,将数据格式出错的图片进行修复或删除,并剔除一些不属于行李范畴的图片,以及删除重复的图片,以筛选出所述有效行李图片。
66.步骤s2、通过数据标注平台上创建行李类型和所述七种破损形式的标签,以在数据标注平台上,对所述步骤s1筛选出的有效行李图片进行行李类型的标签标注,且对行李类型为行李箱的有效行李图片进行所述七种破损形式的标签标注;
67.步骤s3、对步骤s2获得的数据进行切割,也即:
68.将所述步骤s1筛选出的有效行李图片及其行李类型的标签划分出有效行李图片训练集和有效行李图片测试集;
69.将每一种破损形式的标签及其对应的有效行李图片均划分出训练集和测试集,分
别记为:行李箱脚轮破损训练集和行李箱脚轮破损测试集,行李箱把手破损训练集和行李箱把手破损测试集,行李箱拉杆破损训练集和行李箱拉杆破损测试集,行李箱锁破损训练集和行李箱锁破损测试集,行李箱裂痕破损训练集和行李箱裂痕破损测试集,行李箱刮痕破损训练集和行李箱刮痕破损测试集,行李箱变形破损训练集和行李箱变形破损测试集;
70.步骤s4、分别将所述有效行李图片训练集、行李箱脚轮破损训练集、行李箱把手破损训练集、行李箱拉杆破损训练集、行李箱锁破损训练集、行李箱裂痕破损训练集、行李箱刮痕破损训练集和行李箱变形破损训练集放入目标检测模型中进行训练,以依次得到以下八个识别模型:行李类型识别模型、脚轮破损识别模型、把手破损识别模型、拉杆破损识别模型、锁破损识别模型、裂痕破损识别模型、刮痕破损识别模型和变形破损识别模型;其中,在初次训练时,采用yolov5s模型作为所述目标检测模型;
71.步骤s5、分别用所述有效行李图片测试集、行李箱脚轮破损测试集、行李箱把手破损测试集、行李箱拉杆破损测试集、行李箱锁破损测试集、行李箱裂痕破损测试集、行李箱刮痕破损测试集和行李箱变形破损测试集对步骤s4得到的八个识别模型进行测试,以得到所述八个识别模型的识别准确率;
72.其中,所述八个识别模型均预设有对应的识别准确率阈值,如果某一个所述识别模型的识别准确率低于对应的识别准确率阈值,则判定这一个识别模型不合格;
73.步骤s6、对于步骤s5判定为不合格的识别模型,通过优化手段对该识别模型和/或该识别模型对应的训练集及测试集进行优化,以优化后的识别模型作为所述目标检测模型,以优化后的训练集及测试集替代所述步骤s4和步骤s5中对应的训练集及测试集,重复所述步骤s4至步骤s6,直至所述八个识别模型的识别准确率均在对应的识别准确率阈值以上时,判定所述八个识别模型均合格;
74.步骤s7、将步骤s6判定为合格的八个识别模型,作为所述行李类型检测模型、脚轮破损检测模型、把手破损检测模型、拉杆破损检测模型、锁破损检测模型、裂痕破损检测模型、刮痕破损检测模型和变形破损检测模型。
75.实施例二
76.在上述实施例一的基础上,本实施例二还采用了以下优选的实施方式:
77.所述步骤s4中,在初次训练时,所述有效行李图片训练集放入学习率learning rate设置为默认的0.01的yolov5s模型中进行训练,所述行李箱锁破损训练集放入学习率设置为0.05的yolov5s模型中进行训练,所述行李箱脚轮破损训练集、行李箱把手破损训练集、行李箱拉杆破损训练集、行李箱裂痕破损训练集、行李箱刮痕破损训练集和行李箱变形破损训练集分别放入学习率设置为0.03的yolov5s模型中进行训练。
78.从而,本发明采用yolov5s模型作为目标检测模型,并在初次训练时,针对不同的破损形式设置不同的yolov5s模型的学习率,也即行李箱锁破损对应的yolov5s模型设置0.05的学习率,其他六种破损形式对应的yolov5s模型设置0.03的学习率,相较于采用yolov5s模型默认的学习率0.01,能够提高初次训练得到的脚轮破损识别模型、把手破损识别模型、拉杆破损识别模型、锁破损识别模型、裂痕破损识别模型、刮痕破损识别模型和变形破损识别模型该七个识别模型的识别准确率,提高幅度大概为1%~2%,由此,能够更快训练得到步骤s6最终判定为合格的八个识别模型。
79.实施例三
80.在上述实施例一或实施例二的基础上,本实施例三还采用了以下优选的实施方式:
81.所述步骤s6中,所述优化手段包括以下优化手段一至优化手段八中的任意一种或多种;
82.优化手段一、如果所述步骤s1筛选出的有效行李图片的数量少于预设的有效行李图片数量阈值,则按像素裁剪方法进行数据增强,也即:设置横向像素为x、纵向像素为y的像素框架,对于大于所述像素框架的有效行李图片,将其复制并等比例缩小成为有效行李图片新样本,而原来的有效行李图片则保持不变,并且,在所述步骤s3和步骤s4中,将增加的有效行李图片新样本及其标签合并到所述步骤s1筛选出的有效行李图片及其标签中进行相应训练集和测试集的划分;其中,如果所述有效行李图片的横向像素x1小于纵向像素y1,则所述有效行李图片新样本的等比例缩小方式为:所述有效行李图片新样本的纵向像素y2=y,所述有效行李图片新样本的横向像素x2=x1*y/y1;如果所述有效行李图片的横向像素x1大于纵向像素y1,则所述有效行李图片新样本的等比例缩小方式为:所述有效行李图片新样本的横向像素x2=x,所述有效行李图片新样本的纵向像素y2=y1*x/x1;
83.从而,所述优化手段一,按像素裁剪方法进行数据增强,以增大步骤s3和步骤s4中全部训练集和测试集中的样本数量,能够针对步骤s1筛选出的有效行李图片的数量少于有效行李图片数量阈值的未达标情况,对所述八个识别模型的识别准确率进行提高。
84.优化手段二、如果所述步骤s1所筛选出标签为锁破损的有效行李图片的数量少于预设的锁破损有效行李图片数量阈值,则通过用对抗生成网络(即:gan:generative adversarial networks)对标签为锁破损的有效行李图片进行数据增强,生成新的标签为锁破损的有效行李图片,以增加所述步骤s3和步骤s4中行李箱锁破损训练集和行李箱锁破损测试集的样本数量;
85.优化手段三、如果所述步骤s1所筛选出标签为刮痕破损的有效行李图片的数量少于预设的刮痕破损有效行李图片数量阈值,则通过用对抗生成网络对标签为刮痕破损的有效行李图片进行数据增强,生成新的标签为刮痕破损的有效行李图片,以增加所述步骤s3和步骤s4中行李箱刮痕破损训练集和行李箱刮痕破损测试集的样本数量;
86.优化手段四、如果所述步骤s1所筛选出标签为变形破损的有效行李图片的数量少于预设的变形破损有效行李图片数量阈值,则通过用对抗生成网络对标签为变形破损的有效行李图片进行数据增强,生成新的标签为变形破损的有效行李图片,以增加所述步骤s3和步骤s4中行李箱变形破损训练集和行李箱变形破损测试集的样本数量;
87.其中,所述优化手段二至四中,用对抗生成网络进行数据增强的过程简述如下:首先对小样本数据,例如标签为锁破损或刮痕破损或变形破损的有效行李图片,按照8:2的比例分别进行训练集和测试集的划分,初始化生成器g和辨别器d两个网络的参数从训练集抽取n个样本,以及生成器利用三个数据的的噪声分布生成n个样本,固定生成器g,训练辨别器d,使其尽可能区分真假,循环更新k次辨别器d之后,更新1次生成器g,使辨别器尽可能区分不了真假。最后多次更新迭代后,理想状态下,最终辨别器d无法区分图片到底是来自真实的训练样本集合,还是来自生成器g生成的样本即可,此时辨别的概率为0.5,完成训练。将生成器g生成的图片作为样本数据加入到原样本数据,自此整个数据增强的优化步骤完成。
88.从而,所述优化手段二、优化手段三、优化手段四,通过用对抗生成网络分别对锁破损、刮痕破损、变形破损的有效行李图片进行数据增强,以增大步骤s3和步骤s4中锁破损、刮痕破损、变形破损对应的训练集和测试集中的样本数量,能够分别针对步骤s1所筛选出标签为锁破损、刮痕破损、变形破损的有效行李图片的数量少于对应数量阈值的未达标情况,分别提高锁破损识别模型、刮痕破损识别模型、变形破损识别模型的识别准确率。
89.优化手段五、如果所述步骤s5判定刮痕破损识别模型的识别准确率低于对应的识别准确率阈值,则为所述刮痕破损识别模型所对应的yolov5s模型增设一组锚框(anchor),且这一组锚框所包含的三个锚框的长宽比分别为5x6、7x15和12x6;
90.从而,所述优化手段五,通过为刮痕破损识别模型所对应的yolov5s模型增设一组锚框(anchor),且这一组锚框所包含的三个锚框的长宽比分别为5x6、7x15和12x6,能够针对刮痕破损属于目标检测中的小目标的情况,解决yolov5s模型默认已有的三组锚框(anchor)难以准确检测刮痕的问题,能够提高刮痕破损识别模型的识别准确率。
91.优化手段六、如果所述步骤s5判定锁破损识别模型的识别准确率低于对应的识别准确率阈值,则在所述锁破损识别模型所对应yolov5s模型的backbone网络中的第三个c3网络中添加cbam注意力机制(convolutional block attention module);
92.优化手段七、如果所述步骤s5判定刮痕破损识别模型的识别准确率低于对应的识别准确率阈值,则在所述刮痕破损识别模型所对应yolov5s模型的backbone网络中的第二个c3网络和第三个c3网络中添加cbam注意力机制;
93.优化手段八、如果所述步骤s5判定变形破损识别模型的识别准确率低于对应的识别准确率阈值,则在所述变形破损识别模型所对应yolov5s模型的backbone网络中的第一个c3网络和第二个c3网络中添加cbam注意力机制。
94.其中,所述优化手段六、优化手段七、优化手段八中,首先卷积运算是通过将跨通道信息和空间信息混合在一起来提取信息特征的,因此cbam可以用来强调通道轴和空间轴这两个主要维度上的有意义特征。而cbam的主要两个模块分别是利用特征间的通道关系来生成通道注意图的channel attention module以及利用特征间的空间关系生成空间注意图的spatial attention module,前者是将通道的注意力集中在给定输入图像的"什么"是有意义的,后者关注的是信息部分“在哪里”,作为前者的补充。鉴于cbam的轻量级和通用性,它可以无缝集成到任何cnn网络当中去。
95.从而,所述优化手段六、优化手段七、优化手段八,分别通过在锁破损识别模型、刮痕破损识别模型、变形破损识别模型的网络结构层中的不同位置,也即第三个c3网络中、第二个c3网络和第三个c3网络中、第一个c3网络和第二个c3网络中,添加cbam注意力机制,能够分别优化锁破损识别模型、刮痕破损识别模型、变形破损识别模型的网络结构,使模型从类似边缘、形状等特征部位获得更多的反馈,关注重要的特征,抑制不必要特征,以分别降低锁破损在行李箱打开和关闭状态下的辨认难度,以及,更准确的辨认出刮痕破损相对行李箱本身的区别、变形破损相对行李箱本身的区别,由此能够提高锁破损识别模型、刮痕破损识别模型、变形破损识别模型的识别准确率;经试验,它们的识别准确率均大概有5%的较大幅度提升。
96.实施例四
97.在上述实施例一至实施例三中任意一个实施例的基础上,本实施例四还采用了以
下优选的实施方式:
98.在所述应用阶段中,使用多线程或多进程操作,同时运行所述脚轮破损检测模型、把手破损检测模型、拉杆破损检测模型、锁破损检测模型、裂痕破损检测模型、刮痕破损检测模型和变形破损检测模型,以提高对目标行李是否存在破损的检测效率。
99.实施例五
100.本发明还公开了一种基于目标检测的行李破损分析系统,包括托运行李图片采集装置和行李破损分析装置;
101.所述托运行李图片采集装置安装在自助行李托运设备处,用于对通过自助行李托运设备进行自助行李值机的目标行李进行图片拍摄采集;
102.所述行李破损分析装置能够接收所述托运行李图片采集装置采集到的图片,以该图片作为目标行李图片,按照实施例一至实施例四任意一项所述基于目标检测的行李破损分析方法,判断通过所述自助行李托运设备进行自助行李值机的目标行李是否存在所述七种破损形式的任意一种或多种,并且,如果判断结果为是,则中断该目标行李的值机操作,并提示该目标行李所属的旅客需至柜台进行人工托运,以此降低行李破损赔偿成本。
103.以上为本实施例五的基本实施方式,可以在该基本实施方式的基础上做进一步的优化、改进和限定:
104.优选的:所述行李破损分析装置还能够接收由旅客在提取行李后发现行李存在破损时通过手机主动上传的目标行李图片,按照实施例一至实施例四任意一项所述基于目标检测的行李破损分析方法,判断该旅客的行李是否存在所述七种破损形式的任意一种或多种。
105.优选的:所述行李破损分析装置还能够对判断为存在所述七种破损形式的任意一种或多种的目标行李图片,按照预设的破损形式赔偿标准,向旅客给出相应的赔偿金额,以解决人工审核时长、标准不一致的问题,提高赔偿工作效率。
106.从而,本发明的行李破损分析系统,通过在自助行李值机环节(即自助行李托运设备处)和旅客提取行李环节该两个关键节点,采用行李破损分析方法对旅客托运行李进行自动的破损分析,能够优化行李赔付流程,减少人力成本的消耗,实现服务质量、人力成本和旅客满意度之间的平衡。
107.本发明不局限于上述具体实施方式,根据上述内容,按照本领域的普通技术知识和惯用手段,在不脱离本发明上述基本技术思想前提下,本发明还可以做出其它多种形式的等效修改、替换或变更,均落在本发明的保护范围之中。