数据增广方法、装置、电子设备及存储介质与流程

文档序号:29067562发布日期:2022-03-01 19:54阅读:88来源:国知局
1.本公开涉及计算机
技术领域
:,尤其涉及人工智能领域,具体涉及计算机视觉和深度学习技术,具体可用于图像处理场景下,特别涉及一种数据增广方法、装置、电子设备及存储介质。
背景技术
::2.图像拼接技术是计算机视觉领域研究得最早和最广泛的方向之一,它是指将一系列通过普通照相机拍摄的处于同一场景的,并且相互之间存在重叠部分的图片进行拼接,得到一幅当前场景的完整图片的过程。3.随着人工智能(artificialintelligence;ai)技术的发展,为了提高图像拼接技术的效果,也可以采用经过深度学习的神经网络模型实现图像拼接。技术实现要素:4.本公开提供了一种数据增广方法、装置、电子设备及存储介质。5.根据本公开的一方面,提供了一种数据增广方法,包括:6.基于预先采集的图片序列库,对图像拼接处理中的第一类型超参数和第二类型超参数进行解耦;7.基于解耦得到的所述第一类型超参数、所述第二类型超参数以及所述图片序列库,进行数据增广。8.根据本公开的另一方面,提供了一种数据增广装置,包括:9.解耦模块,用于基于预先采集的图片序列库,对图像拼接处理中的第一类型超参数和第二类型超参数进行解耦;10.数据增广模块,用于基于解耦得到的所述第一类型超参数、所述第二类型超参数以及所述图片序列库,进行数据增广。11.根据本公开的再一方面,提供了一种电子设备,包括:12.至少一个处理器;以及13.与所述至少一个处理器通信连接的存储器;其中,14.所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如上所述的方面和任一可能的实现方式的方法。15.根据本公开的又一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行如上所述的方面和任一可能的实现方式的方法。16.根据本公开的再另一方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现如上所述的方面和任一可能的实现方式的方法。17.根据本公开的技术,能够有效地进行数据增广。18.应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。附图说明19.附图用于更好地理解本方案,不构成对本公开的限定。其中:20.图1是根据本公开第一实施例的示意图;21.图2是根据本公开第二实施例的示意图;22.图3是根据本公开第三实施例的示意图;23.图4是根据本公开第四实施例的示意图;24.图5是用来实现本公开实施例的数据增广方法的电子设备的框图。具体实施方式25.以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。26.显然,所描述的实施例是本公开一部分实施例,而不是全部的实施例。基于本公开中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的全部其他实施例,都属于本公开保护的范围。27.需要说明的是,本公开实施例中所涉及的终端设备可以包括但不限于手机、个人数字助理(personaldigitalassistant,pda)、无线手持设备、平板电脑(tabletcomputer)等智能设备;显示设备可以包括但不限于个人电脑、电视等具有显示功能的设备。28.另外,本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,a和/或b,可以表示:单独存在a,同时存在a和b,单独存在b这三种情况。另外,本文中字符“/”,一般表示前后关联对象是一种“或”的关系。29.随着ai的发展,基于神经网络模型构建各种图像拼接处理模型的技术也越来越成熟。但是各种图像拼接处理的任务模型在使用之前,需要采用很多的训练数据进行训练,才可以使用。但是现有的图像拼接处理的训练数据量较少,无法使得相关的任务模型进行有效地深度学习。基于此,本公开提供一种数据增广方案,以对相应的任务模型进行数据扩充,使得任务模型可以充分得到训练。30.图1是根据本公开第一实施例的示意图;如图1所示,本实施例提供一种数据增广方法,具体可以包括如下步骤:31.s101、基于预先采集的图片序列库,对图像拼接处理中的第一类型超参数和第二类型超参数进行解耦;32.s102、基于解耦得到的第一类型超参数、第二类型超参数以及图片序列库,进行数据增广。33.本实施例的数据增广方法的执行主体可以为数据增广装置,可以应用于生成图像拼接处理相关的深度学习任务所需要的数据,实现数据增广,以弥补现有技术中深度学习任务的数据量较少的问题。34.本实施例中的图片序列库可以为预先采集的、包括数条图片序列。每一条图片序列中可以包括多张待拼接的图片。图片序列库中的不同的图片序列中可以包括相同数量的图片,也可以包括不同数量的图片。35.本实施例的图像拼接处理可以包括图片预处理、特征匹配以及图像拼接等处理。无论处理中是采用算法来实现还是采用模型来实现,这些处理中都涉及一些不可学习的超参数。本实施例的方案中,通过图像拼接处理对图片序列库中的各图片序列进行图像拼接,实现将图像拼接处理中的第一类型超参数和第二类型超参数解耦,进而基于解耦得到的第一类型超参数、第二类型超参数以及图片序列库,进行数据增广,可以有针对性基于不同类型的超参数进行分别处理,实现有效地数据增广。36.本实施例的数据增广方法,通过采用上述技术方案,可以实现将图像拼接处理中的第一类型超参数和第二类型超参数进行解耦,进而基于解耦得到的第一类型超参数和第二类型超参数,再结合图片序列库,进行有效地数据增广,能够实现有效地扩充图像拼接处理的任务模型进行深度学习所需的数据。37.图2是根据本公开第二实施例的示意图;如图2所示,本实施例的数据增广方法,在上述图1所示实施例的技术方案的基础上,进一步更加详细地描述本技术的技术方案。如图2所示,本实施例的数据增广方法,具体可以包括如下步骤:38.s201、采用拼接图像质量检测方法,识别对图片序列库中各图片序列进行图像拼接处理中的第一类型超参数和第二类型超参数;39.该步骤s201为上述图1所示实施例的步骤s101的一种具体实现方式。在该实现方式中,拼接图像质量检测方法具体可以采用算法来实现,也可以采用模型来实现。拼接图像质量检测方法用于对拼接后的图像进行质量检测,从而可以检测超参数的扰动对拼接图像质量的影响,进而实现对图像拼接处理中的第一类型超参数和第二类型超参数的两种类型的超参数进行解耦。40.例如,拼接图像质量检测方法具体在进行质量检测时,可以基于拼接图像的下游任务来确定拼接图像的图像质量评价参数。例如不同任务中,图像质量评价指参数可以不相同。如下游任务是ocr识别时,图像质量评价参数可以包括字准和行准等。再例如在其他下游任务中,图像质量评价参数还可以包括峰值信噪比(peaksignaltonoiseratio;psnr)psnr、结构相似性(structuralsimilarity;ssim)、平均结构相似性(meanstructuralsimilarity;mssim)。但无论什么样的下游任务,图像质量评价参数都可以分为:影响图像纹理的图像质量评价参数和影响图像结构的图像质量评价参数。41.具体识别两种类型的超参数时,对于任一超参数,可以在预设调整范围内尝试调整该超参数的大小,即微调整该超参数的大小,然后采用拼接图像质量检测方法检测所有的图像质量评价参数的变化,若所有影响图像纹理的图像质量评价参数在超过预设变化幅度的范围外变化,则说明该超参数作微小扰动时,对图像的纹理影响很大;则识别该超参数为第一类型超参数。例如,第一类型超参数变化时,可能仅仅对拼接图像的纹理中的亮度、对比度之类信息发生变化,不影响拼接图像的结构。42.若微调整该超参数的大小,采用拼接图像质量检测方法检测到影响图像结构的图像质量评价参数在超过预设变化幅度的范围外变化,或者检测到影响图像结纹理的图像质量评价参数和影响图像结构的图像质量评价参数同时在超过预设变化幅度的范围外变化,则说明该超参数作微小扰动时,对图像的结构影响很大,或者不仅对图像的纹理影响很大同时对图像的结构影响很大;则识别该超参数为第二类型超参数。43.基于以上所述,可以得知第一类型超参数为图像拼接处理中仅影响纹理的超参数,第二类型超参数为图像拼接处理中除第一类型超参数之外的其他超参数,如可以包括仅影响结构的超参数,或者可以包括同时影响纹理和结构的超参数。采用上述方式识别的第一类型超参数和第二类型超参数非常准确。44.s202、基于图片序列库,获取第二类型超参数对应的图片序列集合;45.该步骤可以与上述步骤s201同步进行,将识别第二类型超参数的过程中,所采用的各组图片序列,构成图片序列集合。46.s203、基于第二类型超参数对应的图片序列集合,获取第二类型超参数的最佳值;47.具体实现时,可以在对图片序列集合中的各图片序列进行图像拼接处理的过程中,不断地调整第二类型超参数,使得拼接图像质量检测方法检测到图像质量评价参数的值最佳,即拼接的图像质量最好时,对应的第二类型超参数的值即为最佳值。这样可以使得基于该第二类型超参数的最佳值生成相应的拼接图像的质量更好,进而生成的训练数据质量更好。48.s204、基于图像拼接处理中的第一类型超参数、第二类型超参数的最佳值以及图片序列库,进行数据增广。49.本实施例中对两种不同类型的超参数进行解耦是为了有针对性对不同类型的超参数进行不同的处理。如第一类型的超参数由于仅对纹理有影响,可以取任意值。而第二类型超参数不仅对纹理有影响,还对结构有影响,所以为了有效地进行数据增广,需要取第二类型超参数的最佳值。50.例如,该步骤s204在具体实施例时,可以包括如下步骤:51.(1)基于图像拼接处理中的第一类型超参数的任意值、第二类型超参数的最佳值,对图片序列库中各图片序列进行图像拼接处理,生成相应的拼接图像;52.由于第一类型超参数仅对拼接图像的纹理产生影响,而不影响拼接图像的结构,所以,在数据增广时,可以任意调整第一类型超参数。而在数据增广时,第二类型超参数固定为最佳值,可以使得生成后的拼接图像质量较佳。53.(2)基于图片序列和生成的拼接图像,生成训练数据,以实现数据增广。54.对于每一个图片序列,每调整一次第一类型超参数,都可以得到一个拼接图像,对应可以生成一条训练数据。也就是说基于一个图片序列,通过多次调整第一类型超参数,可以得到多条训练数据。对于数个图片序列,按照类似的方式,可以生成更多数量的训练数据。55.本实施例的步骤s202-s204为上述图1所示实施例的步骤s102的一种实现方式。56.本实施例的上述方案,对图像拼接处理中的第一类型超参数和第二类型超参数的数量不做限定。57.例如,在一种使用场景中,可以采集m个比较有代表性的图片序列,统计得到图像拼接处理中共包括n个超参数。58.采用图片拼接处理技术对m个图片序列进行图像拼接,并在图像拼接过程中,依次调整n个超参数,确定在得到的拼接图像是否仅有纹理变化、或存在结构变化。按此依据将n个超参数划分为只影响纹理的n1个第一类型超参数,和影响纹理和结构的n2个第二类型超参数;并得到针对每个第二类型超参数的图片序列集合。例如,n2个第二类型超参数中的第一个第二类型超参数对应的图片序列集合可以表示为m1,第二个第二类型超参数对应的图片序列集合可以表示为m2,依次类推,第n2个第二类型超参数对应的图片序列集合可以表示为mn2。59.由于n1个第一类型超参数仅影响拼接图像的纹理,而n2个第二类型超参数可能不仅仅影响拼接图像的纹理,还会影响拼接图像的结构,或者也可能仅影响拼接图像的结构。所以,需要针对n1个第一类型超参数和n2个第二类型超参数分别进行处理。60.对于对拼接结果影响较大的n2个第二类型超参数,可以基于各自的图片序列集合m1、m2、……、mn2,调整出对应的第二类型超参数的一固定的最佳值,使得最佳值时,拼接图像质量最佳。按照此方式,可以将n2个第二类型超参数固定下来。对拼接结果影响不大的n1个第一类型超参数,可以用于任意调整。所以在数据增广时,可以任意调整第一类型的超参数,而第二类型超参数由于对拼接图像的影响较大,所以在数据增广是不能随意改变,所以采用第二类型超参数的最佳值,进行图像拼接处理,进而可以生成较多的训练数据,实现数据增广。61.需要说明的是,在本公开的实施例中,图像拼接处理中可以包括:图像预处理、特征点检测、特征匹配以及图像拼接。其中特征点检测可以采用模型来实现,并且,在本公开中,可以预先采用较多的训练数据对该特征点检测模型进行训练,以提高该特征点检测模型的泛化能力。而将图像预处理、特征匹配和图像拼接三种处理中的所有超参数集合起来,采用本公开的上述方法,对包括上述三种处理的所有超参数进行解耦。得到第一类型超参数和第二类型超参数,然后基于第一类型超参数和第二类型超参数以及图片序列库,进行数据增广。62.本实施例的数据增广方法,通过采用上述技术方案,可以解耦图像拼接处理中的两种不同类型的超参数,并获取图像拼接影响较大的第二类型超参数的最佳值,避免影响图像拼接质量的第二类型超参数影响增广数据的质量;并基于第一类型超参数的任意值和第二类型超参数的最佳值,进行数据增广,能够有效地扩充图像拼接处理的任务模型进行深度学习所需的训练数据。而且能够有效地保证生成的训练数据的准确性。63.图3是根据本公开第三实施例的示意图;如图3所示,本实施例提供一种数据增广装置300,包括:64.解耦模块301,用于基于预先采集的图片序列库,对图像拼接处理中的第一类型超参数和第二类型超参数进行解耦;65.数据增广模块302,用于基于解耦得到的第一类型超参数、第二类型超参数以及图片序列库,进行数据增广。66.本实施例的数据增广装置300,通过采用上述模块实现数据增广的实现原理以及技术效果,与上述相关方法实施例的实现相同,详细可以参考上述相关方法实施例的记载,在此不再赘述。67.图4是根据本公开第四实施例的示意图;如图4所示,本实施例提供一种数据增广装置400,在上述图3所示实施例的基础上,进一步更加详细地描述本公开的技术方案。68.如图4所示,本实施例的数据增广装置400,包括解耦模块401和数据增广模块402,与上述图3所示实施例的同名模块功能相同。69.进一步可选地,如图4所示,本实施例的数据增广装置400中,数据增广模块402,包括:70.获取单元4021,用于基于图片序列库,获取第二类型超参数对应的图片序列集合;71.获取单元4021,还用于基于第二类型超参数对应的图片序列集合,获取第二类型超参数的最佳值;72.增广单元4022,用于基于图像拼接处理中的第一类型超参数、第二类型超参数的最佳值以及图片序列库,进行数据增广。73.进一步可选地,在本公开的一个实施例中,获取单元4021,用于:74.在对图片序列集合中的各图片序列进行图像拼接处理过程中,通过调整第二类型超参数的大小,获取图片拼接处理的质量参数最佳时第二类型超参数的最佳值。75.进一步可选地,在本公开的一个实施例中,增广单元4022,用于:76.基于图像拼接处理中的第一类型超参数的任意值、第二类型超参数的最佳值,对图片序列库中各图片序列进行图像拼接处理,生成相应的拼接图像;77.基于图片序列和生成的拼接图像,生成训练数据,以实现数据增广。78.进一步可选地,在本公开的一个实施例中,解耦模块401,用于:79.采用拼接图像质量检测方法,识别对图片序列库中各图片序列进行图像拼接处理中的第一类型超参数和第二类型超参数。80.进一步可选地,在本公开的一个实施例中,第一类型超参数为图像拼接处理中仅影响纹理的超参数,第二类型超参数为图像拼接处理中除第一类型超参数之外的其他超参数。81.本实施例的数据增广装置400,通过采用上述模块实现数据增广的实现原理以及技术效果,与上述相关方法实施例的实现相同,详细可以参考上述相关方法实施例的记载,在此不再赘述。82.本公开的技术方案中,所涉及的用户个人信息的获取,存储和应用等,均符合相关法律法规的规定,且不违背公序良俗。83.根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。84.图5示出了可以用来实施本公开的实施例的示例电子设备500的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。85.如图5所示,设备500包括计算单元501,其可以根据存储在只读存储器(rom)502中的计算机程序或者从存储单元508加载到随机访问存储器(ram)503中的计算机程序,来执行各种适当的动作和处理。在ram503中,还可存储设备500操作所需的各种程序和数据。计算单元501、rom502以及ram503通过总线504彼此相连。输入/输出(i/o)接口505也连接至总线504。86.设备500中的多个部件连接至i/o接口505,包括:输入单元506,例如键盘、鼠标等;输出单元507,例如各种类型的显示器、扬声器等;存储单元508,例如磁盘、光盘等;以及通信单元509,例如网卡、调制解调器、无线通信收发机等。通信单元509允许设备500通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。87.计算单元501可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元501的一些示例包括但不限于中央处理单元(cpu)、图形处理单元(gpu)、各种专用的人工智能(ai)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(dsp)、以及任何适当的处理器、控制器、微控制器等。计算单元501执行上文所描述的各个方法和处理,例如本公开的上述数据增广方法。例如,在一些实施例中,本公开的上述数据增广方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元508。在一些实施例中,计算机程序的部分或者全部可以经由rom502和/或通信单元509而被载入和/或安装到设备500上。当计算机程序加载到ram503并由计算单元501执行时,可以执行上文描述的本公开的上述数据增广方法的一个或多个步骤。备选地,在其他实施例中,计算单元501可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行本公开的上述数据增广方法。88.本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(fpga)、专用集成电路(asic)、专用标准产品(assp)、芯片上系统的系统(soc)、复杂可编程逻辑设备(cpld)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。89.用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。90.在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦除可编程只读存储器(eprom或快闪存储器)、光纤、便捷式紧凑盘只读存储器(cd-rom)、光学储存设备、磁储存设备、或上述内容的任何合适组合。91.为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,crt(阴极射线管)或者lcd(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。92.可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(lan)、广域网(wan)和互联网。93.计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以为分布式系统的服务器,或者是结合了区块链的服务器。94.应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。95.上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。当前第1页12当前第1页12
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1