1.本技术涉及智能化农业技术领域,具体而言,涉及一种图像处理方法、装置、管理系统、电子设备和存储介质。
背景技术:2.在农业智能化领域中,为了掌握作物生长情况、田间环境情况、农事作业效果等,以及时发现和处理异常情况,防止最终给作物产量或品质带来消极影响。目前,通常采用拍摄获得农业区域内的图像,进而对图像进行分析、标记等,基于标记信息以得到作物生长、田间环境等数值化信息。
3.对于图像的标记包括如农作物、虫、草等类别、数量及位置的标记,农作物生长情况的标记,以及图像中各区域的类型的标记等,图像的标记工作量巨大。现有方式中,采用作业人员对图像进行标记的方式,一则需要处理的图像数量庞大,将需要大量的人力资源。此外,准确识别并标注图像需依赖于作业人员的专业能力,对于作业人员的专业能力要求较高,在实际应用场景下标记受限,进一步降低标记效率。
技术实现要素:4.本技术的目的包括,例如,提供了一种图像处理方法、装置、管理系统、电子设备和存储介质,其能够提高图像标注效率,保障最终的标注信息的召回率和准确性。
5.本技术的实施例可以这样实现:
6.第一方面,本技术提供一种图像处理方法,所述方法包括:
7.获取待标注区域的待标注图像;
8.基于预先训练得到的标注模型,获得所述待标注图像的标注信息,所述标注模型为预先利用具有标注信息的样本集进行训练得到;
9.确定标注信息不满足预设要求的目标待标注图像;
10.基于获得的修正信息对所述目标待标注图像的标注信息进行修正,以满足预设要求。
11.在可选的实施方式中,所述方法还包括:
12.将满足预设要求的待标注图像加入所述样本集;
13.利用所述样本集对所述标注模型进行训练,得到预测模型。
14.在可选的实施方式中,所述标注信息包括所述待标注区域中目标对象的对象标注信息;
15.所述基于预先训练得到的标注模型,获得所述待标注图像的标注信息的步骤,包括:
16.将所述待标注图像输入预先训练得到的标注模型,识别出所述待标注区域中的目标对象;
17.对所述目标对象进行标注,得到所述目标对象的对象标注信息。
18.在可选的实施方式中,所述对所述目标对象进行标注,得到所述目标对象的对象标注信息的步骤,包括:
19.确定所述目标对象的类别;
20.基于所述目标对象的类别,采用对应标注方式对所述目标对象进行标注;
21.根据标注结果得到所述目标对象的对象标注信息,所述对象标注信息包含所述目标对象的类别信息。
22.在可选的实施方式中,所述对所述目标对象进行标注,得到所述目标对象的对象标注信息的步骤,包括:
23.利用标注框框定所述目标对象;
24.确定所述标注框的位置信息,并统计所述标注框的数量;
25.根据所述位置信息、数量得到所述目标对象的对象标注信息。
26.在可选的实施方式中,所述标注信息包括所述待标注区域的场景标注信息;
27.所述基于预先训练得到的标注模型,获得所述待标注图像的标注信息的步骤,包括:
28.将所述待标注图像输入预先训练得到的标注模型,识别出所述待标注区域的区域状态;
29.基于所述待标注区域的区域状态,得到所述待标注区域的场景标注信息。
30.在可选的实施方式中,所述待标注图像包含在设定时间段内的多张分别具有同一目标对象的图像,各张图像中的目标对象处于不同状态;
31.所述基于预先训练得到的标注模型,获得所述待标注图像的标注信息的步骤,包括:
32.将各张图像输入预先训练得到的标注模型,识别出各张图像中目标对象的状态信息;
33.基于各张图像中目标对象的状态信息进行标注,得到用于表征目标对象的状态随时间连续变化的标注信息。
34.在可选的实施方式中,所述基于获得的修正信息对所述目标待标注图像的标注信息进行修正的步骤,包括:
35.确定所述目标待标注图像中缺失的标注信息,利用获得的修正信息中的新增标注信息进行补充;和/或
36.确定所述目标待标注图像中错误的标注信息,将错误的标注信息删除,并利用获得的修正信息中的替换标注信息进行替换;和/或
37.确定所述目标待标注图像中错误的标注信息,利用获得的修正信息中的修改标注信息进行修改。
38.在可选的实施方式中,所述方法还包括:
39.获取待识别区域的待识别图像;
40.利用预先训练得到的预测模型对所述待识别图像进行识别,得到所述待识别区域对应的识别结果。
41.在可选的实施方式中,所述预测模型包括多种类别;
42.所述利用预先训练得到的预测模型对所述待识别图像进行识别的步骤,包括:
43.获取所述待识别图像的识别任务;
44.根据所述识别任务从多种类别的预测模型中确定目标预测模型;
45.利用所述目标预测模型对所述待识别图像进行识别。
46.在可选的实施方式中,所述方法还包括:
47.在所述识别结果与获取的预期结果差距超过预设范围时,基于所述识别结果和预期结果判断是否对所述识别结果进行修正;
48.在确定对所述识别结果进行修正的情况下,将识别结果修正后的待识别图像加入所述样本集,以对所述预测模型进行训练。
49.在可选的实施方式中,所述方法还包括:
50.在确定不对所述识别结果进行修正的情况下,比对所述待识别图像和待标注图像的识别任务是否属于同一类,或比对拍摄所述待识别图像和待标注图像的拍摄状态是否一致;
51.根据比对结果得到反馈信息,并提交所述反馈信息至管理系统。
52.第二方面,本技术提供一种图像处理装置,所述装置包括:
53.获取模块,用于获取待标注区域的待标注图像;
54.标注模块,用于基于预先训练得到的标注模型,获得所述待标注图像的标注信息,所述标注模型为预先利用具有标注信息的样本集进行训练得到;
55.确定模块,用于确定标注信息不满足预设要求的目标待标注图像;
56.修正模块,用于基于获得的修正信息对所述目标待标注图像的标注信息进行修正,以满足预设要求。
57.第三方面,本技术提供一种管理系统,包括:
58.交互模块,用于接收待处理任务,所述待处理任务包括标注任务和/或识别任务,其中,所述标注任务包括待标注区域的待标注图像;所述识别任务包括待识别图像;
59.处理模块,用于根据上述图像处理方法对所述待标注图像进行处理,以得到满足预设要求的待标注图像,其中,满足预设要求的待标注图像用于训练得到预测模型,和/或根据上述图像处理方法基于所述预测模型对所述待识别图像进行处理,以得到图像识别结果。
60.第四方面,本技术提供一种电子设备,包括处理器和存储器,所述存储器存储有能够被所述处理器执行的计算机程序,所述处理器可执行所述计算机程序以实现前述实施方式任一项所述的图像处理方法。
61.第五方面,本技术提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现前述实施方式任一项所述的图像处理方法。
62.本技术实施例的有益效果包括,例如:
63.本技术提供一种图像标记方法、装置、电子设备、管理系统和存储介质,通过获取待标注区域的待标注图像,基于预先训练得到的标注模型,获得待标注图像的标注信息,该标注模型为预先利用具有标注信息的样本集进行训练得到。确定标注信息不满足预设要求的目标待标注图像,基于获得的修正信息对目标待标注图像的标注信息进行修正,以满足预设要求。如此,可以利用得到的标注模型对于待标注图像进行标注,在此基础上,再对标注信息进行修正,可以减少作业人员的标注工作量,提高标注效率,并且可以保障最终得到
的标注信息的召回率和准确性。
附图说明
64.为了更清楚地说明本技术实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本技术的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
65.图1为本技术实施例提供的图像处理方法的流程示意图之一;
66.图2为图1中步骤s102包含的子步骤的流程图之一;
67.图3为本技术实施例提供的目标对象标注示意图之一;
68.图4为本技术实施例提供的目标对象标注示意图之二;
69.图5为图1中步骤s102包含的子步骤的流程图之二;
70.图6为本技术实施例提供的区域状态示意图;
71.图7为图1中步骤s102包含的子步骤的流程图之三;
72.图8为本技术实施例提供的图像处理方法的流程示意图之二;
73.图9为本技术实施例提供的图像处理方法的流程示意图之三;
74.图10为图9中步骤s107包含的子步骤的流程图;
75.图11为本技术实施例提供的图像处理方法的流程示意图之四;
76.图12为本技术实施例提供的图像处理方法的功能模块框图;
77.图13为本技术实施例提供的管理系统的结构框图;
78.图14为本技术实施例提供的电子设备的结构框图。
79.图标:10-图像处理装置;110-获取模块;120-标注模块;130-确定模块;140-修正模块;20-电子设备;210-处理器;220-存储器;230-通信接口。
具体实施方式
80.为使本技术实施例的目的、技术方案和优点更加清楚,下面将结合本技术实施例中的附图,对本技术实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本技术一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本技术实施例的组件可以以各种不同的配置来布置和设计。
81.因此,以下对在附图中提供的本技术的实施例的详细描述并非旨在限制要求保护的本技术的范围,而是仅仅表示本技术的选定实施例。基于本技术中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本技术保护的范围。
82.应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定。
83.需要说明的是,在不冲突的情况下,本技术的实施例中的特征可以相互结合。
84.在农业生产管理中,对于农作物生长情况、田间环境情况以及农事作业效果等进行巡查,有助于及时发现和上报异常情况,对于防止最终农作物产量或品质受到影响极为重要。因此,目前的农业管理中,农场各层级作业人员,在作物生长的各个阶段会通过现场
巡查的方式来获取农田信息。
85.但是人工巡查的方式存在诸多缺陷,例如获取的信息量、信息质量受人的精力、人类感官能力、人的专业能力的限制。巡查人员因体力和时间限制,每天巡查范围有限。并且,巡查人员的视力范围有限,受限于观察角度,在地块较大、角度限制的情况下,还存在部分区域看不到因此难以全面巡查的问题。此外,巡查人员基于观察情况进行信息分析时,需要依赖于巡查人员的专业能力和经验,但是农场的一线管理人员往往专业能力参差不齐,导致信息分析不够专业、不够准确的缺陷。
86.基于上述缺陷,目前出现了采用拍摄设备拍摄农田图像,将图像上传至管理系统,以通过对采集的图像进行分析的方式,以获取农作物生长情况、田间环境情况等信息。这种方式中,管理人员可以通过查看图像的方式代替现场巡查方式了解农田情况,可以极大地提高信息采集的效率,并且,通过对农田进行图像采集,也可以解决人工巡查方式所存在的部分区域因角度、视野范围受限,而无法观察到的缺陷。
87.但是,在这种方式下,同样地也是因为信息采集的高效率,意味着需要分析处理的图像数量很大。管理人员需要对大量的图像进行标注,包括如农作物、虫、草等类别、数量及位置的标注,以及农作物生长情况的标注等,从而,可以基于标注结果了解农作物整体情况、农田情况等。大量的标注工作需要耗费大量的人力资源,需要大量的时间成本。并且,标注工作也依赖于管理人员的专业能力,因此,在缺乏专业能力的人力资源时,进一步导致标注效率的低下。
88.因此,为了解决上述技术问题,本技术提供一种图像处理方法以实现图像的标注,预先利用具有标注信息的样本集训练得到标注模型,进而可以基于该标注模型对剩余的需要标注的待标注图像进行标注,在此基础上,确定标注信息不满足预设要求的目标待标注图像,基于获得的修正信息对目标待标注图像的标注信息进行修正,以满足预设要求。如此,可以减少作业人员的标注工作量,提高标注效率,并且可以保障最终得到的标注信息的召回率和准确性。
89.请参见图1,图1为本技术实施例提供的图像处理方法的示意性流程图,其中,包括以下几个步骤:
90.s101,获取待标注区域的待标注图像。
91.s102,基于预先训练得到的标注模型,获得待标注图像的标注信息,标注模型为预先利用具有标注信息的样本集进行训练得到。
92.s103,确定标注信息不满足预设要求的目标待标注图像。
93.s104,基于获得的修正信息对目标待标注图像的标注信息进行修正,以满足预设要求。
94.在一些可能的示例中,待标注区域可以是农田相关区域,如包含农田、农田周边环境、农田内具体物体等的区域。获得的待标注图像为包含待标注区域的图像,可以是利用感知设备采集到的图像。感知设备可以是遥感无人机或者是设置在农田旁的智能相机。在利用遥感无人机进行采集时,待标注图像可以是搭载于遥感无人机上的摄像设备拍摄到的视频进行图像分帧得到的,也可以是搭载于遥感无人机上的摄像设备直接拍摄到的图像。
95.在采集到图像后,可以将图像自动上传至管理系统中,该管理系统可以用于但不限于提供农业管理服务,其可以作为一种软件产品装载于终端或服务器中,也可以是一种
软硬结合的产品。上传至管理系统中的图像可保存至图像库中,作业人员或普通用户可从该图像库中提取图像进行处理。
96.在一些可能的示例中,可将不同的感知设备与不同作业部门进行关联,如此,感知设备在采集图像并上传管理系统后,感知设备关联的作业部门下的作业人员可具有对相应图像的查看和标注权限。
97.在一些可能的示例中,标注模型为预先利用具有标注信息的样本集进行训练得到。标注模型可以由神经网络架构构建得到,神经网络可以包括但不限于,卷积神经网络、深度卷积逆向图网络、循环神经网络等。
98.样本集中可包含多个样本图像,各样本图像为包含农田相关区域的图像。各样本图像可具有标注信息,该标注信息可以是通过人工标注的方式得到。也就是说,对于一系列需要进行标注的图像,可以划分为样本图像和待标注图像。其中,样本图像可以预先进行人工标注得到标注信息。
99.在一些可能的示例中,样本图像又可以划分为训练样本和测试样本。利用具有标注信息的训练样本进行标注模型的训练,在训练过程中,可以利用损失函数作为训练指导,直至损失函数达到收敛时停止训练。其中,将训练样本输入标注模型进行训练,标注模型可输出训练样本对应的预测信息。基于训练样本的标注信息和预测信息,可计算得到损失函数的函数值。在调整标注模型的模型参数后继续进行训练,直至损失函数的函数值达到收敛时,可以停止训练。
100.而利用测试样本可以对得到的标注模型的准确率和召回率进行测试,在标注模型的准确率和召回率达到一定要求时,表明标注模型具备一定的标注能力,可以用于进行需要标记的待标注图像的标注处理。
101.由于利用标注模型来实现部分需要标注的待标注图像的标注,其目的主要是为了减少人工标注的工作量,也即,样本集中具有标注信息的样本图像的数量可能较少。因此,标注模型可以基于学习的样本图像的信息可能较少,导致标注模型在准确性和召回率上存在不足。
102.因此,在一些可能的示例中,基于标注模型得到的待标注图像的标注信息,可以确定其中不满足预设要求的目标待标注图像。其中,预设要求可以包括但不限于以下至少一种:已将图像中所有需要标记的对象进行标记、对象具体的标注方式(如标注框、标注颜色、标注符号等)正确、未标记无需标记的对象等。
103.相应地,不满足预设要求可以表示为以下至少一种:未将图像中所有需要标记的对象进行标记(即存在遗漏标记的对象)、对象具体的标注方式不正确、将无需标记的对象标记了。
104.对于不满足预设要求的目标待标注图像,可以相应地获得修正信息,该修正信息可以是基于作业人员的操作获得的,例如作业人员输入遗漏标记的对象的标注信息、作业人员输入用于纠正对象的标注方式的修改信息、作业人员执行的删除操作以删除掉无需标记的对象的标注信息等。进而,可以基于修正信息对目标待标注图像的标注信息进行修正,使得目标待标注图像的标注信息能够满足预设要求。
105.需要说明的是,对于多张需要标注的待标注图像,利用标注模型可以实现其中一部分待标注图像的准确标注,而另一部分标注信息不满足预设要求的待标注图像,仅需基
于修正信息对其中需要修正的部分进行修正。进行修正的工作量相较于需要直接对整张图进行标注的工作量大大降低,因此,利用标注模型进行标注再修正的方式,可以大大降低作业人员的工作量,并且可以提高标注的效率,也可保障最终的标注信息的准确性和召回率。
106.在一些可能的示例中,样本图像和待标注图像可在感知设备处于相同的拍摄状态下采集得到。拍摄状态包括如拍摄角度、拍摄高度、拍摄时光照条件等状态。
107.农作物和农田环境在短时间内的变化相对较小,感知设备处于同一拍摄角度或高度下所采集到的图像的图像特征基本不会变化。因此,沿用拍摄样本图像时的拍摄状态,可以更大几率重现相似的图像特征,提高标注模型的标注准确性。例如,利用遥感无人机飞行高度为1.5米所拍摄的样本图像训练识别杂草的标注模型,则标注模型可以学习到1.5米的图像中杂草的图像特征。若待标注图像为遥感无人机飞行高度为10米时所拍摄的图像,很多原本在1.5米时拍摄图像可以展现的杂草特征将变化模糊,导致标注模型无法识别并标注。
108.因此,通过上述方式,规范图像采集标准,有利于保证在图像标注时的准确性。
109.在不同的农事阶段,需要获取的农业信息可能不同,例如在农作物生长阶段,需要获取农作物的信息,在农作物收割后可能需要获取农田的相关信息。因此,进行图像标注时可能具有不同的标注任务,有些是需要进行区域的标注、有些是需要对图像中区域内包含的物体进行标注。因此,为了使得标注模型可以专注于不同标注任务下的标注,可以预先分别训练得到可以完成不同标注任务的标注模型。
110.在一些可能的示例中,若标注任务是需要对区域内的具体对象进行标注,则标注信息可包括待标注区域中目标对象的对象标注信息,请参阅图2,上述步骤s102一种可能的实现方式为:
111.s1021a,将待标注图像输入预先训练得到的标注模型,识别出待标注区域中的目标对象。
112.s1022a,对目标对象进行标注,得到目标对象的对象标注信息。
113.在一些可能的示例中,目标对象可以是农田内的农作物、草、虫、洞穴等对象。预先可以训练得到可对这类目标对象进行标注的物体检测标注模型。
114.此外,目标对象还可以是农田内的某个区域,例如高墩区域、低洼区域、缺苗区域等。预先可以训练得到可对这类目标对象进行标注的图像分割标注模型。
115.上述各类标注模型可以识别出图像中的目标对象,再对目标对象进行标注。
116.在一些可能的示例中,对目标对象进行标注时,可以利用标注框框定目标对象,确定标注框的位置信息,并统计标注框的数量,根据位置信息、数量得到目标对象的对象标注信息。
117.其中,标注框可以是可将目标对象框定在内的最小框,标注框的形状可以是矩形、圆形、菱形或者是其他不规则形状。例如,如图3中所示,标注框可以是将麦苗框定的矩形框。又如,如图4中所示,标注框可以是将农田中缺苗区域框定的不规则形状的框。
118.在一些可能的示例中,可以将标注框的几何中心点的位置作为标注框的位置。该位置为标注框在待标注图像中的相对位置,可以结合感知设备拍摄该待标注图像时在世界坐标系中的绝对位置,从而确定各个标注框的绝对位置,进而确定标注框所框定的目标对象的绝对位置。
119.通过确定标注框的位置信息并统计标注框的数量的方式,获得的目标对象的对象标注信息中,可包括各个目标对象的位置信息,以及目标对象的数量。
120.在一些可能的示例中,在待标注图像中的目标对象为上述的如高墩区域、低洼区域、缺苗区域等时,利用标注框框定各类区域后,还可计算出同类区域在待标注图像中所占的面积占比,或者是在待标注图像的农田区域中所占的面积占比。
121.如此,基于获得的面积占比可以为农田智能化管理提供数据依据。例如,基于获得的缺苗区域的面积占比,可以为判断是否需要对农田进行补苗的决策提供依据。
122.可选地,为了能够区分出具体的目标对象,例如具体是农作物还是杂草,在对目标对象进行标注时,在一些可能的示例中,可以通过以下方式实现:
123.确定目标对象的类别,基于目标对象的类别,采用对应标注方式对目标对象进行标注,根据标注结果得到目标对象的对象标注信息,该对象标注信息包含目标对象的类别信息。
124.在一些可能的示例中,不同类别的目标对象所采用不同标注方式时,可以是以不同颜色进行标注,如不同颜色的标注框进行框定,或者可以以不同形状进行标注,如利用不同形状的标注框、不同形状的符号等进行标注。例如,对农作物进行标注时,可以采用矩形框进行标注,对杂草进行标注时,可以采用菱形框进行标注。又如,在对农田中洞穴进行标注时,可以采用红色标注框进行标注,在对农田中的害虫进行标注时,可以采用黄色标注框进行标注。
125.利用上述针对不同类别的目标对象采用不同标注方式进行标注后,可得到目标对象的对象标注信息,而该对象标注信息中即可包含目标对象的类别信息。
126.如此,在基于对象标注信息进行后续的农田相关情况的分析时,可以从各个类别角度进行针对性分析处理。
127.在一些可能的示例中,若标注任务是需要对农田相关信息进行标注,则标注信息可包括待标注区域的场景标注信息,请参阅图5,上述步骤s102一种可能的实现方式为:
128.s1021b,将待标注图像输入预先训练得到的标注模型,识别出待标注区域的区域状态。
129.s1022b,基于待标注区域的区域状态,得到待标注区域的场景标注信息。
130.在一些可能的示例中,待标注区域的区域状态可以包括针对农田的晒田状态、保水状态等。基于此,可以预先训练得到可对区域状态进行标注的图像分类标注模型。
131.这类标注任务无需对图像中的物体进行位置、数量等的标注,只需识别出区域状态并进行标注即可。标注的方式可以是利用文字或符号等进行标注。
132.在一些可能的示例中,标注模型在识别待标注区域的区域状态时,可以是通过识别图像中待标注区域的像素特征来确定。例如,待标注图像可为rgb格式的图像,rgb图像是通过对红、绿、蓝三个颜色通道的变化以及相互之间的叠加来得到各式各样的颜色。
133.在待标注区域内农田为晒田状态时,则农田区域的颜色应当偏向于黄色,如图6中左侧所示,而在农田状态为保水状态时,则农田区域的颜色应当偏向于绿色、白色和蓝色,如图6中右侧所示。因此,标注模型可以识别农田区域的像素特征,获得农田区域的rgb数值,基于rgb数值确定农田区域的颜色信息,进而基于颜色信息确定农田区域的区域状态。
134.通过对农田区域的区域状态进行识别标注的方式,则可以获知一定范围内的农田
是处于保水状态还是晒田状态等,进而可对农田进行科学性管理。
135.在一些可能的示例中,若需要获得农作物的具体生长情况,包括例如叶龄、茎蘖数等,则不仅需要确定出农作物的位置,还需对农作物的具体状态进行分析。并且,由于在标注阶段可能并不能对农作物生长过程中的每个阶段均进行标注,一些在标注阶段并未学习到的特征,若出现在后续需要实际识别阶段时,则可能导致模型难以准确识别。
136.基于此考虑,在另一种可能的实现方式中,所获得的待标注图像可包含在设定时间段内的多张分别包含同一目标对象的图像,各张图像中目标对象处于不同的状态,请参阅图7,上述步骤s102可以通过以下方式实现:
137.s1021c,将各张图像输入预先训练得到的标注模型,识别出各张图像中目标对象的状态信息。
138.s1022c,基于各张图像中目标对象的状态信息进行标注,得到用于表征目标对象的状态随时间连续变化的标注信息。
139.在一些可能的示例中,在设定时间段内的多张图像中可包含同一目标对象,例如均包含麦苗、果树等。而各张图像中目标对象处于不同状态,例如麦苗处于不同的生长阶段。可以预先训练得到可对这类目标对象进行状态标注的图像回归标注模型。
140.由于标注模型预先经过训练得到,因此,标注模型可以针对各张图像进行分析,识别出其中目标对象的状态信息。目标对象的状态信息可以是例如麦苗的叶片状态特征。
141.基于各张图像中目标对象的状态信息,可以确定标注信息。该标注信息可以是数值、符号等。例如,可以对各张图像中麦苗的叶龄进行数值标注。
142.由于各张图像中目标对象处于不同阶段,因此,获得的标注信息整体可体现目标对象的状态随时间连续变化的情况。例如,水稻从生长初期一直到结穗时,其中各个阶段水稻的叶龄情况。若标注信息为数值信息,则标注信息可为目标对象在某段时间内的、关于其状态随时间呈线性变化趋势的数值信息或曲线信息,简而言之,可以理解为目标对象的状态在某段时间中连续变化的数值呈线性趋势。
143.标注模型在对待标注图像进行标注的同时,可以学习到一系列的图像中目标对象的状态随时间连续变化呈线性趋势的标注信息。进而后续在利用预测模型对待识别的图像进行识别时,即使待识别的图像中的目标对象的状态并未出现在模型学习阶段,模型也可基于学习到的呈线性变化的信息预测出目标对象的状态信息,保障模型后续的识别准确性。
144.例如,针对某个目标对象,标注模型学习到了该目标对象叶龄分别为1、3、5、7、9、11时的特征信息,并进行标注,基于这一系列的特征信息可以得到目标对象的呈线性变化的标注信息。若待识别的图像中目标对象的叶龄为2叶龄,虽然标注模型并未学习到2叶龄时目标对象的特征信息,但是基于得到的呈线性变化的标注信息,可以通过将2叶龄的目标对象的特征信息导入该呈线性变化的标注信息中比对,可以确定待识别的图像中目标对象的叶龄处于1叶龄和3叶龄之间。如此,可以确定出待识别的图像中目标对象的叶龄数值。
145.通过预先构建上述可用于执行不同标注任务的标注模型,包括物体检测标注模型、图像分割标注模型、图像分类标注模型以及图像回归标注模型。基于得到的各类模型可以针对性地对待标注图像进行标注得到标注信息。如此,可以降低作业人员的标注工作量。
146.而由于作业人员标注的用于训练模型的样本图像数量较少,因此,标注模型得到
的标注信息可能存在一些不满足预设要求的情况。
147.在一些可能的示例中,对于标注信息不满足预设要求所对应的目标待标注图像,可以基于作业人员反馈的修正信息对其标注信息进行修正。
148.在进行标注信息的修正时,作为一种可能的实现方式,可以确定目标待标注图像中缺失的标注信息,利用获得的修正信息中的新增标注信息进行补充。
149.例如,若标注任务为需要对图像中的麦苗进行识别并进行框定,但是,标注模型所输出的标注信息中,图像中部分麦苗并未被标注框框定。此种情况下,则可以确定出该部分未被标注框定的麦苗,并划设标注框进行补充标注。
150.作为另一种可能的实现方式,可以确定目标待标注图像中错误的标注信息,将错误的标注信息删除,并利用获得的修正信息中的替换标注信息进行替换。
151.例如,若标注任务为需要对图像中的麦苗和杂草进行框定标注。而麦苗和杂草所属不同类别,在标注时需要采用不同标注方式进行标注。例如,若标注模型所输出的标注信息中,错误地将某部分麦苗采用了杂草对应的标注方式进行标注。此种情况下,可以将该部分错误标注的麦苗的标注信息删除,并利用与麦苗对应的标注方式下的替换标注信息进行标注。
152.作为另一种可能的实现方式,可以确定目标待标注图像中错误的标注信息,利用获得的修正信息中修改标注信息进行修改。
153.例如,若标注任务为需要对图像中的缺苗区域进行框定标注,这类标注任务往往是需要沿缺苗区域的边缘进行边界绘制。若标注模型所输出的标注信息中,绘制的标注框存在某些部分边缘不贴合的缺陷。这种情况下,则可以基于获得的修改标注信息,对于不贴合的部分进行修改调整。
154.需要说明的是,在对标注信息进行修正时,可以采用上述的任意一种方式进行修正,也可以采用上述多种方式进行综合修正,具体地根据需求进行处理。
155.在一些可能的示例中,待标注图像在标注后可以用于后续对农田情况进行综合分析,这种情况下,则可以尽量对标注信息不满足预设要求的待标注图像进行修正,以保障修正后的待标注图像中的标注信息准确性,以为综合分析提供有效依据。
156.在一些可能的示例中,待标注图像在标注后可以用于对标注模型进行继续训练。这种情况下,在对待标注图像的标注信息进行修正前,可以筛选出其中标注信息与实际所需标注结果相差较大的待标注图像。这部分待标注图像的标注信息与实际所需标注结果相差较大,表明对这类待标注图像进行修正需要花费较大的精力,甚至于修正所花费的精力超过完全依靠人工标注所花费的精力。因此,可以将这类待标注图像抽取出来。
157.然而,由于标注模型对于这类抽取出来的待标注图像的特征学习不足,所以导致这类待标注图像的标注信息与实际所需标注结果相差较大。因此,为了提高标注模型的标注效果,可对抽取出来的待标注图像进行人工标注得到标注信息,并利用具有标注信息的这类待标注图像对标注模型进行进一步训练,从而使得标注模型能够对这类待标注图像进行特征学习。
158.而其中标注信息不满足预设要求,但是标注信息与实际所需标注结果相差不大的待标注图像,对于这部分待标注图像可以基于修正信息进行修正。基于修正后的待标注图像继续进行标注模型的训练。
159.因此,请参阅图8,在一些可能的示例中,本实施例所提供的图像处理方法还可包括以下步骤:
160.s105,将满足预设要求的待标注图像加入样本集。
161.s106,利用样本集对标注模型进行训练,得到预测模型。
162.其中,满足预设要求的待标注图像为已进行信息标注的图像,可以包括标注模型直接输出的标注信息满足预设要求的待标注图像,还可以包括标注模型输出的标注信息不满足预设要求,但是经过修正之后其标注信息满足预设要求的待标注图像。
163.利用上述待标注图像以及样本集中的样本图像,继续对标注模型进行训练。利用构建的损失函数作为训练指导,直至损失函数的函数值达到收敛时,得到训练完成的预测模型。得到的预测模型可以用于应用阶段,对于待识别的图像的识别处理。
164.请参阅图9,在一些可能的示例中,本实施例提供的图像处理方法还可包括以下步骤:
165.s107,获取待识别区域的待识别图像。
166.s108,利用预测模型对待识别图像进行识别,得到待识别区域对应的识别结果。
167.在应用阶段,作业人员可以遥控设置在农田旁的智能相机,或遥感无人机拍摄获得待识别区域的图像。为了保障预测模型识别的准确性,待识别图像和上述的待标注图像可为在相同拍摄状态下拍摄获得。拍摄状态包括拍摄角度、拍摄高度和拍摄时光照条件等。
168.为了简化不同识别任务时的拍摄状态设置,在预先采集待标注图像进行模型训练时,可以基于采集待标注图像时拍摄状态创建不同的任务模板。各个任务模板中可包含兴趣点位置、拍摄高度、拍摄角度、光照条件、识别任务等信息。如此,在后续针对某个兴趣点执行识别任务时,则可以调用该兴趣点的任务模板,基于任务模板中的信息进行任务参数设置。
169.需要说明的是,本实施例中的待识别图像也可以是通过其他渠道获取的图像,例如,从网络上直接下载的图像、从存储设备上拷贝的图像等。
170.利用预测模型对待识别图像进行识别,得到的识别结果中可包括例如农作物、杂草、害虫、洞穴等的位置、数量等,还可包括如农作物的叶龄等信息,或者是农田区域状态信息等。
171.可见,不同的识别任务下需要识别的对象不同。由上述可知,标注模型可包括多种类别,可分别用于实现具体目标对象的标注、区域状态的标注以及目标对象的状态标注等。基于预测模型继续训练得到的预测模型相应地可包括多种类别。
172.请参阅图10,为了对待识别图像进行针对性地识别处理,上述步骤s107的一种可能的实现方式为:
173.s1071,获取待识别图像的识别任务。
174.s1072,根据识别任务从多种类别的预测模型中确定目标预测模型。
175.s1073,利用目标预测模型对待识别图像进行识别。
176.待识别图像的识别任务可以是具体目标对象的识别,或区域状态的识别,或目标对象的状态识别等。在不同的识别任务下,采集到的待识别图像包含的信息可能不同。例如,识别任务是具体目标对象的识别时,则待识别图像中可能包含如农作物、杂草、害虫、洞穴等对象。识别任务是区域状态识别时,待识别图像中可能不具有具体物体,可能仅包含农
田的图像。
177.因此,在不同识别任务下,待识别图像包含的信息不同,相应地,为了针对性地对其中的信息进行准确识别,可以采用对应不同类别的预测模型。
178.在获得待识别图像的识别结果后,可以将识别结果进行展示。例如,可以通过管理系统的展示界面进行展示,或者是发送至作业人员所持的终端设备进行展示。
179.为了进一步提高预测模型的识别准确性,还可基于待识别图像的识别结果,判断是否需要利用待识别图像对预测模型进行进一步训练。请参阅图11,基于此,本实施例所提供的图像处理方法还可包括以下步骤:
180.s109,在识别结果与获取的预期结果差距超过预设范围时,基于识别结果和预期结果判断是否对识别结果进行修正,在确定对识别结果进行修正的情况下,执行以下步骤s110。
181.s110,将识别结果修正后的待识别图像加入样本集,以对预测模型进行训练。
182.获取的预期结果可以是待识别图像的真实结果。判断识别结果与预期结果之间的差距是否在预设范围内时,若识别任务是对具体对象进行识别,则可以通过判断识别结果中识别出的具体对象的数量与预期结果中具体对象的真实数量的差距是否在预设范围内。或者,若识别任务是对具体对象的状态进行识别,则可以通过判断识别结果中具体对象的状态数值与预期结果中具体对象的状态数值的差距是否在预设范围内。又或者,若识别任务是对某个区域进行识别绘制时,可以通过判断识别结果中的绘制信息与预期结果中的绘制信息之间一致的部分是否超过一定占比。
183.在识别结果与获取的预期结果差距超过预设范围时,表明预测模型对于待识别图像的识别准确率或召回率较低,这种情况下可以考虑利用待识别图像对预测模型进行进一步训练,以提高预测模型后续对这类待识别图像的识别准确性。
184.但是,导致识别结果与获取的预期结果之间的差距较大的原因,可能是由于模型识别效果较差导致的,也有可能是由于选取的模型类别不匹配,或者是图像本身的原因。
185.若是模型识别效果较差的原因,则预测模型的识别结果与预期结果之间差距虽然超过预设范围,但是,识别结果和预期结果之间应当还是具有一致的部分,也即,预测模型可以实现待识别图像的部分准确识别。若利用这类待识别图像对预测模型进一步训练,可以达到提高预测模型的识别效果的目的。因此,在这种情况下,可以判定可对待识别图像的识别结果进行修正,将修正后的待识别图像加入到样本集,对预测模型进行训练。
186.可选地,对于待识别图像的识别结果进行修正的方式,可以采用上述对于待标注图像的标注信息进行修正的相同方式,在此不作赘述。
187.而若是由于图像本身的原因,则预测模型的识别结果与预期结果之间差距可能不仅超过预设范围,并且,两者之间可能完全没有或者是仅极少部分一致。这种情况下,所采用的预测模型可能并不适用于这类待识别图像的处理,也即待识别图像并不助于预测模型的进一步训练。
188.因此,在一些可能的示例中,若在识别结果与预期结果差距超过预设范围,可以基于识别结果和预期结果判断是否对识别结果进行修正,若确定对识别结果进行修正的情况下,则表明可以利用这类待识别图像对预测模型进行进一步训练。可以将识别结果修正后的待识别图像加入样本集,以对预测模型进行训练。
189.请结合参阅11,若确定不对识别结果进行修正的情况下,则执行以下步骤s111、s112。
190.s111,比对待识别图像和待标注图像的识别任务是否属于同一类,或比对拍摄待识别图像和待标注图像的拍摄状态是否一致。
191.s112,根据比对结果得到反馈信息,并提交反馈信息至管理系统。
192.若确定不对识别结果进行修正的情况下,则表明该类待识别图像并不利于预测模型的进一步训练。预测模型为利用待标注图像训练获得,为了能够确定出该类待识别图像不利于预测模型的进一步训练的原因,可以比对待识别图像与待标注图像的识别任务是否属于同一类,或比对拍摄待识别图像和待标注图像的拍摄状态是否一致,根据比对结果得到反馈信息,提交反馈信息至管理系统。
193.在一些可能的示例中,由于不同识别任务下图像包含的信息不同,例如具体目标对象的识别时,图像中通常包含目标对象,区域状态的识别时,图像中包含如土地表面的信息。
194.在待标注图像为某个识别任务下的图像时,则待标注图像中包含与该识别任务对应的图像信息。预测模型可以学习到该识别任务下的图像的特征信息。若待识别图像与待标注图像的识别任务属于同一类,则待识别图像中也包含有该类识别任务对应的图像信息。由于预测模型已对该类识别任务下的图像特征进行学习,因此,可以用于对待识别图像的识别。
195.但是,如果待识别图像与待标注图像的识别任务不属于同一类,例如,待标注图像为具体目标对象的标注,而待识别图像为区域状态的识别。则待识别图像中并不具有与待标注图像中相同的图像信息。由于预测模型并未对待识别图像中的图像信息的特征学习,因此,预测模型并不能用于对待识别图像的识别,导致识别结果与预期结果之间差距巨大,并不能得到与预期相关的结果。
196.通过比对待识别图像与待标注图像的识别任务的方式,可以得到表征待识别图像与待标注图像中是否具有相同图像信息的识别结果。
197.在一些可能的示例中,若待识别图像与待标注图像的拍摄状态不一致,包括拍摄角度、拍摄高度、光照条件中的任意一项或多项不一致时,则导致待识别图像与待标注图像中的图像信息不一致。
198.例如,待标注图像为在高度为1.5米时拍摄获得的图像,预测模型将学习到拍摄高度为1.5米时的图像特征信息。若待识别图像为在高度为10米时拍摄获得的图像,10米高度下拍摄的图像信息相较于1.5米高度下拍摄的图像信息差距很大,如一些原本可清晰显示的对象将变得模糊不清。得到的预测模型将难以对待识别图像进行准确识别。并且,由于预测模型也具有训练规范,并非是要对所有拍摄状态下的图像均进行学习。因此,这类待识别图像并不利于对预测模型进行进一步训练。
199.通过上述对比的方式,可以将得到的比对结果提交到管理系统,如此,作业人员可以获知该类待识别图像不利于预测模型的进一步学习的原因,从而对后续处理作为调整。
200.请参阅图12,本技术实施例还提供一种图像处理装置10,该图像处理装置10包括获取模块110、标注模块120、确定模块130和修正模块140。
201.获取模块110,用于获取待标注区域的待标注图像。
202.标注模块120,用于基于预先训练得到的标注模型,获得待标注图像的标注信息,标注模型为预先利用具有标注信息的样本集进行训练得到。
203.确定模块130,用于确定标注信息不满足预设要求的目标待标注图像。
204.修正模块140,用于基于获得的修正信息对目标待标注图像的标注信息进行修正,以满足预设要求。
205.可以理解的是,获取模块110、标注模块120、确定模块130和修正模块140可以用来执行步骤s101至步骤s104以实现相应的技术效果。
206.可选地,上述图像处理装置10还可包括训练模块,该训练模块可以用于:
207.将满足预设要求的待标注图像加入样本集;
208.利用样本集对标注模型进行训练,得到预测模型。
209.可选地,标注信息包括待标注区域中目标对象的对象标注信息,标注模块120可以用于:
210.将待标注图像输入预先训练得到的标注模型,识别出待标注区域中的目标对象;
211.对目标对象进行标注,得到目标对象的对象标注信息。
212.可选地,标注模块120可以用于:
213.确定目标对象的类别;
214.基于目标对象的类别,采用对应标注方式对目标对象进行标注;
215.根据标注结果得到目标对象的对象标注信息,对象标注信息包含目标对象的类别信息。
216.可选地,标注模块120可以用于:
217.利用标注框框定目标对象;
218.确定标注框的位置信息,并统计标注框的数量;
219.根据位置信息、数量得到目标对象的对象标注信息。
220.可选地,标注信息包括待标注区域的场景标注信息,标注模块120可以用于:
221.将待标注图像输入预先训练得到的标注模型,识别出待标注区域的区域状态;
222.基于待标注区域的区域状态,得到待标注区域的场景标注信息。
223.可选地,待标注图像包含在设定时间段内的多张分别具有同一目标对象的图像,各张图像中的目标对象处于不同状态,标注模块120可以用于:
224.将各张图像输入预先训练得到的标注模型,识别出各张图像中目标对象的状态信息;
225.基于各张图像中目标对象的状态信息进行标注,得到用于表征目标对象的状态随时间连续变化的标注信息。
226.可选地,上述修正模块140可以用于:
227.确定目标待标注图像中缺失的标注信息,利用获得的修正信息中的新增标注信息进行补充;和/或
228.确定目标待标注图像中错误的标注信息,将错误的标注信息删除,并利用获得的修正信息中的替换标注信息进行替换;和/或
229.确定目标待标注图像中错误的标注信息,利用获得的修正信息中的修改标注信息进行修改。
230.可选地,图像处理装置10还可包括识别模块,该识别模块可以用于:
231.获取待识别区域的待识别图像;
232.利用预先训练得到的预测模型对待识别图像进行识别,得到待识别区域对应的识别结果。
233.可选地,待识别图像和待标注图像为在相同拍摄状态下拍摄获得。
234.可选地,预测模型包括多种类别,上述识别模块可以用于:
235.获取待识别图像的识别任务;
236.根据识别任务从多种类别的预测模型中确定目标预测模型;
237.利用目标预测模型对待识别图像进行识别。
238.可选地,图像处理装置10还可包括判断模块,该判断模块可以用于:
239.在识别结果与获取的预期结果差距超过预设范围时,基于识别结果和预期结果判断是否对识别结果进行修正;
240.在确定对识别结果进行修正的情况下,将识别结果修正后的待识别图像加入样本集,以对预测模型进行训练。
241.可选地,上述判断模块还可以用于:
242.在确定不对识别结果进行修正的情况下,比对待识别图像和待标注图像的识别任务是否属于同一类,或比对拍摄待识别图像和待标注图像的拍摄状态是否一致;
243.根据比对结果得到反馈信息,并提交反馈信息至管理系统。
244.请参阅图13,本技术实施例还提供一种管理系统,该管理系统包括相互连接的交互模块和处理模块。交互模块和处理模块可以是作为软件产品装载于终端或服务器中,也可以是一种软硬件结合的产品。交互模块和处理模块可通过电性连接或通信连接,如,两者可以通过电缆进行连接,也可以通过如蓝牙、wifi等无线通信方式进行连接。
245.交互模块可以提供与用户之间的人机交互功能实现,例如交互模块可以包括进行信息输入/输出的如键盘、鼠标、触摸控件等。或者交互模块可以是在这些信息输入/输出的硬件之下的软件功能模块。而处理模块可以是如终端或服务器中的处理器,也可以是可以供处理器调用运行的软件功能模块。
246.在用户需要进行图像处理时,例如需要对某个待识别区域的待识别图像进行识别处理。由于缺乏有效的预测模型进行待识别图像的处理,因此,需要先进行图像的标注,进而利用标注的图像训练得到性能优良的预测模型。
247.基于此,本实施例中,交互设备可以用于接收待处理任务,待处理任务包括标注任务和/或识别任务,其中,标注任务包括待标注区域的待标注图像;识别任务包括待识别图像。
248.而若完全依赖人工进行图像标注,将导致效率低下且标注的召回率和准确性均较低。因此,本实施例中,可以预先人工标注一部分图像构成具有标注信息的样本集,利用样本集初步训练得到标注模型。
249.基于此,本实施例中,处理模块可以用于基于预先训练得到的标注模型,获得待标注图像的标注信息,再确定标注信息不满足预设要求的目标待标注图像,基于获得的修正信息对目标待标注图像的标注信息进行修正,以满足预设要求。
250.如此,通过利用标注模型来获得待标注图像的标注信息,再对其中不满足预设要
求的目标待标注图像的标注信息进行修正。可以减少作业人员的标注工作量,提高标注效率,并且保障最终得到的标注信息的召回率和准确性。
251.在此基础上,处理模块还可以用于获得识别任务中待识别区域的待识别图像,利用预测模型对待识别图像进行识别,得到待识别区域对应的识别结果。该预测模型即为利用添加有满足预设要求的待标注图像的样本集对标注模型进行训练得到,其中,满足预设要求的待标注图像为已进行信息标注的图像。
252.通过将满足预设要求的待标注图像,如包括标注模型直接标注得到的满足预设要求的图像,以及经标注模型标注并利用修正信息修正后而满足预设要求的图像,添加至样本集中,进而继续对标注模型进行训练得到预测模型。利用训练得到的性能良好的预测模型可以有效地实现对待识别区域的识别,并输出识别结果。
253.需要说明的是,本实施例所提供的管理系统可以实现前述实施方式中任一项的图像处理方法,本实施例未详尽之处,可参见前述实施方式。
254.本技术实施例还提供一种电子设备,如图14,图14为本技术实施例提电子设备20的结构框图。该电子设备20包括通信接口230、处理器210和存储器220。该处理器210、存储器220和通信接口230相互之间直接或间接地电性连接,以实现数据的传输或交互。例如,这些元件相互之间可通过一条或多条通讯总线或信号线实现电性连接。存储器220可用于存储软件程序及模块,如本技术实施例所提供的图像处理方法对应的程序指令/模块,处理器210通过执行存储在存储器220内的软件程序及模块,从而执行各种功能应用以及数据处理。该通信接口230可用于与其他节点设备进行信令或数据的通信。在本技术中该电子设备20可以具有多个通信接口230。
255.其中,存储器220可以是但不限于,随机存取存储器(random access memory,ram),只读存储器(read only memory,rom),可编程只读存储器(programmable read-only memory,prom),可擦除只读存储器(erasable programmable read-only memory,eprom),电可擦除只读存储器(electric erasable programmable read-only memory,eeprom)等。
256.处理器210可以是一种集成电路芯片,具有信号处理能力。该处理器210可以是通用处理器,包括中央处理器(central processing unit,cpu)、网络处理器(network processor,np)等;还可以是数字信号处理器(digital signal processing,dsp)、专用集成电路(application specific integrated circuit,asic)、现场可编程门阵列(field-programmable gate array,fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。
257.本技术实施例提供一种存储介质,其上存储有计算机程序,该计算机程序被处理器210执行时实现如前述实施方式中任一项的图像处理方法。该计算机可读存储介质可以是,但不限于,u盘、移动硬盘、rom、ram、prom、eprom、eeprom、磁碟或者光盘等各种可以存储程序代码的介质。
258.综上所述,本技术实施例提供的图像处理方法、装置、管理系统、电子设备20和存储介质,通过获取待标注区域的待标注图像,基于预先训练得到的标注模型,获得待标注图像的标注信息,该标注模型为预先利用具有标注信息的样本集进行训练得到。确定标注信息不满足预设要求的目标待标注图像,基于获得的修正信息对目标待标注图像的标注信息进行修正,以满足预设要求。如此,可以利用得到的标注模型对于待标注图像进行标注,在
此基础上,再对标注信息进行修正,可以减少作业人员的标注工作量,提高标注效率,并且可以保障最终得到的标注信息的召回率和准确性。
259.以上,仅为本技术的具体实施方式,但本技术的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本技术揭露的技术范围内,可轻易想到的变化或替换,都应涵盖在本技术的保护范围之内。因此,本技术的保护范围应以权利要求的保护范围为准。