样本数据处理方法、装置、电子设备及介质与流程

1.本公开涉及大数据处理技术领域，具体而言，涉及一种样本数据处理方法、样本数据处理装置、电子设备和计算机可读介质。


背景技术：

2.近年来，机器学习技术的发展越来越快，已经逐步成为了各个领域的核心技术，例如图像识别、自然语言处理、自动驾驶等等。机器学习技术需要获得样本数据，然后对样本数据进行标记，才能建立样本数据的输入与输出之间的映射关系，获得模型，因此样本数据的标注非常重要。
3.样本数据的标记目前主要依赖于人工进行，虽然人工标注的标注精度较高，但其效率很低，成本高，因此提高样本标注效率成为了研究的焦点。
4.需要说明的是，在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。


技术实现要素：

5.本公开实施例的目的在于提供一种样本数据处理方法、样本数据处理装置、电子设备和计算机可读介质，能够自动地对样本数据进行初次标注，通过初次标注筛选出质量较高的可用样本，再进行二次标注得到精确度更高的标注样本，提高样本数据的标注效率，以及标注的准确性。
6.本公开的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本公开的实践而习得。
7.根据本公开实施例的第一方面，提供了一种样本数据处理方法，包括：步骤s1：利用包含标注的训练数据集训练获得筛选模型；步骤s2：获取待处理样本数据，对所述待处理样本数据进行初次标注；步骤s3：通过所述筛选模型输出所述待处理样本数据的处理结果，其中，所述处理结果包括置信度，根据所述处理结果提取所述待处理样本中的可用样本，其中所述筛选模型对所述可用样本输出的置信度小于第一阈值；步骤s4：利用所述初次标注对所述可用样本进行二次标注，将所述包含二次标注的可用样本扩充所述训练数据集。
8.在本公开的示例性实施方式中，所述方法还包括：步骤s5：通过扩充后的所述训练数据集对所述筛选模型进行更新，并更新所述待处理样本数据；步骤s6：通过更新后的所述筛选模型、所述更新后的待处理样本数据循环执行所述步骤s3-s5。
9.在本公开的示例性实施方式中，当所述筛选模型的评价指标满足预设条件时，停止执行循环。
10.在本公开的示例性实施方式中，所述初次标注包括对所述待处理样本数据中目标对象的位置进行标注，当所述处理结果包括所述待处理样本数据中目标对象的位置时，所述根据所述处理结果提取所述待处理样本中的可用样本，包括：提取所述筛选模型输出的处理结果的位置和所述初次标注的位置的偏差大于第二阈值的待处理样本数据作为所述
可用样本。
11.在本公开的示例性实施方式中，所述初次标注包括对所述待处理样本数据中目标对象的轮廓进行标注，当所述处理结果包括所述待处理样本数据中目标对象的轮廓时，所述根据所述处理结果提取所述待处理样本中的可用样本，包括：提取所述筛选模型输出的处理结果的轮廓和所述初次标注的轮廓的偏差大于第三阈值的待处理样本数据作为所述可用样本。
12.在本公开的示例性实施方式中，所述处理结果包括所述待处理样本数据中目标对象的类别；所述对所述可用样本进行二次标注，将所述包含二次标注的可用样本扩充所述训练数据集，包括：
13.根据所述目标对象的类别获取所述目标对象对应的模板；对所述可用样本进行二次标注，获取二次标注结果；计算所述模板与所述二次标注结果的相似度评价指标，将所述相似度评价指标大于第四阈值的可用样本扩充所述训练数据集。
14.在本公开的示例性实施方式中，所述初次标注包括对所述待处理样本数据中目标对象的类别进行标注，根据所述处理结果提取所述待处理样本中的可用样本包括：当所述处理结果中目标对象的类别与所述初次标注目标对象的类别不一致时，将对应的所述待处理样本作为所述所述可用样本。
15.根据本公开实施例的第二方面，提供了一种样本数据处理装置，可以包括模型训练模块、样本标注模块、数据筛选模块以及样本数据确定模块。
16.其中，模型训练模块，用于利用包含标注的训练数据集训练获得筛选模型；样本标注模块，用于获取待处理样本数据，对所述待处理样本数据进初次标注；数据筛选模块，用于通过所述筛选模型输出所述待处理样本数据的处理结果，其中，所述处理结果包括置信度，根据所述处理结果提取所述待处理样本中的可用样本，其中所述筛选模型对所述可用样本输出的置信度小于第一阈值；样本数据确定模块，用于利用所述初次标注对所述可用样本进行二次标注，将所述包含二次标注的可用样本扩充所述训练数据集。
17.在本公开的示例性实施方式中，所述样本数据处理装置还包括数据更新模块以及循环模块。
18.其中，数据更新模块，用于通过扩充后的所述训练数据集对所述筛选模型进行更新，并更新所述待处理样本数据。
19.循环模块，用于通过更新后的所述筛选模型、所述更新后的待处理样本数据循环所述模型训练模块、样本标注模块、数据筛选模块、样本数据确定模块以及数据更新模块。
20.在本公开的示例性实施方式中，所述循环模块可以被配置为：当所述筛选模型的评价指标满足预设条件时，停止执行循环。
21.在本公开的示例性实施方式中，所述处理结果还包括所述待处理样本数据中目标对象的位置或轮廓。
22.在本公开的示例性实施方式中，所述初次标注包括对所述待处理样本数据中目标对象的位置进行标注，当所述处理结果包括所述待处理样本数据中目标对象的位置时，所述数据筛选模块用于：提取所述筛选模型输出的处理结果的位置和所述初次标注的位置的偏差大于第二阈值的待处理样本数据作为所述可用样本。
23.在本公开的示例性实施方式中，所述初次标注包括对所述待处理样本数据中目标
对象的轮廓进行标注，当所述处理结果包括所述待处理样本数据中目标对象的轮廓时，数据筛选模块用于：提取所述筛选模型输出的处理结果的轮廓和所述初次标注的轮廓的偏差大于第三阈值的待处理样本数据作为所述可用样本。
24.在本公开的示例性实施方式中，所述处理结果包括所述待处理样本数据中目标对象的类别；所述样本数据确定模块可以用于：根据所述目标对象的类别获取所述目标对象对应的模板；对所述可用样本进行二次标注，获取二次标注结果；计算所述模板与所述二次标注结果的相似度评价指标，将所述相似度评价指标大于第四阈值的可用样本扩充所述训练数据集。
25.在本公开的示例性实施方式中，所述初次标注包括对所述待处理样本数据中目标对象的类别进行标注，所述数据筛选模块用于：当所述处理结果中目标对象的类别与所述初次标注目标对象的类别不一致时，将对应的所述待处理样本作为所述所述可用样本。
26.根据本公开实施例的第三方面，提供了一种电子设备，包括：一个或多个处理器；存储装置，用于存储一个或多个程序，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器实现如上述实施例中第一方面所述的样本数据处理方法。
27.根据本公开实施例的第四方面，提供了一种计算机可读介质，其上存储有计算机程序，所述程序被处理器执行时实现如上述实施例中第一方面所述的样本数据处理方法。
28.在本公开实施例所提供的样本数据处理方法、样本数据处理装置、电子设备和计算机可读介质，通过对待处理样本数据进行初次标记，利用筛选模型从待处理样本数据中选取符合要求的可用样本，再对可用样本进行二次标记，以对训练数据集进行扩充，从而获得包含标记的样本，不仅无须人工对样本进行标记，能够提高样本标记效率，还可以对样本进行筛选获得符合要求的高质量样本数据，提高机器学习模型的训练效率和精确度。
29.应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。
附图说明
30.此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理。显而易见地，下面描述中的附图仅仅是本公开的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。在附图中：
31.图1示意性示出了应用于本公开实施例的样本数据处理方法或样本数据处理装置的示例性系统架构示意图；
32.图2示意性示出了根据本公开的一实施例的样本数据处理方法的流程图；
33.图3示意性示出了根据本公开的另一实施例的样本数据处理方法的流程图；
34.图4示意性示出了根据本公开的一实施例的样本数据处理装置的框图；
35.图5示出了适于用来实现本公开实施例的电子设备的计算机系统的结构示意图。
具体实施方式
36.现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形
式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本公开将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。
37.此外，所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中，提供许多具体细节从而给出对本公开的实施例的充分理解。然而，本领域技术人员将意识到，可以实践本公开的技术方案而没有特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知方法、装置、实现或者操作以避免模糊本公开的各方面。
38.附图中所示的方框图仅仅是功能实体，不一定必须与物理上独立的实体相对应。即，可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
39.附图中所示的流程图仅是示例性说明，不是必须包括所有的内容和操作/步骤，也不是必须按所描述的顺序执行。例如，有的操作/步骤还可以分解，而有的操作/步骤可以合并或部分合并，因此实际执行的顺序有可能根据实际情况改变。
40.本说明书中，用语“一个”、“一”、“该”、“所述”和“至少一个”用以表示存在一个或多个要素/组成部分/等；用语“包含”、“包括”和“具有”用以表示开放式的包括在内的意思，并且是指除了列出的要素/组成部分/等之外还可存在另外的要素/组成部分/等；用语“第一”、“第二”、“第三”等仅作为标记使用，不是对其对象的数量限制。
41.下面结合附图对本公开示例实施方式进行详细说明。
42.图1示出了可以应用于本公开实施例的样本数据处理方法或样本数据处理装置的示例性应用环境的系统架构的示意图。
43.如图1所示，系统架构100可以包括终端设备101、102、103中的一个或多个，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
44.用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。其中，终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于台式计算机、便携式计算机、智能手机和平板电脑、可穿戴设备、虚拟现实设备、智能家居等等。
45.服务器105可以是提供各种服务的服务器，例如对用户利用终端设备101、102、103所进行操作的装置提供支持的后台管理服务器。后台管理服务器可以对接收到的请求等数据进行分析等处理，并将处理结果反馈给终端设备。
46.举例而言，服务器105可例如利用包含标注的训练数据集训练获得筛选模型；并获取待处理样本数据，对待处理样本数据进行初次标注；服务器105还可例如通过筛选模型输出待处理样本的处理结果，根据处理结果对待处理样本进行筛选，获得待处理样本中的可用样本；并利用初次标注对可用样本进行二次标注，将包含二次标注的可用样本扩充至训练数据集中。
47.应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。比如服务器105可以是多个服务器组成的服务器集群等。
48.本公开实施例所提供的样本数据处理方法一般由服务器105执行，相应地，样本数
据处理装置一般设置于服务器105中。但本领域技术人员容易理解的是，本公开实施例所提供的样本数据处理方法也可以由终端设备101、102、103执行，相应的，样本数据处理装置也可以设置于终端设备101、102、103中，本示例性实施例中对此不做特殊限定。
49.基于此，本公开实施例提供一种样本数据处理方法的技术方案，可以对样本数据进行自动标注，并利用筛选模型对标注进行筛选，获得符合要求的可用样本，在对可用样本进行二次标注，可用提高标注的准确性，以便于提高模型训练的效率和准确性。
50.如图2所示，本公开实施例提供的样本数据处理方法可以包括以下步骤：
51.步骤s1：利用包含标注的训练数据集训练获得筛选模型。
52.步骤s2：获取待处理样本数据，对所述待处理样本数据进行初次标注。
53.步骤s3：通过所述筛选模型输出所述待处理样本数据的处理结果，其中，所述处理结果包括置信度，根据所述处理结果提取所述待处理样本中的可用样本，其中，所述筛选模型对所述可用样本输出的置信度小于第一阈值。
54.步骤s4：对所述可用样本进行二次标注，将所述包含二次标注的可用样本扩充所述训练数据集。
55.以下详细介绍本实施方式中各个步骤的具体实施方式。
56.在步骤s1中，利用包含标注的训练数据集训练获得筛选模型。
57.训练数据集可以包含多种类别的数据，例如图像、文本、音频等等，以图像为例。训练数据集中可以包括十万级、百万级、千万级等多张图像，每张图像中可以包含目标对象以及目标对象的标注。目标对象可以包括路标，例如红绿灯、路面绘制的方向箭头等等；还可以包括建筑物、车辆、道路等等；标注例如可以是目标对象的类别标注、目标对象在图像中的位置标注，还可以例如为目标对象的轮廓标注，本实施方式对以上均不做特殊限定。
58.利用包含标注的训练数据集采用机器学习算法可以获得筛选模型。筛选模型可以用于识别图像，或者可以用于识别图像中特定目标的位置，也可以用于识别图像中特定目标的轮廓；根据实际训练目标，筛选模型也可以用于其他识别任务，例如筛选模型可以用于识别图像中的文字等等。训练筛选模型的方式可以采用聚类、随机森林、卷积神经网络等，本实施方式不限于此。举例而言，采集包含路标的图像作为训练数据集，其中标注可以为路标的类别，利用该训练数据集对聚类模型进行训练，训练完成后可以得到该筛选模型。
59.在步骤s2中，获取待处理样本数据，对待处理样本数据进行初次标注。
60.待处理样本数据指的是不包含标注的数据，例如不包含标注的路标图像等。举例而言，初次标注可以首先从高精度地图中获取目标对象对应的地图要素，然后利用获取的地图要素逆向识别出待处理样本数据中的目标对象，从而对目标对象进行标注，完成自动初次标注。标注之后可以得到包含标注的待处理样本。
61.接下来，在步骤s3中，通过筛选模型输出待处理样本数据的处理结果，进而根据处理结果提取待处理样本数据中的可用样本。
62.在本实施方式中，将待处理样本数据作为筛选模型的输入，通过筛选模型对待处理样本进行识别，得到待处理样本数据的处理结果。处理结果中包括对待处理样本输出的置信度。置信度可以指筛选模型对待处理样本数据识别正确的概率，置信度越高则筛选模型对待处理样本数据的处理结果越可信。得到待处理样本数据的处理结果之后，可以利用处理结果中包含的置信度对待处理样本进行筛选，提取出待处理样本数据中置信度小于第
一阈值的数据，作为可用样本。举例而言，筛选模型输出的处理结果中为待处理样本数据中目标对象的类别，则处理结果中置信度为待处理样本数据中目标对象为特定类别的概率，则置信度越高处理结果越准确。对于待处理样本数据来说，若筛选模型对其输出的置信度越高则筛选模型对其学到的映射关系关系越准确，则待处理样本数据对筛选模型的优化的价值越小；若筛选模型对待处理样本数据输出的置信度越小，则待处理样本数据与筛选模型的训练数据集中的数据可能存在较大的差异，待处理样本对于筛选模型的优化价值越高，则可以作为可用样本。其中，第一阈值可以为0.5、0.4、0.3，也可以为0.2、0.35等等，本实施方式不限于此。
63.在示例性的实施方式中，筛选模型输出的处理结果中也可以包括待处理样本数据中目标对象的位置或轮廓。相应的，对待处理样本数据进行初次标注可以包括：对待处理样本数据中的目标对象的位置进行标注；或者对待处理样本数据中的目标对象的轮廓进行标注。
64.在初次标注为对待处理样本数据中目标对象的位置进行标注时，筛选模型输出的处理结果可以包括目标对象的位置。当处理结果中包含目标对象的位置时，提取待处理样本中的可用样本的方式可以包括：提取处理结果中目标对象的位置与待处理样本的初次标注中位置之间偏差大于第二阈值的待处理样本数据，作为可用样本。筛选模型对待处理样本数据识别出的处理结果中的位置，若与待处理样本数据的初次标注的位置偏差较大，则待处理样本数据可以作为对于筛选模型有优化价值的数据，因此可以将处理结果中位置与初次标注偏差较大的待处理样本数据作为可用样本。其中，第二阈值可以包括0.5、0.4等，也可以包括其他值，例如0.6、0.55、0.45等等，本实施方式对此不做限定。
65.在初次标注为对待处理样本数据中目标对象的轮廓进行标注时，处理结果中可以包括筛选模型对待处理样本数据中目标对象而输出的轮廓。当处理结果中包含目标对象的轮廓时，提取待处理样本中的可用样本的方式可以包括：提取待处理样本数据的处理结果中轮廓和初次标注中目标对象的轮廓之间偏差大于第三阈值的样本数据，作为可用样本。其中，第三阈值可以包括0.4、0.3等，也可以根据实际需求确定，例如0.45、0.55等等。需要理解的是，第二阈值与第三阈值可以相同，例如均为0.5；也可以不同，例如，第二阈值取值为0.55，第三阈值取值为0.5等等；本实施方式对此不做限定。
66.继续参考图2，在步骤s4中，利用初次标注对可用样本进行二次标注，将包含二次标注的可用样本扩充至训练数据集。
67.可用样本为筛选模型输出的置信度较小的样本数据，可以理解为筛选模型的训练数据集中缺少的数据，因此对可用样本再次进行标注并增加到训练数据集中，能够对训练数据集进行完善，从而利用扩充完善后的训练数据集可以得到准确率更高的模型。
68.对可用样本进行二次标注时可以利用初次标注，对初次标注进行优化从而提高标注的精确程度。举例而言，初次标注以目标对象的轮廓为例。将初次标注对目标对象标注出的轮廓作为初始化的区域，利用水平集分割模型进行曲线演化从而将初次标注的轮廓进行优化，得到二次标注。当标注为位置时，可以以初次标注中的位置为准，进行水平集演化从而得到可用样本中目标对象的精确轮廓，进而计算出目标对象所在的可用样本中的位置。
69.对初次标注进行优化得到二次标注后，可以将包含二次标注的可用样本添加至训练数据集中，从而更加全面的样本数据。
70.在示例性实施方式中，对可用样本进行二次标注之后可以再次对可用样本进行筛选，提取符合条件的可用样本扩充到训练数据集中。由于初次标注可以对目标对象的类别进行标注，基于此，对可用样本进行二次标注扩充训练数据集可以包括以下方式：首先可以获得二次标注得到的二次标注结果；并根据初次标注中目标对象的类别获取该类别对应的模板；然后计算模板与二次标注结果的相似度评价指标，提取相似度评价指标大于第四阈值的可用样本扩充到训练数据集。
71.其中，模板可以根据目标对象的每个类别预先设置，例如目标对象的类别为小轿车，则可以预先获取小轿车的图像作为模板，再例如目标对象的类别为大卡车，则可以将大卡车的图像保存为模板，从而得到每个类别对应的模板。利用余弦相似度算法、欧式距离等相似度计算算法可以计算模板与二次标注结果之间相似度评价指标，此外计算相似度评价指标还可以采用其他算法计算，例如马氏距离等等，本实施方式不限于此。
72.在示例性实施方式中，对可用样本进行二次标注扩充至训练数据集之后，还可以包括步骤s5，以及步骤s6，如图3所示。其中：
73.步骤s5：通过扩充后的训练数据集对筛选模型进行更新，并更新待处理样本。
74.步骤s6：通过更新后的筛选模型以及更新后的待处理样本循环执行步骤s1至步骤s5。
75.其中，利用扩充后的训练数据集再次对筛选模型进行训练，由于训练数据集中新增了二次标注后的样本数据，因此无论是对于筛选模型还是其他机器学习模型来说，利用更新后的训练数据集不但可以提高模型的训练效率，也可以提高训练后的模型的精确性。同时可以重新获取一批数据作为待处理样本数据，从而对待处理样本数据进行更新；或者将可用样本从待处理样本数据中删去，对待处理样本数据进行更新。利用更新后的待处理样本数据以及更新后的筛选模型循环执行上述步骤s1至步骤s5，从而不断对筛选模型进行更新，并不断从更新后的待处理样本数据中筛选出可用样本扩充到训练数据集中，使得训练数据集中的数据越来越全面，从而提高训练数据集的有效性。在机器学习过程中，根据实际需求可以利用训练数据集训练各种不同的模型，例如训练图像识别模型、文字识别模型、道路识别模型等等。由于训练数据集中包含二次标注后标注质量比较高的样本数据，因此对于各种机器学习模型来说均具有良好的样本基础，从而可以缩短训练周期，并提高训练效率和模型的准确性。
76.每次更新筛选模型之后可以计算筛选模型的评价指标，通过评价指标来确定是否需要停止循环。例如计算筛选模型的准确率等，通过准确率来评价筛选模型的优劣，如果准确率超出一定阈值，则可以确定筛选模型符合条件，退出循环，得到最终的训练数据集并进行保存。若筛选模型符合预设条件，则可以理解为训练数据集中的数据符合标注要求，从而得到标注精度符合要求的数据，节省人力标注的时间成本，并可以提高自动标注的准确性。
77.进一步的，本实施方式还提供一种样本数据处理装置，可以用于执行本公开上述的样本数据处理方法。参考图4，本公开实施例提供的样本数据处理装置40可以包括：模型训练模块41、样本标注模块42、数据筛选模块43以及样本数据确定模块44。
78.其中，模型训练模块41，用于利用包含标注的训练数据集训练获得筛选模型。
79.样本标注模块42，用于获取待处理样本数据，对所述待处理样本数据进初次标注。
80.数据筛选模块43，用于通过所述筛选模型输出所述待处理样本数据的处理结果，
501、rom 502以及ram 503通过总线804彼此相连。输入/输出(i/o)接口505也连接至总线504。
94.以下部件连接至i/o接口505：包括键盘、鼠标等的输入部分506；包括诸如阴极射线管(crt)、液晶显示器(lcd)等以及扬声器等的输出部分507；包括硬盘等的存储部分508；以及包括诸如lan卡、调制解调器等的网络接口卡的通信部分509。通信部分509经由诸如因特网的网络执行通信处理。驱动器510也根据需要连接至i/o接口505。可拆卸介质511，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器510上，以便于从其上读出的计算机程序根据需要被安装入存储部分508。
95.特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分509从网络上被下载和安装，和/或从可拆卸介质511被安装。在该计算机程序被中央处理单元(cpu)501执行时，执行本技术的系统中限定的上述功能。
96.需要说明的是，本公开所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑磁盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、rf等等，或者上述的任意合适的组合。
97.附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
98.描述于本公开实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬
件的方式来实现，所描述的单元也可以设置在处理器中。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定。
99.作为另一方面，本技术还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被一个该电子设备执行时，使得该电子设备实现如上述实施例中所述的疫情防控有效性确定方法。
100.例如，所述的电子设备可以实现如图2中所示的：步骤s1，利用包含标注的训练数据集训练获得筛选模型；步骤s2，获取待处理样本数据，对所述待处理样本数据进行初次标注；步骤s3，通过所述筛选模型输出所述待处理样本数据的处理结果，其中，所述处理结果包括置信度，根据所述处理结果提取所述待处理样本中的可用样本，其中所述筛选模型对所述可用样本输出的置信度小于第一阈值；步骤s4，利用所述初次标注对所述可用样本进行二次标注，将所述包含二次标注的可用样本扩充所述训练数据集。
101.又如，所述的电子设备可以实现如图3所示的各个步骤。
102.应当注意，尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元，但是这种划分并非强制性的。实际上，根据本公开的实施方式，上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之，上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
103.通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本公开实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是cd-rom，u盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、触控终端、或者网络设备等)执行根据本公开实施方式的方法。
104.本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本公开的其它实施方案。本技术旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本公开的真正范围和精神由下面的权利要求指出。
105.应当理解的是，本公开并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。