网络模型推理方法、装置、电子设备及存储介质与流程

本发明涉及网络模型自动化测试，具体而言，涉及一种网络模型推理方法、装置、电子设备及存储介质。

背景技术：

1、伴随着人工智能的快速发展，ai算法网络模型成为开发者和用户青睐的对象，通过网络模型可以实现数据资源的快速处理。

2、关于网络模型训练后的性能检测，则需要通过网络模型推理来实现。当前的网络模型推理，通常是对数据进行统一处理后，基于加载的神经网络模型进行推理，最后输出网络模型的推理解析结果。这样的方式存在实际项目中网络模型较多时，每个模型的功能不一样，无法选择特定数据来对指定的网络模型进行推理。

技术实现思路

1、有鉴于此，本申请实施例的目的在于提供一种网络模型推理方法、装置、电子设备及存储介质，能够改善实际项目中网络模型较多时，每个模型的功能不一样，无法选择特定数据来对指定的网络模型进行推理的问题。

2、为实现上述技术目的，本申请采用的技术方案如下：

3、第一方面，本申请实施例提供了一种网络模型推理方法，所述方法包括：

4、获取与用户的推理需求对应的基础配置参数，所述基础配置参数包括用于表征样本数据的名称及需求量的第一标签；

5、以预设的数据挖掘策略，从预设的数据集中挖掘与所述基础配置参数对应的所述样本数据；

6、根据所述样本数据，生成对应的推理配置，所述推理配置包括网络模型名称、样本数据存储路径、推理结果存储路径、语义分割类任务的类别和目标检测类任务的目标类别中的至少一种；

7、根据所述样本数据及所述推理配置调用目标网络模型进行推理，以得到表征所述目标网络模型的工作性能的推理结果，所述目标网络模型包括与所述基础配置参数对应的网络模型。

8、结合第一方面，在一些可以选的实施方式中，以预设的数据挖掘策略，从预设的数据集中挖掘与所述基础配置参数对应的所述样本数据，包括：

9、获取与所述基础配置参数对应的数据挖掘规则；

10、根据所述数据挖掘规则，依次查询与所述数据集对应的json标注文件，所述json标注文件包括表征所述数据集中每条数据的相关信息的第二标签；

11、当所述json标注文件中标注的所述相关信息满足所述挖掘规则时，确定所述数据集中与所述json标注文件对应的数据为所述样本数据。

12、结合第一方面，在一些可以选的实施方式中，所述数据挖掘规则包括默认规则；

13、所述默认规则包括表征目标状态信息的第三标签；

14、所述第三标签包括连续帧图片抽选量、目标遮挡程度、目标朝向、目标截断程度、目标种类数量、目标数量中的至少一种；

15、其中，所述目标是指与所述第一标签中的所述名称对应的图像内容。

16、结合第一方面，在一些可以选的实施方式中，所述数据挖掘规则还包括增强规则；

17、所述增强规则包括表征图片场景信息的第四标签，所述第四标签包括天气、光照强度、遮挡程度、白天或黑夜中的至少一种。

18、结合第一方面，在一些可以选的实施方式中，在根据所述样本数据，生成对应的推理配置之前，所述方法还包括：

19、判断所述样本数据的数量是否满足所述基础配置参数中的所述需求量；

20、当所述样本数据的数量不满足所述基础配置参数中的所述需求量时，调整所述数据挖掘策略，以得到调整后的数据挖掘策略；

21、通过所述调整后的数据挖掘策略，从所述数据集中挖掘与所述基础配置参数对应的所述样本数据。

22、结合第一方面，在一些可以选的实施方式中，根据所述样本数据及所述推理配置调用目标网络模型进行推理，以得到表征所述目标网络模型的工作性能的推理结果，包括：

23、当所述目标网络模型为目标检测类模型时，对所述目标网络模型推理后的输出内容进行预处理；

24、确定预处理结果为所述推理结果；

25、其中，所述预处理包括通过预设的非极大值抑制策略，确定所述输出内容中评分最高的位置区域为所述预处理结果。

26、结合第一方面，在一些可以选的实施方式中，根据所述样本数据及所述推理配置调用目标网络模型进行推理，以得到表征所述目标网络模型的工作性能的推理结果，包括：

27、当所述目标网络模型为语义分割类模型时，对所述目标网络模型推理后的输出内容进行预处理；

28、确定预处理结果为所述推理结果；

29、其中，所述预处理包括为每个目标标注一个表征目标类别的第五标签，所述目标是指与所述第一标签中的所述名称对应的图像内容；

30、为所述输出内容中包含所述目标的像素点，设置与所述目标对应的第五标签；

31、确定设置有所述第五标签的所述像素点为所述预处理结果。

32、第二方面，本申请实施例还提供一种网络模型推理装置，所述装置包括：

33、获取单元，用于获取与用户的推理需求对应的基础配置参数，所述基础配置参数包括用于表征样本数据的名称及需求量的第一标签；

34、数据挖掘单元，用于以预设的数据挖掘策略，从预设的数据集中挖掘与所述基础配置参数对应的所述样本数据；

35、配置生成单元，用于根据所述样本数据，生成对应的推理配置，所述推理配置包括网络模型名称、样本数据存储路径、推理结果存储路径、语义分割类任务的类别和目标检测类任务的目标类别中的至少一种；

36、推理单元，用于根据所述样本数据及所述推理配置调用目标网络模型进行推理，以得到表征所述目标网络模型的工作性能的推理结果，所述目标网络模型包括与所述基础配置参数对应的网络模型。

37、第三方面，本申请实施例还提供一种电子设备，所述电子设备包括相互耦合的处理器及存储器，所述存储器内存储计算机程序，当所述计算机程序被所述处理器执行时，使得所述电子设备执行上述的方法。

38、第四方面，本申请实施例还提供一种计算机可读存储介质，所述计算机可读存储介质中存储有计算机程序，当所述计算机程序在计算机上运行时，使得所述计算机执行上述的方法。

39、采用上述技术方案的发明，具有如下优点：

40、在本申请提供的技术方案中，通过结合用户的推理需求，为网络模型的推理设置对应的基础配置参数。随后通过预设的数据挖掘策略，从数据集中挖掘与基础配置参数对应的样本数据。得到样本数据后，生成对应的推理配置，如网络模型名称、样本数据存储路径、推理结果存储路径、语义分割类任务的类别和目标检测类任务的目标类别。最终，根据样本数据及推理配置调用与用户推理需求对应的目标网络模型进行推理，以得到推理结果。如此，当实际项目中所涉及的网络模型较多时，可以根据用户的具体需求,对指定的网络模型进行数据挖掘及推理，避免非目标网络模型占用计算资源。

技术特征：

1.一种网络模型推理方法，其特征在于，所述方法包括：

2.根据权利要求1所述的方法，其特征在于，以预设的数据挖掘策略，从预设的数据集中挖掘与所述基础配置参数对应的所述样本数据，包括：

3.根据权利要求2所述的方法，其特征在于，所述数据挖掘规则包括默认规则；

4.根据权利要求3所述的方法，其特征在于，所述数据挖掘规则还包括增强规则；

5.根据权利要求1所述的方法，其特征在于，在根据所述样本数据，生成对应的推理配置之前，所述方法还包括：

6.根据权利要求1所述的方法，其特征在于，根据所述样本数据及所述推理配置调用目标网络模型进行推理，以得到表征所述目标网络模型的工作性能的推理结果，包括：

7.根据权利要求1所述的方法，其特征在于，根据所述样本数据及所述推理配置调用目标网络模型进行推理，以得到表征所述目标网络模型的工作性能的推理结果，包括：

8.一种网络推理装置，其特征在于，所述装置包括：

9.一种电子设备，其特征在于，所述电子设备包括相互耦合的处理器及存储器，所述存储器内存储计算机程序，当所述计算机程序被所述处理器执行时，使得所述电子设备执行如权利要求1-7中任一项所述的方法。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质中存储有计算机程序，当所述计算机程序在计算机上运行时，使得所述计算机执行如权利要求1-7中任一项所述的方法。

技术总结
本申请提供一种网络模型推理方法、装置、电子设备及存储介质，涉及网络模型自动化测试技术领域。方法包括：获取与用户的推理需求对应的基础配置参数。以预设的数据挖掘策略，从预设的数据集中挖掘与基础配置参数对应的样本数据。根据样本数据，生成对应的推理配置，推理配置包括网络模型名称、样本数据存储路径、推理结果存储路径、语义分割类任务的类别和目标检测类任务的目标类别中的至少一种。根据样本数据及推理配置调用目标网络模型进行推理，以得到表征目标网络模型的工作性能的推理结果。如此，可以改善实际项目中网络模型较多时，每个模型的功能不一样，无法选择特定数据来指定的网络模型进行推理的问题。

技术研发人员：龚敏,刘超,刘杭
受保护的技术使用者：重庆长安汽车股份有限公司
技术研发日：
技术公布日：2024/1/12