目标模型文件生成方法、价值信息生成方法和装置与流程

文档序号:36219614发布日期:2023-11-30 10:20阅读:22来源:国知局
目标模型文件生成方法与流程

本公开的实施例涉及计算机,具体涉及目标模型文件生成方法、价值信息生成方法和装置。


背景技术:

1、随着人工智能的发展,人工智能成为人们日益关注的重点。针对模型人工智能领域中的模型进行推理时,通常采用的方式为:基于kubernetes容器化或者通用的模型推理方式,对模型进行实时推理计算。

2、然而,发明人发现,当采用上述方式时,经常会存在如下技术问题:

3、该模型推理方式侧重于进行离线批量的模型结果计算,针对联合建模场景下要求模型实时线上推理计算低延迟的要求无法满足需要,导致采用推理后的模型,模型结果的生成延迟较长,生成效率低下。

4、该背景技术部分中所公开的以上信息仅用于增强对本发明构思的背景的理解,并因此,其可包含并不形成本国的本领域普通技术人员已知的现有技术的信息。


技术实现思路

1、本公开的内容部分用于以简要的形式介绍构思,这些构思将在后面的具体实施方式部分被详细描述。本公开的内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征,也不旨在用于限制所要求的保护的技术方案的范围。

2、本公开的一些实施例提出了目标模型文件生成方法、价值信息生成方法和装置,来解决以上背景技术部分提到的技术问题。

3、第一方面,本公开的一些实施例提供了一种目标模型文件生成方法,该方法包括:获取价值信息生成模型文件;对上述价值信息生成模型文件对应的数据组织格式进行转换,得到转换后模型文件;针对目标数目个价值信息生成请求,对上述转换后模型文件对应模型的节点数据结构进行更改,得到更改后模型文件;利用上述转换后模型文件,对上述更改后模型文件进行校验,得到校验结果;响应于确定校验结果表征校验通过,将上述更改后模型文件确定为目标模型文件。

4、可选地,上述方法还包括:响应于确定上述校验结果表征校验未通过,将上述转换后模型文件确定为目标模型文件。

5、可选地,上述利用上述转换后模型文件,对上述更改后模型文件进行校验,得到校验结果,包括:获取校验数据;将上述校验数据输入至上述转换后模型文件对应的模型,得到上述校验数据对应的第一价值信息;将上述校验数据输入至上述更改后模型文件对应的模型,得到上述校验数据对应的第二价值信息;根据上述第一价值信息和上述第二价值信息,确定校验结果。

6、可选地,上述根据上述第一价值信息和上述第二价值信息,确定校验结果,包括:响应于确定上述第一价值信息与上述第二价值信息满足预设价值信息取值条件,将表征上述更改后模型文件校验通过的结果确定为上述校验结果;响应于确定上述第一价值信息与上述第二价值信息不满足上述预设分数取值条件,将表征上述更改后模型文件校验未通过的结果确定为校验结果。

7、可选地,上述转换后模型文件是树形结构的模型文件,上述转换后模型文件包括多个节点名称信息,上述多个节点名称信息中每个节点名称信息存在对应的阈值、对应的表征特征缺失数据的特征兜底信息、对应的左子树信息和对应的右子树信息。

8、第二方面,本公开的一些实施例提供了一种价值信息生成方法,该方法包括:获取目标模型文件,其中,上述目标模型文件是第一方面关联的目标模型文件生成方法生成的;响应于接收到针对目标用户的、生成用户价值信息的请求,将上述目标用户对应的用户价值数据输入至上述目标模型文件对应的模型,得到用户价值信息。

9、第三方面,本公开的一些实施例提供了一种目标模型文件生成装置,装置包括:第一获取单元,被配置成获取价值信息生成模型文件;转换单元,被配置成对上述价值信息生成模型文件对应的数据组织格式进行转换,得到转换后模型文件;更改单元,被配置成针对目标数目个价值信息生成请求,对上述转换后模型文件对应模型的节点数据结构进行更改,得到更改后模型文件;校验单元,被配置成利用上述转换后模型文件,对上述更改后模型文件进行校验,得到校验结果;确定单元,被配置成响应于确定校验结果表征校验通过,将上述更改后模型文件确定为目标模型文件。

10、可选地,上述目标模型文件生成装置还包括:响应于确定上述校验结果表征校验未通过,将上述转换后模型文件确定为目标模型文件。

11、可选地,上述校验单元被进一步配置成:获取校验数据;将上述校验数据输入至上述转换后模型文件对应的模型,得到上述校验数据对应的第一价值信息;将上述校验数据输入至上述更改后模型文件对应的模型,得到上述校验数据对应的第二价值信息;根据上述第一价值信息和上述第二价值信息,确定校验结果。

12、可选地,上述校验单元被进一步配置成:响应于确定上述第一价值信息与上述第二价值信息满足预设价值信息取值条件,将表征上述更改后模型文件校验通过的结果确定为上述校验结果;响应于确定上述第一价值信息与上述第二价值信息不满足上述预设分数取值条件,将表征上述更改后模型文件校验未通过的结果确定为校验结果。

13、可选地,上述转换后模型文件是树形结构的模型文件,上述转换后模型文件包括多个节点名称信息,上述多个节点名称信息中每个节点名称信息存在对应的阈值、对应的表征特征缺失数据的特征兜底信息、对应的左子树信息和对应的右子树信息。

14、第四方面,本公开的一些实施例提供了一种价值信息生成装置,装置包括:第二获取单元,被配置成获取目标模型文件,其中,上述目标模型文件是本公开的第一方面对应的目标模型文件方法生成的;输入单元,被配置成响应于接收到针对目标用户的、生成用户价值信息的请求,将上述目标用户对应的用户价值数据输入至上述目标模型文件对应的模型,得到用户价值信息。

15、第五方面,本公开的一些实施例提供了一种电子设备,包括:一个或多个处理器;存储装置,其上存储有一个或多个程序,当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现上述第一方面和第二方面任一实现方式所描述的方法。

16、第六方面,本公开的一些实施例提供了一种计算机可读介质,其上存储有计算机程序,其中,上述计算机程序被处理器执行时实现上述第一方面和第二方面任一实现方式所描述的方法。

17、第七方面,本公开的一些实施例提供了一种计算机程序产品,包括计算机程序,计算机程序在被处理器执行时实现上述第一方面和第二方面任一实现方式所描述的方法。

18、本公开的上述各个实施例具有如下有益效果:通过本公开的一些实施例的目标模型文件生成方法,通过对模型文件的文件结构变换,减少了模型推理延迟,提高了变换后的模型的模型结果生成效率。具体来说,导致模型结果推理效率较低的原因在于:该模型推理方式侧重于进行离线批量的模型结果计算,针对联合建模场景下要求模型实时线上推理计算低延迟的要求无法满足需要,导致采用推理后的模型,模型结果的生成延迟较长,生成效率低下。基于此,本公开的一些实施例的目标模型文件生成方法,首先,获取价值信息生成模型文件;其次,对上述价值信息生成模型文件对应的数据组织格式进行转换,得到转换后模型文件。在这里,对上述价值信息生成模型文件对应的数据组织格式进行转换,在提高价值信息生成模型文件的推理速度的基础上,实现了价值信息生成模型文件的模型高效推理。然后,针对目标数目个价值信息生成请求,对上述转换后模型文件对应模型的节点数据结构进行更改,得到更改后模型文件。在这里,对上述转换后模型文件对应模型包括的节点数据结构进行更改,从而,针对目标数目个价值信息生成请求的基础上,从本质上解决价值信息生成模型文件对应推理较慢,导致生成请求对应的请求结果的延迟较高的问题。侧面上看,还可以提高模型整体的生成准确率。接着,利用上述转换后模型文件,对上述更改后模型文件进行校验,得到校验结果。在这里,通过对更改后模型文件进行校验,以保障更改后模型文件没有因为对应节点数据结构的结构改变,导致模型的输出结果受到影响。最后,响应于确定校验结果表征校验通过,将上述更改后模型文件确定为目标模型文件。综上,通过对上述价值信息生成模型文件对应的数据组织格式、对应节点数据结果的更改和更改后模型文件的校验,在保障模型输出精准度不受到影响的前提下,提高价值信息生成模型文件的推理速度。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1