模型调用方法、装置及存储介质与流程

文档序号:35495118发布日期:2023-09-19 21:37阅读:19来源:国知局
模型调用方法、装置及存储介质与流程

本技术涉及计算机,特别涉及一种模型调用方法、装置及存储介质。


背景技术:

1、随着计算机技术以及人工智能(artificial intelligence,ai)技术的快速发展,ai应用被广泛的用于各行各业中。其中,ai应用是指通过调用ai模型来实现业务逻辑的应用。

2、通常,ai应用的开发方和ai模型的开发方可能不是同一方。为了保障ai模型的数据安全,在部署有ai应用且具有合法使用权限的第一设备运行ai模型之前,提供ai模型的第二设备可以通过第三方的加密服务器来对ai模型文件进行加密,然后将加密模型文件发送到第一设备。之后,第一设备从加密服务器中获取加密密钥,通过该加密密钥对加密模型文件进行解密,从而获得该ai模型文件的明文,并将该ai模型文件的明文保存在本地存储器中,以便后续加载该ai模型文件来运行ai模型。

3、然而,第一设备在将ai模型文件的明文保存在本地存储器之后,可以在任意时间将该ai模型文件的明文发给任意设备来使用。也即,第二设备无法控制第一设备在获得该ai模型文件的明文之后对该ai模型文件的进一步使用。这样,该ai模型文件所涉及的各项参数依旧具有被泄露的风险。


技术实现思路

1、本技术实施例提供了一种模型调用方法、装置及存储介质,能够保障ai模型的安全使用。所述技术方案如下:

2、第一方面,提供了一种模型调用方法,应用于第一设备,所述第一设备中部署有人工智能ai应用,所述方法包括:响应于所述ai应用的模型调用请求,根据待调用的目标ai模型的模型标识和所述ai应用的权限验证参数,对所述ai应用的模型使用权限进行验证;在所述ai应用的模型使用权限验证通过的情况下,在可信执行环境tee中对所述目标ai模型的加密模型文件进行解密,得到解密模型文件;将所述解密模型文件加载至内存中,以运行所述目标ai模型;通过所述目标ai模型对所述ai应用的推理数据进行处理,得到推理结果。

3、在本技术实施例中,该第一设备根据待调用的目标ai模型的模型标识和ai应用的权限验证参数,对ai应用的模型使用权限进行验证,这样可以对该第一设备进行访问权限控制,确保该第一设备中的ai应用对目标ai模型的调用为合法调用。在ai应用的模型使用权限验证通过的情况下,该第一设备可以在tee中对目标ai模型的加密模型文件进行解密,得到解密模型文件,并将解密模型文件直接加载至内存中,以运行目标ai模型,进而通过目标ai模型对ai应用的推理数据进行处理,得到推理结果。如此,在整个过程中,目标ai模型的解密模型文件都保存在内存中,也即该目标ai模型的解密模型文件不会落盘,其他设备无法访问该目标ai模型的解密模型文件,有效的保障了目标ai模型的安全应用。

4、可选地,所述通过所述目标ai模型对所述ai应用的推理数据进行处理,得到推理结果之后,还包括:在检测到所述ai应用结束运行的情况下,删除所述内存中的所述解密模型文件。

5、在本技术实施例中,在检测到ai应用结束运行的情况下,就删除内存中的解密模型文件,有效保障了模型文件的安全性。

6、可选地,所述第一设备中存储有加密的访问控制信息;所述根据待调用的目标ai模型的模型标识和所述ai应用的权限验证参数,对所述ai应用的模型使用权限进行验证的实现过程为:在所述tee中对加密的访问控制信息进行解密,得到解密的访问控制信息;基于所述目标ai模型的模型标识、所述权限验证参数和解密的访问控制信息,对所述ai应用的模型使用权限进行验证。

7、在本技术实施例中,对加密的访问控制信息进行解密的过程在tee中进行,这样可以有效防止该访问控制信息被篡改。

8、可选地,所述访问控制信息包括至少一个ai模型的访问控制条目,每个ai模型的访问控制条目包括相应ai模型的模型标识和授权验证参数;所述基于所述目标ai模型的模型标识、所述权限验证参数和解密的访问控制信息,对所述ai应用的模型使用权限进行验证,包括:基于所述目标ai模型的模型标识,从解密的访问控制信息中获取所述目标ai模型的访问控制条目;从所述目标ai模型的访问控制条目中,查找包括的授权验证参数与所述权限验证参数相匹配的第一访问控制条目;在查找到所述第一访问控制条目的情况下,确定所述ai应用的模型使用权限验证通过。其中,所述权限验证参数包括所述第一设备的设备标识、调用时间以及所述ai应用的应用标识中的至少一个。

9、在本技术实施例中,首先基于目标ai模型的模型标识从解密的访问控制信息中获取目标ai模型的访问控制条目,之后,再从获取到的目标ai模型的访问控制条目中,查找包括的授权验证参数与ai应用的权限验证参数相匹配的第一访问控制条目,在查找到第一访问控制条目的情况下,确定ai应用的模型使用权限验证通过。由于该权限验证参数中包含多个维度的验证参数,这样可以从多个维度对ai应用的使用权限进行细粒度的权限控制,确保该ai应用是一个合法且具有使用权限的应用。

10、可选地,所述目标ai模型的访问控制条目具有第一签名信息,所述第一签名信息为第二设备对所述目标ai模型的访问控制条目进行数字签名得到,所述第二设备为提供所述目标ai模型的设备;所述从所述目标ai模型的访问控制条目中,查找包括的授权验证参数与所述权限验证参数相匹配的第一访问控制条目之前,还包括:对所述第一签名信息进行验证;在所述第一签名信息的验证通过的情况下,执行从所述目标ai模型的访问控制条目中,查找包括的授权验证参数与所述权限验证参数相匹配的第一访问控制条目的步骤。

11、在本技术实施例中,在查找第一访问控制条目之前,也即在对ai应用的使用权限进行验证之前,可以对目标ai模型的访问控制条目进行验证,在验证通过的情况下,才去查找第一访问控制条目,这样可以保证目标ai模型的访问控制条目未被篡改。此时,再执行从目标ai模型的访问控制条目中查找包括的授权验证参数与权限验证参数相匹配的第一访问控制条目的步骤,以此来保证后续基于该访问控制条目所得到的权限验证结果的准确性。

12、可选地,所述解密模型文件具有第二签名信息,所述第二签名信息为第二设备对所述解密模型文件进行数字签名得到,所述第二设备为提供所述目标ai模型的设备;所述将所述解密模型文件加载至内存中之前,还包括:对所述第二签名信息进行验证;在所述第二签名信息的验证通过的情况下,执行将所述解密模型文件加载至内存中的步骤。

13、在本技术实施例中,解密模型文件还具有第二签名信息,在这种情况下,将解密模型文件加载至内存之前,对第二签名信息进行验证,在验证通过的情况下,才将解密模型文件加载至内存中运行,这样可以保证该解密模型文件是一个未被篡改的模型文件,保障了该模型文件的安全性。

14、可选地,所述模型调用方法还包括:基于安全传输协议向第二设备发送所述ai应用的权限申请请求,所述权限申请请求包括所述目标ai模型的模型标识和待申请的授权验证参数,所述第二设备为提供所述目标ai模型的设备;接收所述第二设备基于所述安全传输协议发送的所述目标ai模型的访问控制条目和解密模型文件,所述目标ai模型的访问控制条目为所述第二设备基于所述目标ai模型的模型标识和待申请的授权验证参数生成;在所述tee中对所述目标ai模型的访问控制条目和解密模型文件进行加密,得到加密的所述目标ai模型的访问控制条目和加密模型文件;存储加密的所述目标ai模型的访问控制条目和所述加密模型文件。

15、在本技术实施例中,第一设备可以基于安全传输协议向第二设备发送ai应用的权限申请请求,并接收第二设备基于安全传输协议发送的目标ai模型的访问控制条目和解密模型文件。这样后续可以利用该访问控制条目对该ai应用的使用权限进行验证,保证该ai应用为一个合法且具有使用权限的应用。另外,由于第一设备在接收到第二设备发送的目标ai模型的访问控制条目和解密模型文件之后,直接在tee中对访问控制条目和解密模型文件进行加密,这样可以防止该访问控制条目被篡改,并且第一设备无法获取该解密模型文件的明文,有效的保证了模型文件的安全性。

16、可选地,所述第一设备包括控制组件,所述ai应用的模型调用请求为所述ai应用通过调用所述控制组件提供的api接口向所述控制组件发送的请求。

17、第一设备的控制组件可以提供api接口,且该控制组件内部包含有适用于不同底层硬件架构的逻辑代码,这样ai应用的开发者在开发过程中,无需考虑底层硬件架构的不同所导致的代码实现的不同,极大的降低了ai应用的开发难度。

18、第二方面,提供了一种模型调用方法,应用于第二设备,所述第二设备中运行有目标ai模型,所述方法包括:接收第一设备发送的ai应用的模型调用请求,所述模型调用请求包括待调用的所述目标ai模型的模型标识、权限验证参数和推理数据,所述ai应用部署在所述第一设备中;基于所述目标ai模型的模型标识和所述权限验证参数,对所述ai应用的模型使用权限进行验证;在所述ai应用的模型使用权限验证通过的情况下,通过所述目标ai模型对所述推理数据进行处理,得到推理结果;向所述第一设备发送所述推理结果。

19、在本技术实施例中,目标ai模型运行于第二设备中,ai应用部署在第一设备中,第二设备可以接收第一设备发送的ai应用的模型调用请求,并基于该模型调用请求中包括的目标ai模型的模型标识和权限验证参数,对ai应用的模型使用权限进行验证,这样可以确保该ai应用为合法且具有使用权限的应用。在ai应用的模型使用权限验证通过的情况下,通过目标ai模型对ai应用的模型调用请求中包括的推理数据进行处理,得到推理结果,并向第一设备发送推理结果。由于在整个调用过程中目标ai模型一直运行于第二设备中,第一设备不会获取到目标ai模型的模型明文,这样有效的保障了目标ai模型的安全应用。

20、可选地,所述第二设备中存储有访问控制信息,所述访问控制信息包括所述目标ai模型的访问控制条目,所述目标ai模型的访问控制条目包括所述目标ai模型的模型标识和授权验证参数;所述基于所述目标ai模型的模型标识和所述权限验证参数,对所述ai应用的模型使用权限进行验证的实现过程为:基于所述目标ai模型的模型标识,从所述访问控制信息中获取所述目标ai模型的访问控制条目;从所述目标ai模型的访问控制条目中,查找包括的授权验证参数与所述权限验证参数相匹配的第一访问控制条目;在查找到所述第一访问控制条目的情况下,确定所述ai应用的模型使用权限验证通过。

21、在本技术实施例中,首先基于目标ai模型的模型标识从解密的访问控制信息中获取目标ai模型的访问控制条目,之后,再从获取到的目标ai模型的访问控制条目中,查找包括的授权验证参数与ai应用的权限验证参数相匹配的第一访问控制条目,在查找到第一访问控制条目的情况下,确定ai应用的模型使用权限验证通过。由于该权限验证参数中包含多个维度的验证参数,这样可以从多个维度对ai应用的使用权限进行验证,确保该ai应用是一个合法且具有使用权限的应用。

22、可选地,所述权限验证参数包括所述第一设备的设备标识、调用时间和待验证随机数,所述待验证随机数为所述第一设备中存储的、用于验证所述ai应用的模型使用权限的随机数,所述访问控制条目中的授权验证参数包括授权设备标识、授权时间段和授权随机数,所述第一访问控制条目是指包含的授权设备标识为所述第一设备的设备标识,包含的授权随机数为所述待验证随机数且包含的授权时间段包括所述调用时间的条目。

23、在本技术实施例中,权限验证参数和访问控制条目可以包括多个维度的参数,基于该权限验证参数和访问控制条目来对ai应用的使用权限进行验证,可以实现对ai应用对ai模型的访问权限的细粒度控制。

24、可选地,所述待验证随机数具有第三签名信息;所述从所述目标ai模型的访问控制条目中,查找包括的授权验证参数与所述权限验证参数相匹配的第一访问控制条目之前,还包括:在可信执行环境tee中对所述待验证随机数的第三签名信息进行验证;在所述第三签名信息的验证通过的情况下,执行从所述目标ai模型的访问控制条目中,查找包括的授权验证参数与所述权限验证参数相匹配的第一访问控制条目的步骤。

25、在tee中对待验证随机数的第三签名信息进行验证,可以确保后续从目标ai模型的访问控制条目中查找包括的授权验证参数与权限验证参数相匹配的第一访问控制条目时,该权限验证参数中包括的待验证随机数是一个未被篡改的合法的随机数。

26、可选地,所述模型调用方法还包括:接收所述第一设备基于安全传输协议发送的权限申请请求,所述权限申请请求包括所述目标ai模型的模型标识和待申请的授权验证参数;生成授权随机数;基于所述目标ai模型的模型标识、所述待申请的授权验证参数和所述授权随机数,生成所述目标ai模型的第一访问控制条目,所述第一访问控制条目中的授权验证参数包括所述待申请的授权验证参数和所述授权随机数。

27、在本技术实施例中,第二设备可以接收第一设备基于安全传输协议发送的权限申请请求,并生成授权随机数,然后基于权限申请请求中包括的目标ai模型的模型标识、待申请的授权验证参数和授权随机数,生成目标ai模型的第一访问控制条目。这样,后续根据该第一访问控制条目对ai应用的模型使用权限进行验证,可以对第一设备进行访问权限控制,以此来保障调用该目标ai模型的设备为具有合法使用权限的设备。

28、可选地,所述生成所述目标ai模型的第一访问控制条目之后,还包括:在tee中对所述第一访问控制条目进行数字签名,得到签名的第一访问控制条目,所述签名的第一访问控制条目具有第三签名信息;向所述第一设备发送签名的第一访问控制条目。

29、在本技术实施例中,在生成目标ai模型的第一访问控制条目之后,在tee中对该第一访问控制条目进行数字签名,这样可以保证该访问控制条目不被篡改。

30、可选地,所述签名的第一访问控制条目是基于第一私钥进行数字签名得到,所述第一私钥为所述目标ai模型的模型证书的私钥;所述向所述第一设备发送签名的第一访问控制条目时,所述方法还包括:向所述第一设备发送通过第二私钥签名的所述第二设备的设备证书以及通过第三私钥签名的所述目标ai模型的模型证书,所述目标ai模型的模型证书包括所述目标ai模型的模型证书的公钥;其中,所述第二私钥为根证书的私钥,所述第三私钥为所述第二设备的设备证书的私钥,签名的第二设备的设备证书用于所述第一设备对签名的所述目标ai模型的模型证书进行签名验证,签名的目标ai模型的模型证书用于所述第一设备对签名的第一访问控制条目进行签名验证。

31、由于第一访问控制条目是基于第一私钥(也即目标ai模型的模型证书私钥)进行数字签名得到的,因此第一设备对该第一访问控制条目进行验证的时候,可以利用目标ai模型的模型证书公钥对该第一访问控制条目进行验证,而该模型证书公钥保存在目标ai模型的模型证书中,该模型证书由第二设备的设备证书私钥进行签名,该第二设备的设备证书公钥保存在该第二设备中。因此在向第一设备发送签名的访问控制条目的时候,还需向该第一设备发送第二设备的设备证书和目标ai模型的模型证书,以便第二设备对该第一访问控制条目进行验证。

32、可选地,所述第二设备中存储有通过所述第三私钥加密后的第一私钥,以及通过所述第二设备的设备根密钥加密的第三私钥,所述第二设备的设备根密钥存储于所述tee中;所述在tee中对所述第一访问控制条目进行数字签名时,还包括:在所述tee中基于所述第二设备的设备根密钥对加密的第三私钥进行解密,并基于所述第三私钥获得所述第一私钥。

33、可选地,所述第二设备中存储有通过所述第二设备的设备根密钥加密的第一私钥,所述第二设备的设备根密钥存储于所述tee中;所述在tee中对所述第一访问控制条目进行数字签名时,还包括:在所述tee中基于所述第二设备的设备根密钥对加密的第一私钥进行解密,获得所述第一私钥。

34、可选地,所述模型调用方法还包括:生成所述目标ai模型的模型证书和所述第一私钥;在所述tee中通过所述第三私钥对所述目标ai模型的模型证书进行数字签名,并通过所述第三私钥或所述第二设备的设备根密钥加密所述第一私钥;保存签名的所述目标ai模型的模型证书以及加密的第一私钥。

35、在本技术实施例中,提供目标ai模型的第二设备在开发出一个ai模型之后,可以为ai模型生成一个模型证书,以便在后续调用过程中基于该模型证书对该ai模型进行密码学方面的处理,从而保证该ai模型的安全性。

36、第三方面,提供了一种模型调用装置,所述模型调用装置具有实现上述第一方面中模型调用方法的功能。所述模型调用装置包括至少一个模块,该至少一个模块包括验证模块、解密模块、运行模块、处理模块。

37、验证模块,用于响应于所述ai应用的模型调用请求,根据待调用的目标ai模型的模型标识和所述ai应用的权限验证参数,对所述ai应用的模型使用权限进行验证;解密模块,用于在所述ai应用的模型使用权限验证通过的情况下,在可信执行环境tee中对所述目标ai模型的加密模型文件进行解密,得到解密模型文件;运行模块,用于将所述解密模型文件加载至内存中,以运行所述目标ai模型;处理模块,用于通过所述目标ai模型对所述ai应用的推理数据进行处理,得到推理结果。

38、可选地,所述装置还包括:删除模块,用于在检测到所述ai应用结束运行的情况下,删除所述内存中的所述解密模型文件。

39、可选地,所述第一设备中存储有加密的访问控制信息;所述验证模块包括:解密子模块,用于在所述tee中对加密的访问控制信息进行解密,得到解密的访问控制信息;验证子模块,用于基于所述目标ai模型的模型标识、所述权限验证参数和解密的访问控制信息,对所述ai应用的模型使用权限进行验证。

40、可选地,所述访问控制信息包括至少一个ai模型的访问控制条目,每个ai模型的访问控制条目包括相应ai模型的模型标识和授权验证参数;所述验证子模块用于:基于所述目标ai模型的模型标识,从解密的访问控制信息中获取所述目标ai模型的访问控制条目;从所述目标ai模型的访问控制条目中,查找包括的授权验证参数与所述权限验证参数相匹配的第一访问控制条目;在查找到所述第一访问控制条目的情况下,确定所述ai应用的模型使用权限验证通过。

41、可选地,所述目标ai模型的访问控制条目具有第一签名信息,所述第一签名信息为第二设备对所述目标ai模型的访问控制条目进行数字签名得到,所述第二设备为提供所述目标ai模型的设备;所述验证子模块还用于:对所述第一签名信息进行验证;在所述第一签名信息的验证通过的情况下,执行从所述目标ai模型的访问控制条目中,查找包括的授权验证参数与所述权限验证参数相匹配的第一访问控制条目的步骤。

42、可选地,所述权限验证参数包括所述第一设备的设备标识、调用时间以及所述ai应用的应用标识中的至少一个。

43、可选地,所述解密模型文件具有第二签名信息,所述第二签名信息为第二设备对所述解密模型文件进行数字签名得到,所述第二设备为提供所述目标ai模型的设备;所述装置还用于:对所述第二签名信息进行验证;在所述第二签名信息的验证通过的情况下,触发所述运行模块执行将所述解密模型文件加载至内存中的步骤。

44、可选地,所述装置还用于:基于安全传输协议向第二设备发送所述ai应用的权限申请请求,所述权限申请请求包括所述目标ai模型的模型标识和待申请的授权验证参数,所述第二设备为提供所述目标ai模型的设备;接收所述第二设备基于所述安全传输协议发送的所述目标ai模型的访问控制条目和解密模型文件,所述目标ai模型的访问控制条目为所述第二设备基于所述目标ai模型的模型标识和待申请的授权验证参数生成;在所述tee中对所述目标ai模型的访问控制条目和解密模型文件进行加密,得到加密的所述目标ai模型的访问控制条目和加密模型文件;存储加密的所述目标ai模型的访问控制条目和所述加密模型文件。

45、可选地,所述第一设备包括控制组件,所述ai应用的模型调用请求为所述ai应用通过调用所述控制组件提供的api接口向所述控制组件发送的请求。

46、第四方面,提供了一种模型调用装置,所述模型调用装置具有实现上述第二方面中模型调用方法行为的功能。所述模型调用装置包括至少一个模块,该至少一个模块包括接收模块、验证模块、处理模块、发送模块。

47、接收模块,用于接收第一设备发送的ai应用的模型调用请求,所述模型调用请求包括待调用的所述目标ai模型的模型标识、权限验证参数和推理数据,所述ai应用部署在所述第一设备中;验证模块,用于基于所述目标ai模型的模型标识和所述权限验证参数,对所述ai应用的模型使用权限进行验证;处理模块,用于在所述ai应用的模型使用权限验证通过的情况下,通过所述目标ai模型对所述推理数据进行处理,得到推理结果;发送模块,用于向所述第一设备发送所述推理结果。

48、可选地,所述第二设备中存储有访问控制信息,所述访问控制信息包括所述目标ai模型的访问控制条目,所述目标ai模型的访问控制条目包括所述目标ai模型的模型标识和授权验证参数;所述验证模块用于:基于所述目标ai模型的模型标识,从所述访问控制信息中获取所述目标ai模型的访问控制条目;从所述目标ai模型的访问控制条目中,查找包括的授权验证参数与所述权限验证参数相匹配的第一访问控制条目;在查找到所述第一访问控制条目的情况下,确定所述ai应用的模型使用权限验证通过。

49、可选地,所述权限验证参数包括所述第一设备的设备标识、调用时间和待验证随机数,所述待验证随机数为所述第一设备中存储的、用于验证所述ai应用的模型使用权限的随机数,所述访问控制条目中的授权验证参数包括授权设备标识、授权时间段和授权随机数,所述第一访问控制条目是指包含的授权设备标识为所述第一设备的设备标识,包含的授权随机数为所述待验证随机数且包含的授权时间段包括所述调用时间的条目。

50、可选地,所述待验证随机数具有第三签名信息;所述验证模块主要用于:在可信执行环境tee中对所述待验证随机数的第三签名信息进行验证;在所述第三签名信息的验证通过的情况下,执行从所述目标ai模型的访问控制条目中,查找包括的授权验证参数与所述权限验证参数相匹配的第一访问控制条目的步骤。

51、可选地,该装置还用于:接收所述第一设备基于安全传输协议发送的权限申请请求,所述权限申请请求包括所述目标ai模型的模型标识和待申请的授权验证参数;生成授权随机数;基于所述目标ai模型的模型标识、所述待申请的授权验证参数和所述授权随机数,生成所述目标ai模型的第一访问控制条目,所述第一访问控制条目中的授权验证参数包括所述待申请的授权验证参数和所述授权随机数。

52、可选地,所述装置用于:在tee中对所述第一访问控制条目进行数字签名,得到签名的第一访问控制条目,所述签名的第一访问控制条目具有第三签名信息;向所述第一设备发送签名的第一访问控制条目。

53、可选地,所述签名的第一访问控制条目是基于第一私钥进行数字签名得到,所述第一私钥为所述目标ai模型的模型证书的私钥;所述向所述第一设备发送签名的第一访问控制条目时,所述装置还用于:向所述第一设备发送通过第二私钥签名的所述第二设备的设备证书以及通过第三私钥签名的所述目标ai模型的模型证书,所述目标ai模型的模型证书包括所述目标ai模型的模型证书的公钥;其中,所述第二私钥为根证书的私钥,所述第三私钥为所述第二设备的设备证书的私钥,签名的第二设备的设备证书用于所述第一设备对签名的所述目标ai模型的模型证书进行签名验证,签名的目标ai模型的模型证书用于所述第一设备对签名的第一访问控制条目进行签名验证。

54、可选地,所述第二设备中存储有通过所述第三私钥加密后的第一私钥,以及通过所述第二设备的设备根密钥加密的第三私钥,所述第二设备的设备根密钥存储于所述tee中;所述装置还用于:在所述tee中基于所述第二设备的设备根密钥对加密的第三私钥进行解密,并基于所述第三私钥获得所述第一私钥。

55、可选地,所述第二设备中存储有通过所述第二设备的设备根密钥加密的第一私钥,所述第二设备的设备根密钥存储于所述tee中;所述装置还用于:在所述tee中基于所述第二设备的设备根密钥对加密的第一私钥进行解密,获得所述第一私钥。

56、可选地,所述装置还用于:生成所述目标ai模型的模型证书和所述第一私钥;在所述tee中通过所述第三私钥对所述目标ai模型的模型证书进行数字签名,并通过所述第三私钥或所述第二设备的设备根密钥加密所述第一私钥;保存签名的所述目标ai模型的模型证书以及加密的第一私钥。

57、第五方面,提供了一种模型调用装置,所述模型调用装置的结构中包括处理器和存储器,所述存储器用于存储支持模型调用装置执行上述第一方面或第二方面所提供的模型调用方法的程序,以及存储用于实现上述第一方面或第二方面所提供的模型调用方法所涉及的数据。所述处理器被配置为用于执行所述存储器中存储的程序。

58、第六方面,提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有指令,当其在计算机上运行时,使得计算机执行上述第一方面或第二方面所述的模型调用方法。

59、第七方面,提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述第一方面或第二方面所述的模型调用方法。

60、上述第三至第七方面所获得的技术效果与第一方面或第二方面中对应的技术手段获得的技术效果近似,在这里不再赘述。

61、本技术实施例提供的技术方案带来的有益效果至少包括:

62、在本技术实施例中,该第一设备根据待调用的目标ai模型的模型标识和ai应用的权限验证参数,对ai应用的模型使用权限进行验证,这样可以对该第一设备进行访问权限控制,确保该ai应用为合法且具有使用权限的应用。在ai应用的模型使用权限验证通过的情况下,该第一设备可以在tee中对目标ai模型的加密模型文件进行解密,得到解密模型文件,并将解密模型文件直接加载至内存中,以运行目标ai模型,进而通过目标ai模型对ai应用的推理数据进行处理,得到推理结果。如此,在整个过程中,目标ai模型的解密模型文件都保存在内存中,也即该目标ai模型的解密模型文件不会落盘,其他设备无法访问该解密模型文件,有效的保障了目标ai模型的安全应用。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1