模型中算子的异常检测方法、装置、芯片、设备及系统与流程

文档序号:37263583发布日期:2024-03-12 20:45阅读:来源:国知局

技术特征:

1.一种模型中算子的异常检测方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述第一设备从所述第二设备中获取第二运行数据包括:

3.根据权利要求2所述的方法,其特征在于,所述检测命令携带有所述第一算子在所述第二设备中的标识,所述标识用于指示所述第二设备中待传输的第二运行数据。

4.根据权利要求3所述的方法,其特征在于,所述标识是所述第一设备查询算子注册表确定的,所述算子注册表包括多个设备调度所述第一算子时采用的标识,一个设备对应一个标识,所述多个设备包括所述第一设备和所述第二设备。

5.根据权利要求1所述的方法,其特征在于,所述第一运行数据用于指示:所述第一算子的输入数据和输出数据,以及所述第一设备的运算差异值确定的所述第一算子的反馈信息,所述运算差异值是根据所述第一设备中所述模型的输出数据和所述待处理数据的特征确定的。

6.根据权利要求1至5中任一项所述的方法,其特征在于,所述检测命令和所述第二运行数据由所述第一设备与所述第二设备之间的远程过程调用通道传输。

7.根据权利要求1至5中任一项所述的方法,其特征在于,所述检测命令和所述第二运行数据由所述第一设备与所述第二设备之间的硬件通信信道传输。

8.根据权利要求1至7中任一项所述的方法,其特征在于,所述比对结果为所述第一运行数据和所述第二运行数据之间的相似度,所述比对结果满足设定的条件包括相似度小于或等于相似度阈值。

9.一种模型中算子的异常检测装置,其特征在于,所述装置包括:

10.根据权利要求9所述的装置,其特征在于,所述获取模块,还用于,所述第一设备向所述第二设备发送检测命令,所述检测命令用于指示所述第二设备根据所述待处理数据运行所述模型,以得到所述第二运行数据,并向所述第一设备返回所述第二运行数据。

11.根据权利要求10所述的装置,其特征在于,所述检测命令携带有所述第一算子在所述第二设备中的标识,所述标识用于指示所述第二设备中待传输的第二运行数据。

12.根据权利要求11所述的装置,其特征在于,所述标识是所述第一设备查询算子注册表确定的,所述算子注册表包括多个设备调度所述第一算子时采用的标识,一个设备对应一个标识,所述多个设备包括所述第一设备和所述第二设备。

13.根据权利要求9所述的装置,其特征在于,所述第一运行数据用于指示:所述第一算子的输入数据和输出数据,以及所述第一设备的运算差异值确定的所述第一算子的反馈信息,所述运算差异值是根据所述第一设备中所述模型的输出数据和所述待处理数据的特征确定的。

14.根据权利要求9至13中任一项所述的装置,其特征在于,所述检测命令和所述第二运行数据由所述第一设备与所述第二设备之间的远程过程调用通道传输。

15.根据权利要求9至13中任一项所述的装置,其特征在于,所述检测命令和所述第二运行数据由所述第一设备与所述第二设备之间的硬件通信信道传输。

16.根据权利要求9至15中任一项所述的装置,其特征在于,所述比对结果为所述第一运行数据和所述第二运行数据之间的相似度,所述比对结果满足设定的条件包括相似度小于或等于相似度阈值。

17.一种芯片,其特征在于,包括:处理器和供电电路,所述供电电路用于为所述处理器供电,所述处理器用于调用并运行计算机指令,以执行权利要求1至8中任一项所述的方法。

18.一种计算设备,其特征在于,包括:处理器和存储器;所述存储器存储有指令,所述处理器调用所述指令实现权利要求1至8中任一项所述的方法。

19.一种交互系统,其特征在于,包括:第一设备和第二设备;

20.一种计算机可读存储介质,其特征在于,所述存储介质中存储有计算机程序或指令,当所述计算机程序或指令被处理设备执行时,实现权利要求1至8中任一项所述的方法。

21.一种计算机程序产品,包括计算机程序或指令,其特征在于,当所述计算机程序或指令在被处理设备执行时,实现权利要求1至8中任一项所述的方法。


技术总结
公开了模型中算子的异常检测方法、装置、芯片、设备及系统,涉及计算机领域。该模型中算子的异常检测方法包括:第一设备可在第一设备和第二设备根据待处理数据运行同样的模型的过程中,比对模型中第一算子在不同设备的运行数据以确定是否为异常算子,避免了通常技术中服务器仅能在多个设备运行模型后进行数据比对,模型的差异检测效率较低的问题。而且,第一设备无需存储第二设备中运行模型的所有数据,减少了第一设备中存储资源的占用,以及减少了运行数据从第二设备→存储设备(如服务器)→第一设备的数据拷贝和传输时间,缩短了差异检测所需的时长,提升了模型的差异检测效率。

技术研发人员:尤安升
受保护的技术使用者:华为技术有限公司
技术研发日:
技术公布日:2024/3/11
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1