编译方法及装置与流程

文档序号:22312416发布日期:2020-09-23 01:33阅读:来源:国知局

技术特征:

1.一种神经网络模型的编译方法,其特征在于,所述方法包括:

确定待编译的神经网络模型的网络结构与已编译的神经网络模型的网络结构中的相同部分;

获取已编译的神经网络模型的编译结果中与所述相同部分对应的第一编译结果;

根据所述第一编译结果得到所述待编译的神经网络模型的编译结果。

2.根据权利要求1所述的方法,其特征在于,确定待编译的神经网络模型的网络结构与已编译的神经网络模型的网络结构中的相同部分,包括:

将所述待编译的神经网络模型的计算图与所述已编译的神经网络模型的计算图进行比较,得到比较结果;

根据所述比较结果,将所述待编译的神经网络模型的计算图与已编译的神经网络模型的计算图中相同的部分作为所述相同部分。

3.根据权利要求1或2所述的方法,其特征在于,所述相同部分对应的算子、算子之间的连接关系相同。

4.根据权利要求3所述的方法,其特征在于,所述相同部分对应的数据的维度相同。

5.根据权利要求3所述的方法,其特征在于,所述相同部分对应的权值的维度相同。

6.根据权利要求1所述的方法,其特征在于,所述相同部分包括神经网络模型的至少一个层和/或至少一个算子。

7.根据权利要求1所述的方法,其特征在于,所述方法还包括:

确定待编译的神经网络模型的网络结构与已编译的神经网络模型的网络结构中的不同部分;

对所述不同部分进行编译得到第二编译结果;

所述根据所述第一编译结果得到所述待编译的神经网络模型的编译结果,包括:

利用所述第一编译结果及所述第二编译结果得到所述待编译的神经网络模型的编译结果。

8.根据权利要求1所述的方法,其特征在于,当所述已编译的神经网络模型的编译结果包括与网络结构信息对应的第一部分、和与数据信息和权值信息对应的第二部分时,所述获取已编译的神经网络模型的编译结果中与所述相同部分对应的第一编译结果,还包括:

在所述第一部分中,获取与所述相同部分对应的第一编译结果。

9.根据权利要求1所述的方法,其特征在于,当所述已编译的神经网络模型的编译结果包括网络结构信息编译结果和数据信息及权值信息编译结果时,所述获取已编译的神经网络模型中与所述相同部分对应的第一编译结果,还包括:

在所述网络结构信息编译结果中获取与所述相同部分对应的第一编译结果。

10.一种神经网络模型的编译装置,其特征在于,所述装置包括:

确定模块,用于确定待编译的神经网络模型的网络结构与已编译的神经网络模型的网络结构中的相同部分;

获取模块,连接于所述确定模块,用于获取已编译的神经网络模型的编译结果中与所述相同部分对应的第一编译结果;

编译结果生成模块,连接于所述获取模块,用于根据所述第一编译结果得到所述待编译的神经网络模型的编译结果。

11.根据权利要求10所述的装置,其特征在于,所述确定模块,包括:

比较子模块,用于将所述待编译的神经网络模型的计算图与所述已编译的神经网络模型的计算图进行比较,得到比较结果;

确定子模块,连接于所述比较子模块,用于根据所述比较结果,将所述待编译的神经网络模型的计算图与已编译的神经网络模型的计算图中相同的部分作为所述相同部分。

12.根据权利要求10或11所述的装置,其特征在于,所述相同部分对应的算子、算子之间的连接关系相同。

13.根据权利要求12所述的装置,其特征在于,所述相同部分对应的数据的维度相同。

14.根据权利要求13所述的装置,其特征在于,所述相同部分对应的权值的维度相同。

15.根据权利要求10所述的装置,其特征在于,所述相同部分包括神经网络模型的至少一个层和/或至少一个算子。

16.根据权利要求10所述的装置,其特征在于,所述确定模块还用于确定待编译的神经网络模型的网络结构与已编译的神经网络模型的网络结构中的不同部分;

所述装置还包括:

编译模块,连接于所述确定模块,用于对所述不同部分进行编译得到第二编译结果;

所述编译结果生成模块包括:

编译结果生成子模块,用于利用所述第一编译结果及所述第二编译结果得到所述待编译的神经网络模型的编译结果。

17.根据权利要求10所述的装置,其特征在于,当所述已编译的神经网络模型的编译结果包括与网络结构信息对应的第一部分、和与数据信息和权值信息对应的第二部分时,所述获取模块,包括:

第一获取子模块,用于在所述第一部分中,获取与所述相同部分对应的第一编译结果。

18.根据权利要求10所述的装置,其特征在于,当所述已编译的神经网络模型的编译结果包括网络结构信息编译结果和数据信息及权值信息编译结果时,所述获取模块,还包括:

第二获取子模块,用于在所述网络结构信息编译结果中获取与所述相同部分对应的第一编译结果。

19.一种神经网络模型的编译装置,其特征在于,包括:

处理器;

用于存储处理器可执行指令的存储器;

其中,所述处理器被配置为:

执行如权利要求1-9任意一项所述的方法。

20.一种非易失性计算机可读存储介质,其上存储有计算机程序指令,其特征在于,所述计算机程序指令被处理器执行时实现权利要求1至9中任意一项所述的方法。


技术总结
本公开涉及编译方法及装置,所述装置包括控制器单元,所述控制器单元包括:指令缓存单元、指令处理单元和存储队列单元;所述指令缓存单元,用于存储所述人工神经网络运算关联的计算指令;所述指令处理单元,用于对所述计算指令解析得到多个运算指令;所述存储队列单元,用于存储指令队列,该指令队列包括:按该队列的前后顺序待执行的多个运算指令或计算指令。本公开可以提高装置在进行神经网络模型的编译时的编译效率。

技术研发人员:不公告发明人
受保护的技术使用者:上海寒武纪信息科技有限公司
技术研发日:2019.03.15
技术公布日:2020.09.22
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1