一种矩阵计算的方法、系统及编译器与流程

文档序号:32382342发布日期:2022-11-30 03:09阅读:来源:国知局

技术特征:
1.一种矩阵计算的方法,其特征在于,应用于矩阵计算的系统,所述系统包括编译器和至少一个用于矩阵计算的硬件;所述方法包括:所述编译器获取矩阵计算的源代码,所述源代码包括导语以及矩阵计算任务,所述导语用于指示生成所述矩阵计算任务的文件;所述编译器获取所述矩阵计算任务的编译类型;所述编译器根据所述编译类型从所述至少一个用于矩阵计算的硬件中确定执行所述矩阵计算任务的目标硬件;所述编译器根据所述导语生成所述矩阵计算任务的文件,并将所述文件发送至所述目标硬件;所述目标硬件根据所述文件执行所述矩阵计算任务。2.根据权利要求1所述的方法,其特征在于,所述编译器根据所述编译类型从所述至少一个矩阵计算的硬件中确定执行所述矩阵计算任务的目标硬件,包括:所述编译器根据预设的策略从满足所述编译类型的硬件中选择用于执行所述矩阵计算任务的目标硬件;或者所述导语包括用于指示执行所述矩阵计算任务的硬件的指示信息,所述编译器根据所述指示信息和所述编译类型确定用于执行所述矩阵计算任务的目标硬件。3.根据权利要求2所述的方法,其特征在于,所述编译器根据预设的策略从满足所述编译类型的硬件中选择用于执行所述矩阵计算任务的目标硬件,包括:所述编译器根据每个满足所述编译类型的硬件的计算能力和/或当前负载,从满足所述编译类型的硬件中选择用于执行所述矩阵计算任务的硬件。4.根据权利要求1-3任一项所述的方法,其特征在于,所述执行所述矩阵计算任务的硬件,包括主机或与所述主机连接的硬件。5.根据权利要求1-4任一项所述的方法,其特征在于,所述硬件包括以下一种或多种:加速卡,图形处理器gpu,神经网络处理器npu,张量处理单元tpu。6.根据权利要求1-4任一项所述的方法,其特征在于,所述导语基于openmp或openacc实现。7.一种矩阵计算系统,其特征在于,包括编译器和至少一个用于矩阵计算的硬件;所述编译器,用于获取矩阵计算的源代码,所述源代码包括导语以及矩阵计算任务,所述导语用于指示生成所述矩阵计算任务的文件;获取所述矩阵计算任务的编译类型;根据所述编译类型从所述至少一个用于矩阵计算的硬件中确定执行所述矩阵计算任务的目标硬件;根据所述导语生成所述矩阵计算任务的文件,并将所述文件发送至所述目标硬件;所述目标硬件根据所述文件执行所述矩阵计算任务。8.根据权利要求7所述的系统,其特征在于,所述编译器,在根据所述编译类型从所述至少一个矩阵计算的硬件中确定执行所述矩阵计算任务的目标硬件时,具体用于:根据预设的策略从满足所述编译类型的硬件中选择用于执行所述矩阵计算任务的目标硬件;或者所述导语包括用于指示执行所述矩阵计算任务的硬件的指示信息,根据所述指示信息和所述编译类型确定用于执行所述矩阵计算任务的目标硬件。
9.根据权利要求8所述的系统,其特征在于,所述编译器,在根据预设的策略从满足所述编译类型的硬件中选择用于执行所述矩阵计算任务的目标硬件时,具体用于:根据每个满足所述编译类型的硬件的计算能力和/或当前负载,从满足所述编译类型的硬件中选择用于执行所述矩阵计算任务的硬件。10.根据权利要求7-9任一项所述的系统,其特征在于,所述执行所述矩阵计算任务的硬件,包括主机或与所述主机连接的硬件。11.根据权利要求7-10任一项所述的方法,其特征在于,所述硬件包括以下一种或多种:加速卡,图形处理器gpu,神经网络处理器npu,张量处理单元tpu。12.根据权利要求7-11任一项所述的方法,其特征在于,所述导语基于openmp或openacc实现。13.一种编译器,其特征在于,所述编译器用于执行如权利要求1-6任一项所述矩阵计算的方法中编译器所执行的步骤。

技术总结
本申请公开了一种矩阵计算的方法、系统及编译器。该方法应用于矩阵计算的系统,该系统包括编译器和至少一个矩阵计算的硬件;该方法包括:编译器获取矩阵计算的源代码,源代码包括导语以及矩阵计算任务,导语用于指示生成所述矩阵计算任务的文件;编译器获取矩阵计算任务的编译类型;编译器根据编译类型从上述硬件中确定执行矩阵计算任务的目标硬件;编译器生成用于目标硬件执行矩阵计算任务的文件,并将该文件发送至目标硬件;目标硬件根据该文件执行矩阵计算任务。通过上述方法,用户可以选择硬件的编译类型,通过导语指示编译器生成目标硬件执行矩阵计算任务的文件,不必再由用户进行手动编程,降低了人工成本,有助于大规模的产品性能提升。产品性能提升。产品性能提升。


技术研发人员:许利霞 郭海涛 郑卫炎 杨仲凯 季晨鹏 刘洪广
受保护的技术使用者:华为技术有限公司
技术研发日:2021.05.28
技术公布日:2022/11/29
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1