基于众核芯片的数据处理方法、装置、芯片、系统及设备与流程

本公开涉及计算机，特别涉及一种基于众核芯片的数据处理方法、数据处理装置、众核计算芯片、处理系统、电子设备及计算机可读存储介质。

背景技术：

1、模型可用于执行相应的数据处理任务，且在数据处理过程中，模型参数发挥着重要作用。在相关技术中，通常需要将数据处理任务的所有原始数据(例如，模型参数)加载到相应芯片内，由芯片进行相应的数据运算，从而得到相应的计算结果。随着参与运算的参数量的增加，上述方法的处理速度、功耗开销等可能无法满足使用需求。

技术实现思路

1、本公开提供一种基于众核芯片的数据处理方法、数据处理装置、众核计算芯片、数据处理系统、电子设备及计算机可读存储介质。

2、第一方面，本公开提供了一种基于众核芯片的数据处理方法，所述众核芯片包括多个核心，该数据处理方法包括：获取至少一个参数组，所述参数组包括关于预设神经网络模型的、经过所述众核芯片解压处理的多个模型参数；确定与各个所述参数组对应的核组，所述核组包括至少一个所述核心；由所述核组根据对应的所述参数组执行数据处理，得到与所述参数组对应的分组处理结果；根据至少一个所述分组处理结果，得到所述预设神经网络模型的模型处理结果。

3、第二方面，本公开提供了一种基于众核芯片的数据处理装置，所述处理装置可应用于众核芯片，且所述众核芯片包括多个核心，该数据处理装置包括：获取模块，用于获取至少一个参数组，所述参数组包括关于预设神经网络模型的、经过所述众核芯片解压处理的多个模型参数；对应模块，用于确定与各个所述参数组对应的核组，所述核组包括至少一个所述核心；执行模块，用于由所述核组根据对应的所述参数组执行数据处理，得到与所述参数组对应的分组处理结果；处理模块，用于根据至少一个所述分组处理结果，得到所述预设神经网络模型的模型处理结果。

4、第三方面，本公开提供了一种众核计算芯片，该众核计算芯片用于执行本公开实施例任一项所述的基于众核芯片的数据处理方法。

5、第四方面，本公开提供了一种处理系统，该处理系统包括：所述处理系统包括预设处理器和至少一个众核芯片；其中，所述预设处理器与所述众核芯片之间基于总线进行连接，所述预设处理器用于向所述众核芯片发送控制流指令，所述众核芯片用于根据所述控制流指令执行本公开实施例任一项所述的基于众核芯片的数据处理方法。

6、第五方面，本申请提供了一种电子设备，该电子设备包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的一个或多个计算机程序，一个或多个所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行本公开实施例任一项所述的基于众核芯片的数据处理方法。

7、第六方面，本申请提供了一种计算机可读存储介质，其上存储有计算机程序，其中，所述计算机程序在被处理器/处理核执行时实现本公开实施例任一项所述的基于众核芯片的数据处理方法。

8、在本公开实施例中，众核芯片包括多个核心，相应的数据处理方法包括：获取至少一个参数组，参数组包括关于预设神经网络模型的、经过众核芯片解压处理的多个模型参数；确定与各个参数组对应的核组，核组包括至少一个核心；由核组根据对应的参数组执行数据处理，得到与参数组对应的分组处理结果；根据至少一个分组处理结果，得到预设神经网络模型的模型处理结果。由此可知，考虑到众核芯片的整体性能与预设神经网络模型的整体需求之间可能并不匹配，并且这种不匹配会导致众核芯片的资源得不到充分应用或者无法有效满足预设神经网络模型的数据处理需求，因此，在本公开实施例中，众核芯片的多个核心被划分为至少一个核组，使得每个核组具备一定的核组资源，类似的，预设神经网络模型的模型参数也被划分为至少一个参数组，从而将整个数据处理过程拆分为多个数据处理规模较小的参数组，并且通过各个核组对相应的参数组进行数据处理，使得核组的资源与参数组的数据处理规模较为适配，从而可以充分利用核组的处理资源，提高处理速度，并且由于各个核组的处理资源均得以有效利用，因此，整个众核芯片的资源利用率得到提升，减少了浪费的资源和功耗开销，另外，基于核组可以得到每个参数组的分组处理结果，并可进一步基于相应的分组处理结果得到模型处理结果，从而确保了数据处理的顺利实施。

9、应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

技术特征：

1.一种基于众核芯片的数据处理方法，其特征在于，所述众核芯片包括多个核心，所述方法包括：

2.根据权利要求1所述的数据处理方法，其特征在于，所述获取至少一个参数组，包括：

3.根据权利要求2所述的数据处理方法，其特征在于，所述由所述核组根据对应的所述参数组执行数据处理，得到与所述参数组对应的分组处理结果之前，所述方法还包括：

4.根据权利要求2或3所述的数据处理方法，其特征在于，所述初始参数组是对多个所述模型参数进行第一压缩处理和/或第二压缩处理得到的，所述参数组是对所述初始参数组进行第一解压缩处理和/或第二解压缩处理得到的；

5.根据权利要求1所述的数据处理方法，其特征在于，所述核组的第一分组性能指标与对应的所述参数组的第二分组性能需求之间满足预设匹配条件；

6.根据权利要求5所述的数据处理方法，其特征在于，所述根据所述众核芯片的第一性能指标和所述预设神经网络模型的第二性能需求，将所述多个核心划分为至少一个核组，将所述预设神经网络模型的模型参数划分为至少一个参数组，并确定所述核组与所述参数组之间的对应关系，包括：

7.根据权利要求6所述的数据处理方法，其特征在于，所述预设神经网络模型的模型参数对应n个参数组，n为大于等于1的整数，且各个所述第二分组性能需求之间的差值均小于第二分组阈值；

8.根据权利要求6所述的数据处理方法，其特征在于，所述多个核心对应p个核组，p为大于等于1的整数，且各个所述第一分组性能指标之间的差值均小于第一分组阈值；

9.根据权利要求5-8中任一项所述的数据处理方法，其特征在于，所述第一性能指标包括所述众核芯片的算力和带宽，所述第一分组性能指标包括核组算力和核组带宽；

10.根据权利要求9所述的数据处理方法，其特征在于，在确定所述参数组的解压处理是由所述众核芯片执行的情况下，所述参数组的组计算量包括用于执行所述参数组的运算处理的第一计算量和用于执行所述参数组的解压处理的第二计算量，所述参数组的组访存量是根据所述参数组解压处理前的数据量确定的；

11.根据权利要求3或5所述的数据处理方法，其特征在于，所述预设处理器包括独立于所述众核芯片的第一处理器或者设置于所述众核芯片中的第二处理器。

12.根据权利要求1所述的数据处理方法，其特征在于，所述由所述核组根据对应的所述参数组执行数据处理，得到与所述参数组对应的分组处理结果之后，所述方法还包括：

13.一种数据处理装置，其特征在于，所述数据处理装置应用于众核芯片，且所述众核芯片包括多个核心，所述数据处理装置包括：

14.一种众核计算芯片，其特征在于，所述众核计算芯片用于执行如权利要求1-12中任一项所述的基于众核芯片的数据处理方法。

15.一种处理系统，其特征在于，所述处理系统包括预设处理器和至少一个众核芯片；

16.一种电子设备，其特征在于，包括：

17.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序在被处理器执行时实现如权利要求1-12中任一项所述的基于众核芯片的数据处理方法。

技术总结
本公开提供了一种基于众核芯片的数据处理方法、装置、芯片、系统及设备，属于计算机技术领域。该数据处理方法包括：获取至少一个参数组，参数组包括关于预设神经网络模型的、经过众核芯片解压处理的多个模型参数；确定与各个参数组对应的核组，核组包括至少一个核心；由核组根据对应的参数组执行数据处理，得到与参数组对应的分组处理结果；根据至少一个分组处理结果，得到预设神经网络模型的模型处理结果。根据本公开的实施例能够提高资源利用率，提升数据处理效率。

技术研发人员：祝夭龙,杨哲宇
受保护的技术使用者：北京灵汐科技有限公司
技术研发日：
技术公布日：2024/3/4