硬件计算模块、设备、方法、电子设备及存储介质与流程

本发明涉及数据处理，尤其涉及一种硬件计算模块、设备、方法、电子设备及存储介质。

背景技术：

1、在互联网行业，随着信息化的普及，数据量呈爆炸式的增长，对计算力提出更高要求；同时，机器学习、人工智能、无人驾驶以及工业仿真等领域的崛起，使得通用中央处理器（central processing unit，简称cpu）在处理海量计算、海量数据或图片时遇到越来越多的性能瓶颈。

2、为了应对计算多元化的需求，越来越多的场景开始引入图形处理器（graphicsprocessing unit，简称gpu）、现场可编程门阵列（field programmable gate array，简称fpga）等硬件进行计算加速，异构计算（heterogeneous computing）应运而生，异构计算主要指不同类型的指令集和体系架构的计算模块组成系统的计算方式。在现有异构计算中，本地服务器从远端服务器获取数据，需要先将数据存储到本地的内存上，然后再将数据从本地内存拷贝到计算模块（如gpu）的内存上，进而再通过计算模块对数据进行处理，并将数据处理结果返回至本地服务器。

3、然而，现有异构计算过程需要从远端服务器获取数据，数据的传输路径绕行了主机的内存，增加了输入数据的导入路径，扩大了输入数据的导入延时，同时也降低了数据处理的效率。因此，现在亟需一种硬件计算模块、设备、方法、电子设备及存储介质来解决上述问题。

技术实现思路

1、针对现有技术存在的问题，本发明提供一种硬件计算模块、设备、方法、电子设备及存储介质。

2、本发明提供一种硬件计算模块，包括远程直接内存访问网卡和内核单元，其中：

3、所述远程直接内存访问网卡，用于获取远端服务器发送的待处理数据，并将所述待处理数据发送至第一内存中进行存储，其中，所述第一内存为所述硬件计算模块中的内存，所述待处理数据是根据主机服务器的当前计算任务确定的；

4、所述内核单元，用于对所述第一内存中的所述待处理数据进行数据计算处理，并将数据计算处理结果发送至所述第一内存中进行存储，以供所述主机服务器从所述第一内存中获取所述数据计算处理结果，其中，所述硬件计算模块通过所述主机服务器的中央处理器获取所述当前计算任务。

5、根据本发明提供的一种硬件计算模块，所述硬件计算模块还包括内核启动单元，用于向所述内核单元发送启动触发信号，以触发所述内核单元对所述第一内存中的所述待处理数据进行数据计算处理。

6、根据本发明提供的一种硬件计算模块，所述远程直接内存访问网卡还用于在确定已接收到所述待处理数据之后，生成第一中断信号，并将所述第一中断信号发送至所述内核启动单元；

7、所述内核启动单元，用于根据所述远程直接内存访问网卡发送的所述第一中断信号生成所述启动触发信号，并将所述启动触发信号发送至所述内核单元。

8、根据本发明提供的一种硬件计算模块，所述远程直接内存访问网卡具体用于：通过第一网络链路获取所述远端服务器发送的所述待处理数据，其中，所述第一网络链路是所述远程直接内存访问网卡根据第二网络链路的配置信息建立的，所述第一网络链路为所述硬件计算模块与所述远端服务器之间的远程直接内存访问网络链路；所述第二网络链路是通过所述远程直接内存访问网卡建立的所述主机服务器与所述远端服务器之间的传输控制协议网络链路。

9、根据本发明提供的一种硬件计算模块，所述远程直接内存访问网卡，还用于根据第一存储空间地址信息，将所述待处理数据存储至所述第一内存中对应的内存空间；

10、所述内核单元，还用于根据所述第一存储空间地址信息，获取所述待处理数据，并根据第二存储空间地址信息，将所述待处理数据存储至所述第一内存中对应的内存空间。

11、根据本发明提供的一种硬件计算模块，所述硬件计算模块至少包括图形处理器、专用集成电路芯片、协处理器和现场可编程门阵列芯片。

12、本发明还提供一种硬件计算设备，包括中央处理器和上述硬件计算模块，其中：

13、所述中央处理器，用于基于主机服务器的当前计算任务，确定执行所述当前计算任务所需要的待处理数据；

14、所述硬件计算模块，用于通过远程直接内存访问网卡，从所述远端服务器中获取所述待处理数据，并通过内核单元对所述待处理数据进行数据计算处理，得到数据计算处理结果，以供所述主机服务器从第一内存中获取所述数据计算处理结果。

15、根据本发明提供的一种硬件计算设备，所述中央处理器还用于生成第一存储空间地址信息和第二存储空间地址信息，并将第一存储空间地址信息和第二存储空间地址信息发送至所述硬件计算模块，以供所述硬件计算模块根据所述第一存储空间地址信息和所述第二存储空间地址信息，对所述第一内存的存储地址参数进行配置；

16、所述硬件计算模块，还用于根据所述第一存储空间地址信息，将所述待处理数据存储至所述第一内存中对应的内存空间；根据所述第二存储空间地址信息将所述数据计算处理结果发送至第二内存进行存储，其中，所述第二内存为所述主机服务器的本地内存。

17、根据本发明提供的一种硬件计算设备，所述中央处理器包括第一线程处理单元和第二线程处理单元，其中：

18、所述第一线程处理单元，用于通过所述远程直接内存访问网卡，与所述远端服务器建立传输控制协议网络链路；

19、所述第二线程处理单元，用于在所述传输控制协议网络链路建立之后，建立所述远程直接内存访问网卡与所述远端服务器之间的远程直接内存访问网络链路。

20、根据本发明提供的一种硬件计算设备，所述硬件计算模块，还用于在所述远程直接内存访问网卡已接收到所述待处理数据之后，通过所述远程直接内存访问网卡生成第一中断信号，并将所述第一中断信号发送至所述中央处理器，其中，所述第一中断信号用于指示所述中央处理器等待接收所述数据计算处理结果。

21、根据本发明提供的一种硬件计算设备，所述中央处理器，还用于通过第二中断信号，在确定所述数据计算处理结果已存储至所述第一内存时，将存储至所述第一内存的所述数据计算处理结果导入到所述第二内存，其中，所述第二中断信号是所述内核单元在完成数据计算处理后生成的。

22、根据本发明提供的一种硬件计算设备，所述硬件计算设备包括多个所述硬件计算模块，所述主机服务器根据各个所述硬件计算模块的硬件类型，将对应的内核程序发送至所述硬件计算模块，其中，多个所述硬件计算模块包括图形处理器、专用集成电路芯片、协处理器和现场可编程门阵列芯片中的至少两种；所述内核程序用于为所述硬件计算模块提供对应的计算功能；

23、各个所述硬件计算模块在接收到对应的所述内核程序后，将所述内核程序安装至所述内核单元。

24、根据本发明提供的一种硬件计算设备，所述中央处理器，还用于根据所述待处理数据的数据类型，从多个所述硬件计算模块中确定所述当前计算任务对应的目标硬件计算模块，以通过所述目标硬件计算模块接收所述远端服务器发送的所述待处理数据。

25、本发明还提供一种基于上述的硬件计算设备的硬件计算方法，包括：

26、接收第一输入，所述第一输入包括通过主机服务器确定当前计算任务的操作；

27、响应于所述第一输入，通过硬件计算模块中的远程直接内存访问网卡，从远端服务器中获取所述当前计算任务对应的待处理数据，并通过所述硬件计算模块的内核单元对所述待处理数据进行数据计算处理，得到数据计算处理结果；

28、将所述数据计算处理结果发送至所述主机服务器。

29、根据本发明提供的一种硬件计算方法，所述响应于所述第一输入，通过硬件计算模块中的远程直接内存访问网卡，从远端服务器中获取所述当前计算任务对应的待处理数据，包括：

30、通过中央处理器，配置第一存储空间地址信息和第二存储空间地址信息；

31、根据所述第一存储空间地址信息，将所述远程直接内存访问网卡接收到的所述待处理数据存储至第一内存中对应的内存空间，所述第一内存为所述硬件计算模块中的内存。

32、根据本发明提供的一种硬件计算方法，所述通过所述硬件计算模块的内核单元对所述待处理数据进行数据计算处理，得到数据计算处理结果，包括：

33、在确定所述远程直接内存访问网卡已接收到所述待处理数据之后，所述远程直接内存访问网卡生成第一中断信号；

34、根据所述第一中断信号，生成对应的启动触发信号；

35、通过所述启动触发信号，触发所述内核单元对所述待处理数据进行数据计算处理，得到所述数据计算处理结果；

36、根据所述第二存储空间地址信息，将所述数据计算处理结果存储至第一内存中对应的内存空间。

37、根据本发明提供的一种硬件计算方法，所述将所述数据计算处理结果发送至所述主机服务器，包括：

38、通过高速串行计算机扩展总线标准接口，将所述第二存储空间地址信息对应的内存空间中存储的所述数据计算处理结果发送到第二内存，其中，所述第二内存为所述主机服务器的本地内存。

39、根据本发明提供的一种硬件计算方法，所述方法还包括：

40、通过所述远程直接内存访问网卡，建立所述主机服务器与所述远端服务器之间的传输控制协议网络链路，并获取所述传输控制协议网络链路的配置信息；

41、根据所述配置信息，获取所述远端服务器的服务器地址信息；

42、根据所述服务器地址信息，建立所述远程直接内存访问网卡与所述远端服务器之间的远程直接内存访问网络链路，以供所述远程直接内存访问网卡通过所述远程直接内存访问网络链路获取所述待处理数据。

43、本发明还提供一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现如上述任一种所述硬件计算方法。

44、本发明还提供一种非暂态计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现如上述任一种所述硬件计算方法。

45、本发明提供的硬件计算模块、设备、方法、电子设备及存储介质，通过硬件计算模块中的远程直接内存访问网卡，从远端服务器中获取当前计算任务对应的待处理数据，并将待处理数据存储至硬件计算模块的内存中，进而通过硬件计算模块的内核单元对待处理数据进行数据计算处理，再将得到的数据计算处理结果发送至主机服务器，从而减少了输入数据的导入路径，提高了数据处理效率。