处理器的多线程调度方法、装置、电子设备和存储介质与流程

文档序号:33325593发布日期:2023-03-03 23:01阅读:来源:国知局

技术特征:
1.一种处理器的多线程调度方法,包括:响应于计算线程发起的传输第一数据的第一通知消息,使用第一通信线程传输所述第一数据;响应于所述第一通信线程发起的传输所述第一数据的第二通知消息,在第一时段使用第二通信线程传输所述第一数据;以及响应于所述计算线程发起的传输第二数据的第三通知消息,在第二时段使用所述第一通信线程传输所述第二数据;其中,所述第一时段与所述第二时段彼此重叠。2.根据权利要求1所述的方法,还包括:响应于确定所述第一通信线程完成所述第一数据的传输,通过所述第一通信线程发起传输所述第一数据的第二通知消息。3.根据权利要求1或2所述的方法,还包括:响应于确定所述第二通信线程完成所述第一数据的传输,通过所述第二通信线程发起完成所述第一数据的传输的第四通知消息。4.根据权利要求1至3中任一项所述的方法,还包括:响应于确定所述第一通信线程完成所述第二数据的传输,通过所述第一通信线程发起传输所述第二数据的第五通知消息;响应于所述第五通知消息,使用所述第二通信线程传输所述第二数据。5.根据权利要求1或2所述的方法,还包括:响应于确定所述第二通信线程完成所述第一数据的传输,通过所述第二通信线程发起传输所述第一数据的第六通知消息;响应于所述第六通知消息,使用第三通信线程传输所述第一数据。6.根据权利要求1至5中任一项所述的方法,其中,所述计算线程包括统一计算设备架构cuda中的计算流,所述通信线程包括统一计算设备架构cuda中的通信流。7.根据权利要求1至6中任一项所述的方法,所述方法应用于电子设备中;所述方法还包括通过以下操作为所述电子设备提供用于实现所述方法的接口:使用目标对象作为所述第一数据和所述第二数据的传输载体,使得所述计算线程、第一通信线程和第二通信线程通过所述目标对象传输所述第一数据和第二数据中的至少之一;提供用于控制所述第一通信线程和所述第二通信线程之间先后执行顺序的第一子接口;以及提供用于配置所述第一通信线程和所述第二通信线程的第二子接口。8.一种处理器的多线程调度装置,包括:第一通信模块,用于响应于计算线程发起的传输第一数据的第一通知消息,使用第一通信线程传输所述第一数据;第二通信模块,用于响应于所述第一通信线程发起的传输所述第一数据的第二通知消息,在第一时段使用第二通信线程传输所述第一数据;以及第三通信模块,用于响应于所述计算线程发起的传输第二数据的第三通知消息,在第二时段使用所述第一通信线程传输所述第二数据;
其中,所述第一时段与所述第二时段彼此重叠。9.根据权利要求8所述的装置,还包括:第一通知模块,用于响应于确定所述第一通信线程完成所述第一数据的传输,通过所述第一通信线程发起传输所述第一数据的第二通知消息。10.根据权利要求8或9所述的装置,还包括:第二通知模块,用于响应于确定所述第二通信线程完成所述第一数据的传输,通过所述第二通信线程发起完成所述第一数据的传输的第四通知消息。11.根据权利要求8至10中任一项所述的装置,还包括:第三通知模块,用于响应于确定所述第一通信线程完成所述第二数据的传输,通过所述第一通信线程发起传输所述第二数据的第五通知消息;第四通信模块,用于响应于所述第五通知消息,使用所述第二通信线程传输所述第二数据。12.根据权利要求8或9所述的装置,还包括:第四通知模块,用于响应于确定所述第二通信线程完成所述第一数据的传输,通过所述第二通信线程发起传输所述第一数据的第六通知消息;第五通信模块,用于响应于所述第六通知消息,使用第三通信线程传输所述第一数据。13.根据权利要求8至12中任一项所述的装置,其中,所述计算线程包括统一计算设备架构cuda中的计算流,所述通信线程包括统一计算设备架构cuda中的通信流。14.根据权利要求8至13中任一项所述的装置,其中,所述装置应用于电子设备中;所述装置还包括提供模块,用于为所述电子设备提供用于实现所述装置的接口,包括:使用目标对象作为所述第一数据和所述第二数据的传输载体,使得所述计算线程、第一通信线程和第二通信线程通过所述目标对象传输所述第一数据和第二数据中的至少之一;提供用于控制所述第一通信线程和所述第二通信线程之间先后执行顺序的第一子接口;以及提供用于配置所述第一通信线程和所述第二通信线程的第二子接口。15.一种电子设备,包括:至少一个处理器:以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1至7中任一项所述的方法。16.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1至7中任一项所述的方法。17.一种计算机程序产品,包括计算机程序,所述计算机程序存储于可读存储介质和电子设备其中至少之一上,所述计算机程序在被处理器执行时实现根据权利要求1至7中任一项所述的方法。

技术总结
本公开提供了一种处理器的多线程调度方法,涉及计算机技术领域,尤其涉及人工智能和深度学习领域。具体实现方案为:响应于计算线程发起的传输第一数据的第一通知消息,使用第一通信线程传输第一数据;响应于第一通信线程发起的传输第一数据的第二通知消息,在第一时段使用第二通信线程传输第一数据;以及响应于计算线程发起的传输第二数据的第三通知消息,在第二时段使用第一通信线程传输第二数据;其中,第一时段与第二时段彼此重叠。本公开还提供了一种处理器的多线程调度装置、电子设备和存储介质。存储介质。存储介质。


技术研发人员:孙逸伦 李雨芮 巩伟宝 于佃海
受保护的技术使用者:北京百度网讯科技有限公司
技术研发日:2022.11.23
技术公布日:2023/3/2
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1