一种云计算环境中GPU资源调度系统的制作方法

文档序号:25785663发布日期:2021-07-09 10:40阅读:来源:国知局

技术特征:
1.一种云计算环境中gpu资源调度系统,其特征在于,包括:任务导入模块,用于将应用程序发出的调用任务导入到微环境中;任务分析模块,用于分析所述调用任务,并根据所述调用任务需要调用的gpu资源的多少发出gpu调用请求;资源打分模块,用于以显存利用率、gpu利用率、gpu功耗三项作为变量对可用gpu资源进行打分;资源排序模块,用于根据分数高低对所述可用gpu资源进行排序;资源重定向模块,用于对directx接口进行重定向,以使所述微环境根据所述gpu调用请求在多个计算节点的多个gpu设备间选择出分数高且分数差值最小的相应数量的所述可用gpu资源分配给所述应用程序。2.根据权利要求1所述的云计算环境中gpu资源调度系统,其特征在于,所述任务导入模块包括多个程序接口,用于与应用程序进行通信,以获取所述调用任务。3.根据权利要求1所述的云计算环境中gpu资源调度系统,其特征在于,还包括gpu调用模块,用于与硬件设备进行通信,以供所述微环境调用所述gpu设备。4.根据权利要求1所述的云计算环境中gpu资源调度系统,其特征在于,所述显存利用率的计算公式为sm=(tm

um)*vm/tm,其中,sm为显存利用率,tm为显存总量,um为已用显存量,vm为相关影响因子的阈值;所述gpu利用率的计算公式为su=(1

ugpu)*10,其中,su为gpu利用率,ugpu表示显卡利用率;所述gpu功耗的计分公式为sp=(tp

up)*vp/tp,其中,sp为gpu功耗,tp为最大功率,up为已用功率,vp为相关影响因子的阈值;对所述可用gpu资源进行打分的计算公式为sg_i=xsm+ysu+zsp,其中i为可用gpu资源的编号。5.根据权利要求1所述的云计算环境中gpu资源调度系统,其特征在于,所述资源打分模块还用于在所述gpu功耗和/或所述显存利用率达到设定的低值时,将对应的所述gpu资源作为不可用gpu资源。6.根据权利要求1所述的云计算环境中gpu资源调度系统,其特征在于,在s6中,还包括记录模块,用于记录对当前所述应用程序进行所述可用gpu资源分配的情况。7.根据权利要求1所述的云计算环境中gpu资源调度系统,其特征在于,还包含监视模块,用于实时监视所有所述gpu设备的工作状态,以获取所述显存利用率、所述gpu利用率以及所述gpu功耗。8.根据权利要求1所述的云计算环境中gpu资源调度系统,其特征在于,所述资源重定向模块还用于在所述可用gpu资源不足时,将所述调用任务挂起等待调度。
当前第2页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1