请求调度方法、装置、设备及介质与流程

文档序号:32048635发布日期:2022-11-03 08:09阅读:来源:国知局

技术特征:
1.一种请求调度方法,其特征在于,应用于服务端,所述请求调度方法包括:构建客户端数组,并为所述客户端数组中的每个客户端构建不同权重值的请求队列;构建每个客户端对应的全局数组,其中,每个客户端对应的全局数组的大小为5,每个客户端对应的全局数组中的每个元素对应于一个索引队列,每个索引队列中的元素对应于所述请求队列的权重值;在进行请求调度时,依次遍历所述客户端数组中的每个客户端;在遍历过程中,将当次遍历到的客户端确定为当前客户端,并在遍历所述当前客户端时,从上次轮询到的元素开始继续轮询所述当前客户端对应的全局数组中的每个元素,直至有元素对应的索引队列不为空时,将不为空的索引队列确定为目标索引队列,获取所述目标索引队列中处于队头的元素作为目标元素,将所述目标元素所指向的请求队列确定为目标队列,停止对所述当前客户端对应的全局数组的轮询,并从所述目标队列中获取配置数量的请求添加至待执行队列,继续遍历所述客户端数组中与所述当前客户端相邻的下一客户端;在遍历过程中,并发执行所述待执行队列中的每个请求。2.如权利要求1所述的请求调度方法,其特征在于,所述构建客户端数组包括:当检测到有客户端接入所述服务端时,获取接入的每个客户端的客户端标识;将每个客户端的客户端标识确定为元素,并按照每个客户端的接入顺序组成数组,得到所述客户端数组。3.如权利要求2所述的请求调度方法,其特征在于,在构建客户端数组后,所述方法还包括:当检测到有客户端与所述服务端断开连接时,将断开连接的客户端确定为目标客户端;从所述客户端数组中删除所述目标客户端的客户端标识,并将所述客户端数组中位于所述目标客户端后的其他客户端的客户端标识依次向前填充,及将所述客户端数组中的末位元素进行补零处理;当检测到有新的客户端接入所述服务端时,获取所述新的客户端的客户端标识;利用获取到的客户端标识替换所述末位元素的元素值。4.如权利要求1所述的请求调度方法,其特征在于,所述为所述客户端数组中的每个客户端构建不同权重值的请求队列包括:将权重值为1的请求添加至队列,得到每个客户端的第一子队列;将权重值为2的请求添加至队列,得到每个客户端的第二子队列;将权重值为3的请求添加至队列,得到每个客户端的第三子队列;将权重值为5的请求添加至队列,得到每个客户端的第四子队列;将每个客户端对应的第一子队列、第二子队列、第三子队列及第四子队列确定为每个客户端对应的请求队列。5.如权利要求1所述的请求调度方法,其特征在于,在从所述目标队列中获取配置数量的请求添加至待执行队列后,所述方法还包括:获取所述目标索引队列的数组下标;获取所述目标队列的权重值;
计算所述数组下标与所述权重值的和,得到第一数值;利用所述第一数值对5进行取余运算,得到当前数组下标;获取所述当前数组下标对应的索引队列作为当前索引队列;将所述目标队列的权重值作为元素添加至所述当前索引队列的队尾,并从所述目标索引队列中删除所述目标队列的权重值对应的元素。6.如权利要求1所述的请求调度方法,其特征在于,在从所述目标队列中获取配置数量的请求添加至待执行队列时,所述方法还包括:当所述目标队列中请求的数量小于所述配置数量时,将所述目标队列中的所有请求添加至所述待执行队列。7.如权利要求1所述的请求调度方法,其特征在于,所述并发执行所述待执行队列中的每个请求包括:构建配置数量的线程,并利用所述线程并发执行所述待执行队列中的每个请求;其中,所述配置数量为64,所述待执行队列的大小为每秒并发请求数目的3倍。8.一种请求调度装置,其特征在于,运行于服务端,所述请求调度装置包括:构建单元,用于构建客户端数组,并为所述客户端数组中的每个客户端构建不同权重值的请求队列;所述构建单元,还用于构建每个客户端对应的全局数组,其中,每个客户端对应的全局数组的大小为5,每个客户端对应的全局数组中的每个元素对应于一个索引队列,每个索引队列中的元素对应于所述请求队列的权重值;遍历单元,用于在进行请求调度时,依次遍历所述客户端数组中的每个客户端;所述遍历单元,还用于在遍历过程中,将当次遍历到的客户端确定为当前客户端,并在遍历所述当前客户端时,从上次轮询到的元素开始继续轮询所述当前客户端对应的全局数组中的每个元素,直至有元素对应的索引队列不为空时,将不为空的索引队列确定为目标索引队列,获取所述目标索引队列中处于队头的元素作为目标元素,将所述目标元素所指向的请求队列确定为目标队列,停止对所述当前客户端对应的全局数组的轮询,并从所述目标队列中获取配置数量的请求添加至待执行队列,继续遍历所述客户端数组中与所述当前客户端相邻的下一客户端;执行单元,用于在遍历过程中,并发执行所述待执行队列中的每个请求。9.一种计算机设备,其特征在于,所述计算机设备包括:存储器,存储至少一个指令;及处理器,执行所述存储器中存储的指令以实现如权利要求1至7中任意一项所述的请求调度方法。10.一种计算机可读存储介质,其特征在于:所述计算机可读存储介质中存储有至少一个指令,所述至少一个指令被计算机设备中的处理器执行以实现如权利要求1至7中任意一项所述的请求调度方法。

技术总结
本发明涉及互联网技术领域,提供一种请求调度方法、装置、设备及介质,其方法包括:在进行请求调度时,依次遍历客户端数组中的每个客户端;在遍历当前客户端时轮询当前客户端对应的全局数组中的每个元素,直至轮询到有元素对应的索引队列不为空的目标索引队列,将处于队头的目标元素所指向的请求队列确定为目标队列,停止对当前客户端的轮询,从目标队列中获取请求添加至待执行队列,继续遍历下一客户端,在遍历过程中,并发执行待执行队列中的每个请求。利用本发明能够基于构建的客户端数组、请求队列及全局数组对请求进行遍历轮询,使服务端调度请求时能够无差别化对待不同请求类型,具有更高的请求并发量、请求执行吞吐量及处理效率。量及处理效率。量及处理效率。


技术研发人员:李秋军 阳小鲜 贺锟 张旭敏 肖海宁
受保护的技术使用者:华锐分布式(北京)技术有限公司
技术研发日:2022.09.28
技术公布日:2022/11/2
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1