一种负载均衡调度方法和系统

本技术涉及边缘计算领域，尤其是涉及一种负载均衡调度方法和系统。

背景技术：

1、近年来，随着科技的日新月异，特别是人工智能、5g通信以及物联网技术的蓬勃兴起，人们对于计算资源的需求逐步增加，边缘计算系统应运而生，它将计算资源从云端推向更接近用户的边缘侧，通过构建云-边-端三位一体的分布式管理体系，不仅极大地缩短了数据传输的物理距离，从而显著降低了延迟，还极大地提升了数据处理与响应的效率。

2、然而，由于边缘计算服务器的部署环境复杂多样，不同地理位置、不同用户密度的服务器面临着截然不同的负载压力。部分服务器可能因连接用户过多而超负荷运行，而另一些则因高闲置率而未被充分利用，导致出现整个负载系统资源分配不均衡、调度效率低以及计算资源利用率低的问题。

技术实现思路

1、以下是对本文详细描述的主题的概述。本概述并非是为了限制权利要求的保护范围。

2、本公开实施例的主要目的在于提出一种负载均衡调度方法和系统，能够提高边缘计算的负载分配效率和负载利用率。

3、本技术实施例的第一方面提供了一种负载均衡调度方法，所述方法包括：

4、获取第 t个时隙内，多个服务器中的每一所述服务器的第一状态和第二状态，所述第一状态是服务器的负载量，所述第二状态是第一节点数量与第二节点数量之间的变化值，所述第一节点数量是在第 t个时隙中与所述服务器之间建立连接的节点的数量，所述第二节点数量是在第 t-1个时隙中与所述服务器之间建立连接的节点的数量，节点具有待卸载任务；其中任意一个时隙的结束条件包括：时隙内的所述多个服务器的负载量均达到对应阈值； t为大于1的整数；

5、根据所述第一状态和所述第二状态对所述多个服务器进行聚类分组，得到多个服务器组，每一所述服务器组包括至少两个服务器；

6、利用预先训练的任务调度模型根据每一所述服务器组内的至少两个服务器的所述第一状态，将所述多个服务器组划分为第一服务器组和多个第二服务器组；其中所述第一服务器组的数量为1，且所述第一服务器组中的任务量比任意所述第二服务器组中的任务量少；

7、根据所述任务调度模型将所述多个第二服务器组中的待卸载任务卸载至所述第一服务器组中，并将卸载至所述第一服务器组的待卸载任务分配至所述第一服务器组中的至少两个服务器中。

8、本技术实施例提供了一种负载均衡调度方法，方法通过获取第 t个时隙内，多个服务器中的每一所述服务器的第一状态和第二状态；根据所述第一状态和所述第二状态对所述多个服务器进行聚类分组，得到多个服务器组，每一所述服务器组包括至少两个服务器；利用预先训练的任务调度模型根据每一所述服务器组内的至少两个服务器的所述第一状态，将所述多个服务器组划分为第一服务器组和多个第二服务器组；根据所述任务调度模型将所述多个第二服务器组中的待卸载任务卸载至所述第一服务器组中，并将卸载至所述第一服务器组的待卸载任务分配至所述第一服务器组中的至少两个服务器中。

9、在本技术的一些实施例中，所述利用预先训练的任务调度模型根据每一所述服务器组内的至少两个服务器的第一状态，将所述多个服务器组划分为第一服务器组和多个第二服务器组，包括：

10、根据每一所述服务器组内的至少两个服务器的所述第一状态，计算每一所述服务器组的任务量平均值；

11、基于所述任务量平均值，根据所述任务调度模型选取多个所述服务器组中任务量平均值最小一个所述服务器组作为第一服务器组，将其它服务器组作为第二服务器组。

12、在本技术的一些实施例中，所述根据所述任务调度模型将所述多个第二服务器组中的待卸载任务卸载至所述第一服务器组中，包括：

13、根据所述任务调度模型确定每一所述服务器组中的待卸载任务服务器，以及每一所述待卸载任务服务器中的待卸载任务；

14、根据所述任务调度模型基于所述第一服务器组内至少两个服务器的第一状态的高低，对所述第一服务器组内至少两个服务器进行排序，得到排序结果；

15、根据所述任务调度模型将每一所述服务器组中的所述待卸载任务服务器中的待卸载任务，按照排序结果卸载至所述第一服务器组内至少两个服务器中。

16、在本技术的一些实施例中，所述根据所述任务调度模型将每一所述服务器组中的所述待卸载任务服务器中的待卸载任务，按照排序结果卸载至所述第一服务器组内至少两个服务器中，包括：

17、根据所述任务调度模型按照所述排序结果，将排序在首位的所述服务器作为目标服务器；

18、根据所述任务调度模型汇总所述待卸载任务服务器的待卸载任务，得到汇总结果；

19、在排序结果是从大到小排序的情况下，将所述待卸载任务服务器的待卸载任务卸载至所述目标服务器中，直至所述目标服务器对应的第一状态高于对应的所述阈值，则将所述排序结果中与目标服务器相邻的、且排在目标服务器之后的服务器作为目标服务器，执行将所述汇总结果中剩余未卸载的待卸载任务卸载至所述目标服务器中的步骤，直至所述第一服务器组中的所有服务器对应的第一状态均高于对应的所述阈值。

20、在本技术的一些实施例中，在第 t个时隙结束之后，还包括：

21、计算奖励函数，其中，奖励函数包括：

22、；

23、其中，为第 t个时隙的奖励函数，n为所述待卸载任务的总量，为第 i个所述待卸载任务对应的待卸载服务器的服务价格，为第 i个所述待卸载任务对应的所述目标服务器的服务价格、为所述目标服务器的所述阈值、为第 i个所述待卸载任务对应的所述目标服务器的第一状态，是权值；

24、根据所述奖励函数和所述服务器组中至少两个服务器对应的第一状态的平均值，对所述任务调度模型进行优化。

25、在本技术的一些实施例中，所述根据所述任务调度模型确定每一所述服务器组中的待卸载任务服务器，以及每一待卸载任务服务器中的待卸载任务，包括：

26、根据所述服务器组中每一个服务器的第一状态和最低卸载阈值，确定所述服务器组中待卸载任务服务器；

27、根据所述任务调度模型，将所述待卸载任务服务器中超出最低卸载阈值的任务作为待卸载任务。

28、在本技术的一些实施例中，所述根据所述第一状态和所述第二状态对多个所述服务器进行聚类分组，得到多个服务器组，包括：

29、基于k-means聚类算法，根据所述第一状态和所述第二状态对多个所述服务器进行轮聚类；

30、计算第轮聚类的平方误差和，其中，其中平方误差和为：

31、；

32、其中，为所述第轮聚类的平方误差和，为第轮聚类中服务器的所述第二状态的向量表达，为第个聚类中服务器组的第二状态的向量的集合，为欧几里得距离函数；

33、当达到最小值时，则基于所述第轮聚类结果得到多个服务器组，包括：

34、；

35、其中，为当聚类数为时平方误差和的降幅。

36、本发明实施例的第二方面提供一种负载均衡调度系统，所述系统包括：

37、获取模块，用于获取第 t个时隙内，多个服务器中的每一所述服务器的第一状态和第二状态，所述第一状态是服务器的负载量，所述第二状态是第一节点数量与第二节点数量之间的变化值，所述第一节点数量是在第 t个时隙中与所述服务器之间建立连接的节点的数量，所述第二节点数量是在第 t-1个时隙中与所述服务器之间建立连接的节点的数量，节点具有待卸载任务；其中任意一个时隙的结束条件包括：时隙内的所述多个服务器的负载量均达到对应阈值； t为大于1的整数；

38、分组模块，用于根据所述第一状态和所述第二状态对所述多个服务器进行聚类分组，得到多个服务器组，每一所述服务器组包括至少两个服务器；

39、调度模块，用于利用预先训练的任务调度模型根据每一所述服务器组内的至少两个服务器的所述第一状态，将所述多个服务器组划分为第一服务器组和多个第二服务器组；其中所述第一服务器组的数量为1，且所述第一服务器组中的任务量比任意所述第二服务器组中的任务量少；

40、卸载模块，用于根据所述任务调度模型将所述多个第二服务器组中的待卸载任务卸载至所述第一服务器组中，并将卸载至所述第一服务器组的待卸载任务分配至所述第一服务器组中的至少两个服务器中。

41、本发明实施例的第三方面提供一种电子设备，包括：至少一个控制处理器和用于与所述至少一个控制处理器通信连接的存储器；所述存储器存储有可被所述至少一个控制处理器执行的指令，所述指令被所述至少一个控制处理器执行，以使所述至少一个控制处理器能够执行上述的一种负载均衡调度方法。

42、本发明实施例的第四方面提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机可执行指令，所述计算机可执行指令用于使计算机执行上述的一种负载均衡调度方法。

43、可以理解的是，上述第二方面至第四方面和相关技术相比存在的有益效果和上述第一方面和相关技术相比存在的有益效果相同，可以参见上述第一方面中的相关描述，在此不再赘述。