网络负载均衡方法、装置及集群服务系统的制作方法
【技术领域】
[0001] 本发明涉及互联网技术领域，特别是涉及网络负载均衡方法、装置及集群服务系 统。
【背景技术】
[0002] 在互联网中，用户的网络请求是由集群服务系统（简称集群）执行的。随着网络 技术的迅猛发展，用户通过网络获取信息的需求不断增多，集群的负载也不断增加。为了使 集群内多个服务节点（简称sercher节点或节点）之间实现合理的任务分配以提高系统的 处理效率，在互联网中引入了负载均衡技术。负载均衡技术一方面把大量的并发任务请求 或数据流量分担到多个节点上分别处理，减少流量拥塞，另一方面将单个任务请求分担到 多个节点上做并行处理，提高系统的响应速度。
[0003] 传统的网络负载均衡技术主要采用轮询调度算法和Hashing(哈希）算法。轮询 调度算法每一次把来自用户的任务请求轮流分配给集群中的节点。Hashing算法则根据任 务请求的源地址及目标IP地址，计算出对应的Hash值，并将任务请求分配给与该Hash值 对应的节点。轮询调度算法和Hashing算法不关心每个节点的当前负载数和节点的处理能 力，而是假设所有节点的处理能力都相同，其本质是将任务较为平均的分配到各节点中的 负载均衡算法。
[0004] 然而，当集群中的某个节点出现异常，例如该节点的I/O异常，或者由于网络暂时 波动造成该节点负载过高时，从上层节点发过来的任务的处理能力就会降低。但是现有的 负载均衡算法并没有对该节点做特别处理，而是依然会往该节点发送新的任务请求，这就 导致该节点的任务队列增长迅速，如果该节点不能快速处理掉这些队列里面的任务，就会 造成后续的任务请求都会超时，从而引起网络系统处理效率底下，甚至可能有节点宕机的 风险。
【发明内容】
[0005] 本发明实施例提供了网络负载均衡方法、装置及集群服务系统，以解决现有技术 中的网络负载均衡方法当出现个别节点异常时容易引起网络系统处理效率底下，以及容易 出现节点宕机风险的问题。
[0006] 为了解决上述技术问题，本发明实施例公开了如下技术方案：
[0007] -方面，提供了一种网络负载均衡方法，所述方法包括：获取集群服务系统中可用 的节点的健康度信息；根据所述节点的健康度信息计算所述节点的下发概率，根据所述下 发概率选择发送任务请求的对应目标节点；根据选择的所述目标节点发送所述任务请求。
[0008] 可选的，所述根据所述节点的下发概率选择发送任务请求的对应目标节点包括： 根据所述节点的健康度信息确定所述节点对应的健康度等级；根据所述下发概率从所述健 康度等级满足预设等级条件的节点中选择所述对应目标节点。
[0009] 可选的，所述方法还包括：计算并存储所述目标节点的实时健康度信息。
[0010] 可选的，所述计算所述目标节点的实时健康度信息包括：
[0011] 接收所述目标节点在反馈所述任务请求的处理结果时发送的所述目标节点的实 时健康度参数，所述目标节点包括第一目标节点和第二目标节点，其中所述第一目标节点 为根据所述健康度等级选择的正常健康等级的节点，所述第二目标节点为根据所述健康度 等级选择的不健康等级的节点；
[0012] 根据所述目标节点的实时健康度参数加权计算得到所述目标节点的实时健康度 信息。
[0013] 可选的，所述目标节点的实时健康度参数包括：
[0014] 所述任务请求在所述目标节点的任务队列中的队列延时tqu_，和/或所述目标 节点处理所述任务请求的延时tPMC_，和/或所述任务请求到达所述目标节点的网络延时 tnet，和/或所述目标节点的I/O等待延时tWwait。
[0015] 可选的，所述根据所述目标节点的实时健康度参数加权计算得到所述目标节点的 实时健康度信息包括：
[0016]
【主权项】
1. 一种网络负载均衡方法，其特征在于，所述方法包括： 获取集群服务系统中可用的节点的健康度信息； 根据所述节点的健康度信息计算所述节点的下发概率，根据所述下发概率选择发送任 务请求的对应目标节点； 根据选择的所述目标节点发送所述任务请求。
2. 根据权利要求1所述的方法，其特征在于，根据所述下发概率选择发送任务请求的 对应目标节点包括： 根据所述节点的健康度信息确定所述节点对应的健康度等级； 根据所述下发概率从所述健康度等级满足预设等级条件的节点中选择所述对应目标 节点。
3. 根据权利要求1或2所述的方法，其特征在于，还包括：计算并存储所述目标节点的 实时健康度信息。
4. 根据权利要求3所述的方法，其特征在于，计算所述目标节点的实时健康度信息包 括： 接收所述目标节点在反馈所述任务请求的处理结果时发送的所述目标节点的实时健 康度参数，所述目标节点包括第一目标节点和第二目标节点，其中所述第一目标节点为根 据所述健康度等级选择的正常健康等级的节点，所述第二目标节点为根据所述健康度等级 选择的不健康等级的节点； 根据所述目标节点的实时健康度参数加权计算得到所述目标节点的实时健康度信息。
5. 根据权利要求4所述的方法，其特征在于，所述目标节点的实时健康度参数包括： 所述任务请求在所述目标节点的任务队列中的队列延时，和/或 所述目标节点处理所述任务请求的延时tpMC_，和/或 所述任务请求到达所述目标节点的网络延时tnrt，和/或 所述目标节点的I/O等待延时tWwait。
6. 根据权利要求5所述的方法，其特征在于，所述根据所述目标节点的实时健康度参 数加权计算得到所述目标节点的实时健康度信息采用如下公式：
其中，H为目标节点的实时健康度信息，T(X)和TH(X)为预设归一化函数，α，β，X，δ 为取值为〇到1之间的预设加权系数。
7. 根据权利要求4至6任意一项所述的方法，其特征在于，根据所述节点的健康度信息 计覚所试爷占的下劳擗銮梁田加下公式.
其中，Pi为节点i的下发概率，W为可用节点的数量，/7 (/)为根据所述节点i的实时 健康度在预设周期T内计算得到的所述节点i的平均健康度。
8. 根据权利要求7所述的方法，其特征在于，还包括：以预设时间T为周期，计算在所 述周期内返回任务请求的处理结果的节点i的平均健康度77(/),包括： 根据存储的所述节点i的实时健康度确定对应的实时健康度等级； 根据所述实时健康度等级确定对应的实时加权系数； 以预设时间T为加权周期，根据所述实时加权系数对所述节点i的实时健康度进行加 权，得到所述节点在T内的平均健康度/7(/)。
9. 一种网络负载均衡装置，其特征在于，所述装置包括： 获取单元，用于获取集群服务系统中可用的节点的健康度信息； 第一计算单元，用于根据所述节点的健康度信息计算所述节点的下发概率； 选择单元，用于根据所述下发概率选择发送任务请求的对应目标节点； 发送单元，用于根据选择的所述目标节点发送所述任务请求。
10. 根据权利要求9所述的装置，其特征在于，所述选择单元包括： 第一确定子单元，用于根据所述节点的健康度信息确定所述节点对应的健康度等级； 第一选择子单元，用于根据所述下发概率从所述健康度等级满足预设等级条件的节点 中选择所述对应目标节点。
11. 根据权利要求9或10所述的装置，其特征在于，还包括：计算存储单元，用于计算 并存储所述目标节点的实时健康度信息。
12. 根据权利要求11所述的装置，其特征在于，所述计算存储单元包括： 接收子单元，用于接收所述目标节点在反馈所述任务请求的处理结果时发送的所述目 标节点的实时健康度参数，所述目标节点包括第一目标节点和第二目标节点，其中所述第 一目标节点为根据所述健康度等级选择的正常健康等级的节点，所述第二目标节点为根据 所述健康度等级选择的不健康等级的节点； 第一计算子单元，用于根据所述目标节点的实时健康度参数加权计算得到所述目标节 点的实时健康度信息。
13. 根据权利要求12所述的装置，其特征在于，所述目标节点的实时健康度参数包括： 所述任务请求在所述目标节点的任务队列中的队列延时，和/或 所述目标节点处理所述任务请求的延时tpMC_，和/或 所述任务请求到达所述目标节点的网络延时tnrt，和/或 所述目标节点的I/O等待延时tWwait。
14. 根据权利要求13所述的装置，其特征在于，所述第一计算子单元用于根据如下公 式计算所述目标节点的实时健康度信息：
其中，H为目标节点的实时健康度信息，T(X)和TH(X)为预设归一化函数，α，β，X，δ 为取值为〇到1之间的预设加权系数。
15. 根据权利要求12至14任意一项所述的装置，其特征在于，所述第一计算单元用于 根据如下公式计算所述节点i的下发概率Pi:
其中，w为可用节点的数量，/7(/)为根据所述节点i的实时健康度在预设周期τ内计算 得到的所述节点i的平均健康度。
16. 根据权利要求15所述的装置，其特征在于，还包括：第二计算单元，用于以预设时 间τ为周期，计算在所述周期内返回任务请求的处理结果的节点i的平均健康度/7(/);所 述计算单元包括： 第二确定子单元，用于根据存储的所述节点i的实时健康度/7(/)确定对应的实时健康 度等级； 第三确定子单元，用于根据所述实时健康度等级确定对应的实时加权系数； 第二计算子单元，用于以预设时间T为加权周期，根据所述实时加权系数对所述节点i 的实时健康度进行加权，得到所述节点在T内的平均健康度77(/_)。
17. -种集群服务系统，包括网络负载均衡装置和服务节点，其特征在于， 所述网络负载均衡装置用于获取集群服务系统中可用的服务节点的健康度信息，并根 据所述服务节点的健康度信息计算所述节点的下发概率，并根据所述下发概率选择发送任 务请求的对应目标节点，以及根据选择的所述目标节点发送所述任务请求。
【专利摘要】本发明公开了网络负载均衡方法、装置及集群服务系统，所述方法包括：获取集群服务系统中可用的节点的健康度信息；根据所述节点的健康度信息计算所述节点的下发概率，根据所述下发概率选择发送任务请求的对应目标节点；根据选择的所述目标节点发送所述任务请求。本发明提供的技术方法在选择下发任务请求的目标节点时能够根据节点的健康度信息进行合理选择，避免选择健康度达不到指标的异常节点，以及使异常的节点有机会快速恢复其功能，提高系统的稳定性。
【IPC分类】H04L12-803, H04L29-08
【公开号】CN104639645
【申请号】CN201510075547
【发明人】代俊
【申请人】广州神马移动信息科技有限公司
【公开日】2015年5月20日
【申请日】2015年2月12日