请求管理方法、装置、计算机设备和存储介质与流程

本申请涉及互联网，可用于金融科技领域或其他相关领域，特别是涉及一种请求管理方法、装置、计算机设备和存储介质。

背景技术：

1、当服务器同时响应于大量访问请求时，容易出现服务器负载过大的情况，不利于服务器正常运行。在此情况下，通常采用查杀超时服务或僵尸进程的方式来缓解服务器压力，并在服务器负载即将超出负载能力时，直接拒绝向所有客户端提供服务，直至服务器负载恢复至正常范围。

2、查杀超时服务或僵尸进程的方式操作流程较长，不能改变服务器在面对高并发的访问请求时负载能力较差的情况，且在服务器负载即将超出负载能力时，直接拒绝向所有客户端提供服务，不能较大化利用服务器资源，因此目前面对高并发的访问请求的应对方式不够合理。

技术实现思路

1、基于此，有必要针对上述技术问题，提供一种能够在面对高并发的访问请求时，对访问请求进行层次化管理的请求管理方法、装置、计算机设备和存储介质。

2、第一方面，本申请提供了一种请求管理方法，该方法包括：

3、拦截客户端向服务端发送的访问请求，并获取客户端的服务等级和服务端的当前资源状态；

4、根据服务端的当前资源状态，确定服务端运行所需的扩容量；

5、根据扩容量与扩容阈值之间的大小关系，以及客户端的服务等级，对访问请求进行管理。

6、在其中一个实施例中，根据服务端的当前资源状态，确定服务端运行所需的扩容量，包括：

7、获取服务端当前的占用容器数量和服务端运行所需的期望资源状态；

8、根据占用容器数量、期望资源状态和当前资源状态，确定服务端运行所需增加的空闲容器数量；

9、将服务端运行所需增加的空闲容器数量，作为服务端运行所需的扩容量。

10、在其中一个实施例中，当前资源状态包括当前资源占用率，期望资源状态包括期望资源占用率，根据占用容器数量、期望资源状态和当前资源状态，确定服务端运行所需增加的空闲容器数量，包括：

11、将占用容器数量与当前资源占用率之间的比值，作为初始容器数量；

12、将占用容器数量与期望资源占用率之间的比值，作为期望容器数量；

13、将期望容器数量与初始容器数量之差，作为服务端运行所需增加的空闲容器数量。

14、在其中一个实施例中，根据扩容量与扩容阈值之间的大小关系，以及客户端的服务等级，对访问请求进行管理，包括：

15、若扩容量大于扩容阈值，则根据客户端的服务等级，对访问请求进行管理；

16、若扩容量不大于扩容阈值，则控制客户端将访问请求发送至服务端。

17、在其中一个实施例中，根据客户端的服务等级，对访问请求进行管理，包括：

18、根据客户端的服务等级，确定对应的资源阈值；

19、根据资源阈值与当前资源占用率之间的大小关系，对访问请求进行管理。

20、在其中一个实施例中，根据资源阈值与当前资源占用率之间的大小关系，对访问请求进行管理，包括：

21、在资源阈值大于当前资源占用率的情况下，控制客户端将访问请求发送至服务端；

22、在资源阈值不大于当前资源占用率的情况下，禁止客户端将访问请求发送至服务端。

23、在其中一个实施例中，该方法还包括：

24、若扩容量不大于扩容阈值，则根据扩容量，对服务端对应的容器集进行扩容处理。

25、在其中一个实施例中，控制客户端将访问请求发送至服务端，包括：

26、向客户端发送认证令牌，并指示客户端向服务端发送携带认证令牌的访问请求。

27、第二方面，本申请还提供了一种请求管理装置，该装置包括：

28、拦截模块，用于拦截客户端向服务端发送的访问请求，并获取客户端的服务等级和服务端的当前资源状态；

29、确定模块，用于根据服务端的当前资源状态，确定服务端运行所需的扩容量；

30、管理模块，用于根据扩容量与扩容阈值之间的大小关系，以及客户端的服务等级，对访问请求进行管理。

31、第三方面，本申请还提供了一种计算机设备，包括存储器和处理器，存储器存储有计算机程序，处理器执行计算机程序时实现上述第一方面的方法的步骤。

32、第四方面，本申请还提供了一种计算机可读存储介质，其上存储有计算机程序，计算机程序被处理器执行时实现上述第一方面的方法的步骤。

33、第五方面，本申请还提供了一种计算机程序产品，包括计算机程序，该计算机程序被处理器执行时实现上述第一方面的方法的步骤。

34、上述请求管理方法、装置、计算机设备和存储介质，拦截客户端向服务端发送的访问请求，并获取客户端的服务等级和服务端的当前资源状态；根据服务端的当前资源状态，确定服务端运行所需的扩容量，进而根据扩容量与扩容阈值之间的大小关系，以及客户端的服务等级，对访问请求进行管理。本申请根据服务端实时的当前资源状态，确定服务端运行所需的扩容量，进而比较扩容量与扩容阈值之间的大小关系，可在面对高并发的访问请求时，根据扩容量与扩容阈值之间的大小关系改变对访问请求进行管理的方式，如是否可以对服务端资源进行扩容后继续响应访问请求，从而提升服务端在面对高并发的访问请求时的负载能力，同时结合客户端的服务等级，对不同服务等级的客户端发送的访问请求，采取不同的管理方式，实现更精细化的管控，使得服务端可以更灵活和合理地响应于访问请求。

技术特征：

1.一种请求管理方法，其特征在于，包括：

2.根据权利要求1所述的方法，其特征在于，所述根据所述服务端的当前资源状态，确定所述服务端运行所需的扩容量，包括：

3.根据权利要求2所述的方法，其特征在于，所述当前资源状态包括当前资源占用率，所述期望资源状态包括期望资源占用率，所述根据所述占用容器数量、所述期望资源状态和所述当前资源状态，确定所述服务端运行所需增加的空闲容器数量，包括：

4.根据权利要求1所述的方法，其特征在于，所述根据所述扩容量与扩容阈值之间的大小关系，以及所述客户端的服务等级，对所述访问请求进行管理，包括：

5.根据权利要求4所述的方法，其特征在于，所述根据所述客户端的服务等级，对所述访问请求进行管理，包括：

6.根据权利要求5所述的方法，其特征在于，所述根据所述资源阈值与所述当前资源占用率之间的大小关系，对所述访问请求进行管理，包括：

7.根据权利要求4所述的方法，其特征在于，所述方法还包括：

8.根据权利要求4或6所述的方法，其特征在于，所述控制所述客户端将所述访问请求发送至所述服务端，包括：

9.一种请求管理装置，其特征在于，包括：

10.一种计算机设备，包括存储器和处理器，所述存储器存储有计算机程序，其特征在于，所述处理器执行所述计算机程序时实现权利要求1-8中任一项所述的方法的步骤。

11.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1-8中任一项所述的方法的步骤。

12.一种计算机程序产品，包括计算机程序，其特征在于，该计算机程序被处理器执行时实现权利要求1-8中任一项所述的方法的步骤。

技术总结
本申请涉及一种请求管理方法、装置、计算机设备和存储介质，涉及互联网技术领域，可用于金融科技领域或其他相关领域。所述方法包括：拦截客户端向服务端发送的访问请求，并获取客户端的服务等级和服务端的当前资源状态；根据服务端的当前资源状态，确定服务端运行所需的扩容量，进而根据扩容量与扩容阈值之间的大小关系，以及客户端的服务等级，对访问请求进行管理。采用本方法可以根据扩容量与扩容阈值之间的大小关系改变对访问请求进行管理的方式，如是否可以对服务端资源进行扩容后继续响应访问请求，从而提升服务端在面对高并发的访问请求时的负载能力，同时对不同服务等级的客户端发送的访问请求，采取不同的管理方式，可以实现层次化管理。

技术研发人员：赵跃于,林振溪
受保护的技术使用者：中国工商银行股份有限公司
技术研发日：
技术公布日：2024/1/25