一种高并发响应的资源调度方法和系统

本发明属于集群调度，尤其涉及一种高并发响应的资源调度方法和系统。

背景技术：

1、kubernetes由谷歌内部的brog演变而来，是brog的2015年对外共享的开源版本。kubernetes发布至今短短7年，超越了容器docker官方的管理系统，已经成为云计算容器管理领域大家耳熟能详的标杆系统。kubernetes实现了容器全生命周期的高效管理，它的功能较为齐全，覆盖面广，具有包括资源调度、资源伸缩、集群监控、部署运维等众多功能。

2、kubernetes容器编排功能的实现，是通过对底层资源的调度。一个kubernetes的集群往往由一个master和一或多个node节点组成，在这样的集群中资源以不同的种类被控制，基本的资源有：节点资源node、容器组pod、服务service等。

3、pod是kubernetes进行容器编排时的最基本单位，一切编排指令都是基于pod这个最小单位而言的。其中文为豆荚。生动形象的表示出其与容器之间的关系，豆荚内有一个或者多个豆子，一个pod中装下一或多个容器，它们可以共享诸如ip等资源，但也各自独立独有一些资源如cpu、memory。例如：在视频web服务中，由于业务的相关性，可以在一个pod中部署nginx、mysql等关联容器，减少通信的开销。kubernetes对pod的管理是十分严格的，从pod创建、部署、运行到消亡，都会对其生命周期详细记录，并通过状态数据同步到数据库，向整个集群各个组件更新资源状态。

4、kubernetes集群资源弹性伸缩机制存在以下两点问题：该机制默认用户执行云平台已提前内置的这一种资源配置算法，用户场景的适应性差，在自定义指标上未延伸实现。内置的算法在确定调度策略的时候，对pod的扩容缩容速度做出了固定化的限制，这显然是不够实用的，因为存在很多应用场景需要pod副本数量以不同的速度响应。

技术实现思路

1、针对上述技术问题，本发明提出一种高并发响应的资源调度方案。

2、本发明第一方面提出一种高并发响应的资源调度方法。所述方法包括：

3、获取当前cpu资源利用参数，以计算当前cpu资源利用率，当所述当前cpu资源利用率超出cpu资源利用率阈值时，触发kubernetes对容器组pod的横向自动扩容；

4、其中，所述横向自动扩容包括：根据当前容器组pod的副本数和扩容参数计算需要扩容的容器组pod的副本数；基于所述需要扩容的容器组pod的副本数更新扩容策略中的副本数，按照经更新的扩容策略中的副本数执行所述横向自动扩容。

5、根据本发明第一方面的方法，所述需要扩容的容器组pod的副本数的计算方式为：

6、newreplicas＝(1+percentvalue％)*currentreplicas

7、其中，newreplicas表示所述需要扩容的容器组pod的副本数，currentreplicas表示所述当前容器组pod的副本数，percentvalue表示所述扩容参数。

8、本发明第二方面提出一种高并发响应的资源调度系统。所述系统包括处理单元，所述处理单元被配置为：获取当前cpu资源利用参数，以计算当前cpu资源利用率，当所述当前cpu资源利用率超出cpu资源利用率阈值时，触发kubernetes对容器组pod的横向自动扩容；

9、其中，所述横向自动扩容包括：根据当前容器组pod的副本数和扩容参数计算需要扩容的容器组pod的副本数；基于所述需要扩容的容器组pod的副本数更新扩容策略中的副本数，按照经更新的扩容策略中的副本数执行所述横向自动扩容。

10、根据本发明第二方面的系统，所述需要扩容的容器组pod的副本数的计算方式为：

11、newreplicas＝(1+percentvalue％)*currentreplicas

12、其中，newreplicas表示所述需要扩容的容器组pod的副本数，currentreplicas表示所述当前容器组pod的副本数，percentvalue表示所述扩容参数。

13、本发明第三方面公开了一种电子设备。所述电子设备包括存储器和处理器，所述存储器存储有计算机程序，所述处理器执行所述计算机程序时，实现本公开第一方面所述的一种高并发响应的资源调度方法中的步骤。

14、本发明第四方面公开了一种计算机可读存储介质。所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时，实现本公开第一方面所述的一种高并发响应的资源调度方法中的步骤。

15、综上，本发明方案提出了一种高并发响应的资源调度方案，解决了原有机制中不支持响应慢、服务不可访问的问题。这种方法使集群资源快速扩张同时，保证服务的正常访问。本发明设计了一个面对高并发请求时服务器资源扩张算法策略，根据云视频系统任务的并发压力快速为服务扩容，响应请求。

技术特征：

1.一种高并发响应的资源调度方法，其特征在于，所述方法包括：

2.根据权利要求1所述的一种高并发响应的资源调度方法，其特征在于，所述需要扩容的容器组pod的副本数的计算方式为：

3.一种高并发响应的资源调度系统，其特征在于，所述系统包括处理单元，所述处理单元被配置为：获取当前cpu资源利用参数，以计算当前cpu资源利用率，当所述当前cpu资源利用率超出cpu资源利用率阈值时，触发kubernetes对容器组pod的横向自动扩容；

4.根据权利要求3所述的一种高并发响应的资源调度系统，其特征在于，所述需要扩容的容器组pod的副本数的计算方式为：

5.一种电子设备，其特征在于，所述电子设备包括存储器和处理器，所述存储器存储有计算机程序，所述处理器执行所述计算机程序时，实现权利要求1-2任一项所述的一种高并发响应的资源调度方法中的步骤。

6.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时，实现权利要求1-2任一项所述的一种高并发响应的资源调度方法中的步骤。

技术总结
本发明提出一种高并发响应的资源调度方法和系统，属于集群调度技术领域。所述方法包括：获取当前CPU资源利用参数，以计算当前CPU资源利用率，当所述当前CPU资源利用率超出CPU资源利用率阈值时，触发Kubernetes对容器组Pod的横向自动扩容；其中，所述横向自动扩容包括：根据当前容器组Pod的副本数和扩容参数计算需要扩容的容器组Pod的副本数；基于所述需要扩容的容器组Pod的副本数更新扩容策略中的副本数，按照经更新的扩容策略中的副本数执行所述横向自动扩容。

技术研发人员：李忠博,霍启正,谢永强,梁进君,齐锦
受保护的技术使用者：中国人民解放军军事科学院系统工程研究院
技术研发日：
技术公布日：2024/2/19