实例分配和请求调度方法、服务系统、设备及存储介质与流程

本申请涉及云计算，尤其涉及一种实例分配和请求调度方法、服务系统、设备及存储介质。

背景技术：

1、无服务器(serverless)平台是由第三方提供管理服务的平台，利用计算实例为用户提供计算服务。以平台即服务(platform as a service，paas)为基础，在无服务器架构下，终端用户不需要部署、配置或管理服务器服务，代码运行所需要的服务器服务皆由无服务器平台来提供。

2、无服务器平台利用调度系统对计算实例进行管理和调度，包括计算实例的创建、销毁、扩容和缩容等。相关技术中的计算实例调度方案存在处理链路长、处理时效低的缺陷，无法满足高吞吐、低延迟类云服务对性能的需求。

技术实现思路

1、本申请实施例提供一种实例分配和请求调度方法、服务系统、设备及存储介质，以更好地满足高吞吐、低延迟类云服务对性能的需求。

2、第一方面，本申请实施例提供了一种实例分配方法，应用于实例分配装置，实例分配方法包括：

3、获取为应用提供服务资源的实例的状态指标，根据状态指标生成应用的实例分配策略；其中，实例分配策略用于增加实例、减少实例或者维持当前实例；

4、根据应用的实例分配策略，更新应用与对应的实例的映射关系；

5、根据更新后的映射关系，更新实例分配列表；其中，实例分配列表中包括应用与实例的映射关系，用于供请求调度装置为目标应用的服务请求分配目标实例。

6、第二方面，本申请实施例提供了一种请求调度方法，应用于请求调度装置，请求调度方法包括：

7、响应于接收到目标应用的服务请求，根据请求调度装置当前缓存的第一实例分配列表确定目标应用对应的目标实例；其中，当前缓存的第一实例分配列表是根据实例分配装置异步配置的第二实例分配列表确定的，第二实例分配列表中包括应用与实例的映射关系；

8、向目标实例发送服务请求，以供目标实例处理服务请求。

9、第三方面，本申请实施例提供了一种实例分配装置，包括：

10、策略生成模块，用于获取为应用提供服务资源的实例的状态指标，根据状态指标生成应用的实例分配策略；其中，实例分配策略用于增加实例、减少实例或者维持当前实例；

11、映射关系更新模块，用于根据应用的实例分配策略，更新应用与对应的实例的映射关系；

12、分配列表更新模块，用于根据更新后的映射关系，更新实例分配列表；其中，实例分配列表中包括应用与实例的映射关系，用于供请求调度装置为目标应用的服务请求分配目标实例。

13、第四方面，本申请实施例提供了一种请求调度装置，包括：

14、目标实例确定模块，用于响应于接收到目标应用的服务请求，根据请求调度装置当前缓存的第一实例分配列表确定目标应用对应的目标实例；其中，当前缓存的第一实例分配列表是根据实例分配装置异步配置的第二实例分配列表确定的，第二实例分配列表中包括应用与实例的映射关系；

15、服务请求发送模块，用于向目标实例发送服务请求，以供目标实例处理服务请求。

16、第五方面，本申请实施例提供了一种服务系统，包括：

17、实例分配装置，用于获取为应用提供服务资源的实例的状态指标，根据状态指标生成应用的实例分配策略；其中，实例分配策略用于增加实例、减少实例或者维持当前实例；根据应用的实例分配策略，更新应用与对应的实例的映射关系；以及，根据更新后的映射关系，更新实例分配列表；其中，实例分配列表中包括应用与实例的映射关系，用于供请求调度装置为目标应用的服务请求分配目标实例；

18、请求调度装置，响应于接收到目标应用的服务请求，用于根据所述请求调度装置当前缓存的实例分配列表确定所述目标应用对应的目标实例；其中，所述当前缓存的实例分配列表是根据所述实例分配装置异步配置的实例分配列表确定的，所述实例分配装置异步配置的实例分配列表中包括应用与实例的映射关系；以及，向目标实例发送服务请求，以供目标实例处理服务请求。

19、第六方面，本申请实施例提供了一种电子设备，包括存储器、处理器及存储在存储器上的计算机程序，处理器在执行计算机程序时实现本申请实施例任一项的方法。

20、第七方面，本申请实施例提供了一种计算机可读存储介质，计算机可读存储介质内存储有计算机程序，计算机程序被处理器执行时实现本申请实施例任一项的方法。

21、与相关技术中的无服务器平台每次处理服务请求时都需要经过调度模块的调度，负责处理吞吐量大的应用的调度模块的硬件设备容易出现热点，从而需要手动配置调度模块所对应的实例分区不同，根据本申请实施例的技术方案，通过将实例分配和实例调度解耦到不同的链路中执行，在网关模块接收到目标应用发起的服务请求时，无需触发实例分配装置为服务请求分配目标实例，而是根据本地缓存的实例分配列表中预置的应用与实例的映射关系确定出目标实例，而网关模块本身是无状态的，因此可以按照预设的负载均衡策略确定出目标实例，从而避免出现热点，进而避免了热点可能带来的稳定性问题和复杂的运维动作，由此，缩短了服务请求的处理流程，降低了无服务器平台的性能损耗，能够更好地满足高吞吐、低延迟类云服务对性能的需求，并且有利于实现服务器无感知计算，从而实现高效的计算资源的利用和任务执行。

22、并且，由于实例分配装置能够按照对应的时间周期根据实例的状态指标为应用生成实例分配策略，根据实例分配策略动态调整应用与实例的映射关系，并将实例分配列表持久化至数据库，有利于实现负载均衡，避免了数据链路和控制链路的直接耦合，确保了服务系统在控制链路发生故障的情况下，数据链路依然可以正常工作，从而提升了服务系统的稳定性和可靠性，降低了运维复杂性。

23、上述说明仅是本申请技术方案的概述，为了能够更清楚了解本申请的技术手段，可依照说明书的内容予以实施，并且为了让本申请的上述和其他目的、特征和优点能够更明显易懂，以下特举本申请的具体实施方式。

技术特征：

1.一种实例分配方法，应用于实例分配装置，所述实例分配方法包括：

2.根据权利要求1所述的实例分配方法，其中，所述状态指标包括cpu负载、内存使用率和实例并发数中的至少一项。

3.根据权利要求1所述的实例分配方法，其中，根据所述状态指标生成所述应用的实例分配策略，包括：

4.根据权利要求3所述的实例分配方法，其中，利用所述待选实例数量和所述应用的预设实例数量范围，确定目标实例数量，包括以下中的至少一项：

5.根据权利要求1所述的实例分配方法，其中，根据所述应用的实例分配策略，更新所述应用与对应的实例的映射关系，包括以下中的至少一项：

6.根据权利要求1至5任一项所述的实例分配方法，其中，获取应用对应的实例的状态指标，根据所述状态指标生成所述应用对应的实例分配策略，包括：

7.根据权利要求1至5任一项所述的实例分配方法，其中，在根据更新后的映射关系，更新实例分配列表之后，还包括：

8.一种请求调度方法，应用于请求调度装置，所述请求调度方法包括：

9.根据权利要求8所述的请求调度方法，还包括：

10.一种实例分配装置，包括：

11.一种请求调度装置，包括：

12.一种服务系统，包括：

13.一种电子设备，包括存储器、处理器及存储在存储器上的计算机程序，所述处理器在执行所述计算机程序时实现权利要求1至9中任一项所述的方法。

14.一种计算机可读存储介质，所述计算机可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现权利要求1至9中任一项所述的方法。

技术总结
本申请提供了一种实例分配和请求调度方法、服务系统、设备及存储介质，涉及云计算技术领域。其中，实例分配方法包括：获取为应用提供服务资源的实例的状态指标，根据状态指标生成应用的实例分配策略；其中，实例分配策略用于增加实例、减少实例或者维持当前实例；根据应用的实例分配策略，更新应用与对应的实例的映射关系；根据更新后的映射关系，更新实例分配列表；其中，实例分配列表中包括应用与实例的映射关系，用于供请求调度装置为目标应用的服务请求分配目标实例。根据本申请的技术，缩短了服务请求的处理流程，降低了无服务器平台的性能损耗，能够更好地满足高吞吐、低延迟类云服务对性能的需求，有利于实现服务器无感知计算。

技术研发人员：林雪清
受保护的技术使用者：杭州阿里云飞天信息技术有限公司
技术研发日：
技术公布日：2025/4/21