任务调度的方法和电子设备与流程

本公开的实施例主要涉及计算机，并且更具体地，涉及任务调度的方法、装置、电子设备、计算机可读存储介质和计算机程序产品。

背景技术：

1、随着技术的发展，对算力的处理需求和处理能力也在逐渐提升。例如，在人工智能(artificial intelligence，ai)领域中的某个ai计算任务可能需要多个处理单元来对数据的不同部分分别进行处理。

2、在处理大量任务的场景中，如何对任务进行充分且有效地调度，是当前需要解决的问题之一。

技术实现思路

1、根据本公开的示例实施例，提供了一种任务调度的技术方案，能够保证在线任务被优先处理，并且能够适应于各种不同的场景，实现了资源的有效利用。

2、在本公开的第一方面，提供了一种任务调度的方法，包括：确定等待队列的在线任务集合中是否存在待调度的任务；以及如果所述在线任务集合中存在所述待调度的任务，则基于预先设置的在线调度模式对所述在线任务集合中的所述待调度的任务进行调度，其中所述预先设置的在线调度模式包括顺序模式、吞吐模式或者轮流模式。

3、在本公开的第二方面，提供了一种电子设备，包括：至少一个处理单元；至少一个存储器，至少一个存储器被耦合到至少一个处理单元并且存储用于由至少一个处理单元执行的指令，该指令当由至少一个处理单元执行时使得电子设备执行动作，动作包括：确定等待队列的在线任务集合中是否存在待调度的任务；如果所述在线任务集合中存在所述待调度的任务，则基于预先设置的在线调度模式对所述在线任务集合中的所述待调度的任务进行调度，其中所述预先设置的在线调度模式包括顺序模式、吞吐模式或者轮流模式。

4、在本公开的第三方面，提供了一种任务调度的装置，包括：确定模块，被配置为确定等待队列的在线任务集合中是否存在待调度的任务；以及调度模块，被配置为：如果所述在线任务集合中存在所述待调度的任务，则基于预先设置的在线调度模式对所述在线任务集合中的所述待调度的任务进行调度，其中所述预先设置的在线调度模式包括顺序模式、吞吐模式或者轮流模式。

5、在本公开的第四方面，提供了一种计算机可读存储介质，该计算机可读存储介质具有在其上存储的机器可执行指令，该机器可执行指令在由设备执行时使该设备执行根据本公开的第一方面所描述的方法。

6、本公开的第五方面，提供了一种计算机程序产品，包括计算机可执行指令，其中计算机可执行指令在被处理器执行时实现根据本公开的第一方面所描述的方法。

7、本公开的第六方面，提供了一种电子设备，包括：处理电路，被配置为执行根据本公开的第一方面所描述的方法。

8、提供该内容部分是为了以简化的形式来介绍一系列概念，它们在下文的具体实施方式中将被进一步描述。该内容部分不旨在标识本公开的关键特征或必要特征，也不旨在限制本公开的范围。本公开的其它特征将通过以下的描述变得容易理解。

技术特征：

1.一种任务调度的方法，包括：

2.根据权利要求1所述的方法，其中所述顺序模式表示对所述在线任务集合中的所述待调度的任务按照时间顺序依次进行调度。

3.根据权利要求2所述的方法，还包括：

4.根据权利要求3所述的方法，其中所述紧急任务队列中的每个任务具有对应的时间戳。

5.根据权利要求1所述的方法，其中所述轮流模式表示对所述在线任务集合的多个资源匹配任务队列中的所述待调度的任务进行轮流调度。

6.根据权利要求5所述的方法，所述方法还包括：

7.根据权利要求1所述的方法，其中所述吞吐模式表示：先基于优先级对多个任务子集的紧急任务队列中的待调度的任务进行调度，如果所述多个紧急任务队列为空，则基于优先级对所述多个任务子集的资源匹配任务队列中的待调度的任务进行调度。

8.根据权利要求7所述的方法，其中所述任务子集包括所述在线任务集合中的多个在线任务子集，所述多个在线任务子集对应于多个不同的优先级，所述多个在线任务子集中每个在线任务子集包括紧急任务队列和多个资源匹配任务队列，

9.根据权利要求8所述的方法，还包括：

10.根据权利要求8所述的方法，其中所述多个在线任务子集中的每个资源匹配任务队列具有对应的权重，所述方法还包括：

11.根据权利要求10所述的方法，还包括：

12.根据权利要求1所述的方法，还包括：

13.根据权利要求12所述的方法，其中对离线任务集合中的待调度的任务进行调度包括：

14.根据权利要求13所述的方法，其中所述第一预定数量的任务包括基于优先级顺序而确定的、所述离线任务集合的紧急任务列表中的待调度任务。

15.根据权利要求12所述的方法，还包括：

16.根据权利要求15所述的方法，还包括：

17.一种电子设备，包括：

18.一种任务调度的装置，包括：

19.一种计算机可读存储介质，其上存储有计算机程序，所述程序被处理器执行时实现根据权利要求1至16中任一项所述的方法。

20.一种计算机程序产品，其上存储有计算机程序，所述程序被处理器执行时实现根据权利要求1至16中任一项所述的方法。

技术总结
本公开的实施例涉及一种任务调度的方法和电子设备。该方法包括：确定等待队列的在线任务集合中是否存在待调度的任务；如果在线任务集合中存在待调度的任务，则基于预先设置的在线调度模式对在线任务集合中的待调度的任务进行调度，其中预先设置的在线调度模式为顺序模式、吞吐模式或者轮流模式。以此方式，本公开的实施例能够优先调度在线任务，保证在线任务的时延需求，并且基于预先设置的在线调度模式来对在线任务进行调度，能够适用于不同的场景，确保资源的有效利用。

技术研发人员：笪禹,李涛,罗海钊,张永肃,佘开锐,张宇,王剑
受保护的技术使用者：北京有竹居网络技术有限公司
技术研发日：
技术公布日：2024/3/4