具有干扰感知实时调度器的数据处理装置和方法与流程

本发明涉及数据处理系统。更具体地，本发明涉及一种具有干扰感知实时调度器(real-time scheduler，rts)的数据处理装置，用于调度在数据处理装置上运行的多个应用程序共享的多个计算资源。

背景技术：

1、现代集成数据处理系统，如片上系统(systems on a chip，soc)，通过增加内核和临时加速器，变得越来越强大。通常，这些现代类型的芯片平台还提供通用图形处理单元(general-purpose graphics processing unit，gpgpu)、ai加速器(如神经处理单元(neural processing unit，npu))、图像信号处理器(image signal processor，isp)和/或网络处理加速器，这些都可以编程用于图形处理以外的目的(例如深度神经网络)。在一些工业领域对使用这些具有多个计算资源的现代多核芯片有着强烈的兴趣。例如，在汽车领域，有一种趋势是通过将多种功能集成和整合到数量较少的更强大的电子控制单元(electronic control unit，ecu)上，从而降低经常性成本。

2、在这些具有多个硬件和/或软件计算资源的系统中，一项主要挑战是将这些资源调度到正在其上实时执行的多个应用程序。传统的方法是预先为每个应用程序分配相应资源的相应配额，目标是负载平衡或装箱。这种方法需要尽最大努力，因为应用程序需求没有得到满足。

3、在虚拟物理系统中，如嵌入式系统或汽车系统，应用程序通常全时运行，并有时序要求。这些时序要求可以取决于几个参数，如应用程序实现、cpu(微)架构、soc架构、其它应用程序的行为等。在应用程序级上，时序要求通常表示为期限、最坏情况、最佳情况或平均情况的执行时间、心跳间激活(interatrial activation)、激活或反应抖动、执行时间的变化、锁定或队列等待时间等。在系统级上，时序要求通常表示为主要时间框架(系统级周期性)、最差最佳平均情况响应时间、系统松弛时间、端到端延迟、输出事件的时序或周期性、信号或事件相关到达时间、资源瓶颈(等待队列大小/定时/溢出)或接近瓶颈、弛豫时间变化、系统弛豫、端到端或响应时间变化等。

4、数据处理装置的定时行为可以被视为数据处理装置相对于上述一个或多个时序要求的应用程序级行为或系统级行为。数据处理装置中的干扰是其时序行为的非预期变化。数据处理装置的计算资源的使用可能对其时序行为具有非线性影响，例如，由于数据处理装置的cpu微架构的时序异常。预留空间可能会减少干扰，但同时也会基于时序要求的严格程度降低系统性能。换句话说，资源使用会导致干扰，而自适应资源使用会导致干扰的非线性效应。因此，调整数据处理装置中的资源使用以满足时序要求，同时不实质性地降低系统性能是一项挑战。

技术实现思路

1、本发明的目的是提供一种可以对其计算资源进行实时调度的数据处理装置以及对应的数据处理方法。

2、上述和其它目的通过独立权利要求请求保护的主题来实现。其它实现方式在从属权利要求、说明书和附图中显而易见。

3、根据第一方面，提供了一种数据处理装置。例如，所述数据处理装置可以是嵌入式系统、车辆的电子控制单元(electronic control unit，ecu)、包括这种电子控制单元的车辆的电子控制系统或另一种类型的虚拟物理系统。

4、所述数据处理装置包括至少两个计算资源。所述至少两个计算资源可以包括所述数据处理装置的硬件和/或软件计算资源，例如，cpu、gpu、易失性或非易失性存储器、操作系统、虚拟机管理程序、安全模块等。所述至少两个计算资源用于执行两个或两个以上软件应用程序。如本文所使用的，执行所述应用程序意味着至少参与所述应用程序的执行。每个计算资源用于根据相应资源调度策略执行两个或两个以上应用程序。

5、所述数据处理装置还包括处理电路，用于从所述至少两个计算资源中的每个计算资源获取关于所述相应计算资源的当前局部干扰水平的干扰水平信息。每个计算资源的所述当前局部干扰水平是对偏离相应初始资源调度策略的度量。为了从所述至少两个计算资源中的每个计算资源获取关于每个计算资源的当前局部干扰水平的干扰水平信息，所述处理电路可以实现监控单元。

6、所述数据处理装置的所述处理电路还用于根据所述至少两个计算资源中的每个计算资源中的所述当前干扰水平信息，估计所述数据处理装置的当前全局干扰水平，并根据所述估计的所述数据处理装置的当前全局干扰水平，调整所述至少两个计算资源中的一个或多个计算资源的相应资源调度策略。为此，所述处理电路可以实现控制单元。

7、如本文所使用的，“干扰”是由于与其它应用程序共享(可以是显式的或隐式的)所述至少两个计算资源而导致的应用程序行为的可测量效果。其影响可以是，例如，偏离预期的时序行为，例如应用程序的运行时持续时间。

8、因此，提供了一种可以对其计算资源进行实时调度的改进的数据处理装置。

9、在另一种可能的实现方式中，每个应用程序与一个或多个性能要求(例如，服务质量(quality of service，qos)要求)关联，其中，所述数据处理装置的所述处理电路用于根据所述一个或多个性能要求，初始为每个计算资源和每个应用程序确定资源调度策略。

10、在另一种可能的实现方式中，所述数据处理装置的所述处理电路还用于根据所述一个或多个性能要求，从所述至少两个计算资源中的每个计算资源请求关于每个计算资源的所述当前局部干扰水平的所述干扰水平信息。

11、在另一种可能的实现方式中，所述处理电路还用于根据所述一个或多个性能要求确定全局干扰水平阈值，并且如果所述估计的所述数据处理装置的当前全局干扰水平超过所述全局干扰水平阈值，调整所述至少两个计算资源中的所述一个或多个计算资源的所述相应资源调度策略。

12、在另一种可能的实现方式中，所述数据处理装置的所述处理电路还用于根据所述至少两个计算资源中的每个计算资源中的所述当前干扰水平信息，预测所述数据处理装置的未来全局干扰水平，并根据所述估计的所述数据处理装置的当前全局干扰水平以及所述预测的所述数据处理装置的未来全局干扰水平，调整所述至少两个计算资源中的所述一个或多个计算资源的所述相应资源调度策略。

13、在另一种可能的实现方式中，所述数据处理装置的所述处理电路用于实现神经网络，其中，所述神经网络用于根据所述至少两个计算资源中的每个计算资源的所述当前干扰水平信息，预测所述数据处理装置的所述未来全局干扰水平。

14、在另一种可能的实现方式中，所述处理电路还用于向所述至少两个计算资源中的所述一个或多个计算资源提供关于所述调整后的资源调度策略的相应信息。

15、根据第二方面，提供了一种操作数据处理装置的方法。所述方法包括以下步骤：

16、使用所述数据处理装置的至少两个硬件和/或软件计算资源执行两个或两个以上应用程序，其中，每个计算资源用于根据相应资源调度策略执行所述两个或两个以上应用程序；

17、从所述至少两个计算资源中的每个计算资源获取关于每个计算资源的当前局部干扰水平的干扰水平信息，其中，每个计算资源的所述当前局部干扰水平是对偏离所述相应资源调度策略的度量；

18、根据所述至少两个计算资源中的每个计算资源的所述当前干扰水平信息，估计所述数据处理装置的当前全局干扰水平；

19、根据所述估计的所述数据处理装置的当前全局干扰水平，调整所述至少两个计算资源中的一个或多个计算资源的相应资源调度策略。

20、在另一种可能的实现方式中，每个应用程序与一个或多个性能要求(例如，qos要求)关联，其中，所述方法还包括根据所述一个或多个性能要求，初始为每个计算资源和每个应用程序确定资源调度策略。

21、在另一种可能的实现方式中，所述方法还包括根据所述一个或多个性能要求，从所述至少两个计算资源中的每个计算资源请求关于每个计算资源的所述当前局部干扰水平的所述干扰水平信息。

22、在另一种可能的实现方式中，所述方法还包括根据所述一个或多个性能要求确定全局干扰水平阈值，并且如果所述估计的所述数据处理装置的当前全局干扰水平超过所述全局干扰水平阈值，调整所述至少两个计算资源中的所述一个或多个计算资源的所述相应资源调度策略。

23、在另一种可能的实现方式中，所述方法还包括根据所述至少两个计算资源中的每个计算资源中的所述当前干扰水平信息，预测所述数据处理装置的未来全局干扰水平，并根据所述估计的所述数据处理装置的当前全局干扰水平以及所述预测的所述数据处理装置的未来全局干扰水平，调整所述至少两个计算资源中的所述一个或多个计算资源的所述相应资源调度策略。

24、在另一种可能的实现方式中，所述方法还包括实现神经网络，其中，所述神经网络用于根据所述至少两个计算资源中的每个计算资源的所述当前干扰水平信息，预测所述数据处理装置的所述未来全局干扰水平。

25、在另一种可能的实现方式中，所述方法还包括向所述至少两个计算资源中的所述一个或多个计算资源提供关于所述调整后的资源调度策略的相应信息。

26、本发明第二方面所述的方法可由本发明第一方面所述的数据处理装置执行。此外，本发明第二方面所述的方法的其它特征直接来自本发明第一方面及上文和下文中描述的其不同实现方式所述的数据处理装置的功能。

27、根据第三方面，提供了一种计算机程序产品，包括用于存储程序代码的计算机可读存储介质，当所述程序代码由计算机或处理器执行时，所述计算机或所述处理器执行根据第二方面所述的方法。

28、一个或多个实施例的细节在附图和说明书中阐述。其它特征、目标和优点将从说明书、附图和权利要求中显而易见。