AI推理方法、系统和计算机可读存储介质与流程

本发明实施例涉及但不限于网络设备ai人工智能领域，特别是涉及一种ai推理方法、 系统和计算机可读存储介质。

背景技术：

1、在5g时代，万物互联网络复杂化，原有的静态人工管理方法不再适用，运营商和网络设 备厂家都在推动ai在通信领域中发挥巨大的价值，充分利用大数据信息，实现智能的网络管 理，如智能节能，智能运维，网络安全等方向，其中通信网元设备智能化成为发展的重点。

2、通信网元设备每时每刻产生海量的动态数据，包括动态性能数据，告警，日志等几类信 息，从数据来源角度又分为网络处理器、tm、线卡、交换网、cpu等不同的硬件单元；从信 息的时间特性上，又分为时间可变信息和静态不变信息(比如硬件一些固定信息)，时间可变 性能统计数据主要是转发芯片实时产生的流量统计信息，具有典型的时间序列特征，不同的 ai应用均是建立在对数据进行分析和预测基础上，都会涉及到数据样本的采集，融合管理， ai推理以及训练和学习等共性流程。

3、对于通信网元设备，目前业界缺少ai推理应用实现，ai应用比较单一，实现上针对具 体的智能终端设备为ai推理定制专有的软硬件架构，设计专有的数据采集通道和数据管理模 型，ai推理架构与数据特征强耦合，但是对于通信网元设备，不同ai应用关注的数据并不 能直接得到，需要对不同空间维度和不同时间维度的特征数据进行融合，因此应用专有的ai 推理架构存在扩展性问题，无法满足通信网元设备上不同ai应用的灵活扩展。

技术实现思路

1、以下是对本文详细描述的主题的概述。本概述并非是为了限制权利要求的保护范围。

2、本发明实施例提供了一种ai推理方法、系统和计算机可读存储介质，能够支持通信网元 设备在不同ai应用的灵活扩展。

3、第一方面，本发明实施例提供了一种ai推理方法，应用于ai推理系统的系统主控，所 述系统主控连接分布式线卡，所述方法包括：

4、获取所述分布式线卡的推理结果，所述推理结果由所述分布式线卡对获取的性能数据进 行第一级推理而得到；

5、根据所述推理结果进行第二级推理，得到全局推理结果。

6、第二方面，本发明实施例提供了一种ai推理方法，应用于ai推理系统的分布式线卡， 所述分布式线卡连接系统主控，所述方法包括：

7、从不同的数据采集器获取性能数据；

8、对所述性能数据进行第一级推理，得到推理结果；

9、推送所述推理结果给系统主控，以使所述系统主控根据所述推理结果进行第二级推理， 得到全局推理结果。

10、第三方面，本发明实施例提供了一种系统主控，所述系统主控连接分布式线卡，所述系 统主控包括：

11、主控ai数据管理单元，用于获取所述分布式线卡的推理结果，其中，所述推理结果由所 述分布式线卡对获取的性能数据进行第一级推理而得到；

12、主控ai推理单元，用于根据所述推理结果进行第二级推理，得到全局推理结果。

13、第四方面，本发明实施例提供了一种分布式线卡，所述分布式线卡连接系统主控，所述 分布式线卡包括：

14、线卡ai数据管理单元，用于从不同的数据采集器获取性能数据；

15、线卡ai推理单元，用于对所述性能数据进行第一级推理，得到推理结果，并推送所述推 理结果给系统主控，以使所述系统主控根据所述推理结果进行第二级推理，得到全局推理结 果。

16、第五方面，本发明实施例提供了一种ai推理系统，包括如上第三方面所述的系统主控和 如上第四方面所述的分布式线卡。

17、第六方面，本发明实施例提供了一种计算机可读存储介质，所述计算机可读存储介质存 储有计算机可执行程序，所述计算机可执行程序用于使计算机执行如上第一方面所述的ai推 理方法，，或者如上第二方面所述的ai推理方法。

18、本发明实施例包括：ai推理系统包括系统主控和分布式线卡，系统主控获取分布式线卡 的推理结果，推理结果由分布式线卡对获取的性能数据进行第一级推理而得到；根据推理结 果进行第二级推理，得到全局推理结果。基于此，通过采用系统主控和分布式线卡两级ai推 理架构，ai应用可以像插件一样灵活扩展，在分布式线卡具有进行初步的第一级ai推理功 能，系统主控具有进行全局的第二级ai推理功能，以提升ai推理系统整体的分布式ai计算 能力，同时实现和ai应用解耦的ai推理系统，有效的提升多种ai应用的系统集成能力，因 此，本发明能够支持通信网元设备在不同ai应用的灵活扩展。

19、本发明的其它特征和优点将在随后的说明书中阐述，并且，部分地从说明书中变得显而 易见，或者通过实施本发明而了解。本发明的目的和其他优点可通过在说明书、权利要求书 以及附图中所特别指出的结构来实现和获得。

技术特征：

1.一种ai推理方法，应用于ai推理系统的系统主控，所述系统主控连接分布式线卡，所述方法包括：

2.根据权利要求1所述的方法，其特征在于，所述系统主控包括主控ai应用管理单元，在所述获取所述分布式线卡的推理结果，所述推理结果由所述分布式线卡对获取的性能数据进行第一级推理而得到之前，还包括：

3.根据权利要求2所述的方法，其特征在于，所述系统主控包括主控ai数据管理单元和主控ai推理单元，在所述获取所述分布式线卡的推理结果，所述推理结果由所述分布式线卡对获取的性能数据进行第一级推理而得到之后，还包括：

4.根据权利要求3所述的方法，其特征在于，所述获取所述分布式线卡的推理结果，包括：

5.一种ai推理方法，应用于ai推理系统的分布式线卡，所述分布式线卡连接系统主控，所述方法包括：

6.根据权利要求5所述的方法，其特征在于，所述从不同的数据采集器获取性能数据，包括：

7.根据权利要求5所述的方法，其特征在于，在所述对所述性能数据进行第一级推理，得到推理结果之前，还包括：

8.根据权利要求7所述的方法，其特征在于，所述分布式线卡包括线卡ai数据管理单元和线卡ai推理单元，所述对所述性能数据进行第一级推理，得到推理结果，包括：

9.一种系统主控，所述系统主控连接分布式线卡，所述系统主控包括：

10.一种分布式线卡，所述分布式线卡连接系统主控，所述分布式线卡包括：

11.一种ai推理系统，包括如权利要求9所述的系统主控和如权利要求10所述的分布式线卡。

12.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机可执行程序，所述计算机可执行程序用于使计算机执行如权利要求1至4任意一项所述的ai推理方法，或者如权利要求6至8任意一项所述的ai推理方法。

技术总结
本发明公开了AI推理方法、系统和计算机可读存储介质，AI推理系统包括系统主控和分布式线卡，系统主控获取分布式线卡的推理结果，推理结果由分布式线卡对获取的性能数据进行第一级推理而得到；根据推理结果进行第二级推理，得到全局推理结果。基于此，通过采用系统主控和分布式线卡两级AI推理架构，AI应用可以像插件一样灵活扩展，在分布式线卡具有进行初步的第一级AI推理功能，系统主控具有进行全局的第二级AI推理功能，以提升AI推理系统整体的分布式AI计算能力，同时实现和AI应用解耦的AI推理系统，有效的提升多种AI应用的系统集成能力，因此，本发明能够支持通信网元设备在不同AI应用的灵活扩展。

技术研发人员：武利明
受保护的技术使用者：中兴通讯股份有限公司
技术研发日：
技术公布日：2024/1/15