一种数据密集型AI计算的边缘计算性能优化系统的制作方法

文档序号:36882262发布日期:2024-02-02 21:17阅读:15来源:国知局
一种数据密集型AI计算的边缘计算性能优化系统的制作方法

本发明涉及边缘计算,具体为一种数据密集型ai计算的边缘计算性能优化系统。


背景技术:

1、边缘计算的本质是将计算更接近用户,中国边缘计算行业联盟将边缘计算定义为一个开放的平台,将计算资源、网络资源和存储资源汇集到设备边缘侧来提供计算等服务,以满足终端用户的实时性业务、数据分析优化等。因此,可以将延迟敏感的计算任务卸载到边缘云中处理,使智能设备能够从附近基站(bs)的边缘计算服务器获取服务,从而降低网络延迟。

2、现有技术中,如中国专利cn114138453b公开了一种适合边缘计算环境的资源优化分配方法与系统,包括:根据每个边缘计算应用收集的数据量,计算每个边缘计算应用的资源利用率;根据与每个边缘计算应用的传输路径的数据传输速度和路径中的节点信息,计算将任务分配到每个边缘计算应用所需要的时间;根据所述每个边缘计算应用的资源利用率和将任务分配到每个边缘计算应用所需要的时间,确定目标边缘计算应用;将任务分配给所述目标边缘计算应用。

3、上述专利中,虽然通过在短时间内分配资源任务到边缘计算应用上,解决了资源分配性能不理想的问题,但是在针对数据密集型ai计算时,数据较为复杂,上述算法在进行计算任务时,执行时间较长、系统能耗以及调度成本较高,将该算法对应的调度策略应用到边缘环境中,对ai数据密集型任务的计算性能不理想。

4、所以我们提出了一种数据密集型ai计算的边缘计算性能优化系统,以便于解决上述中提出的问题。


技术实现思路

1、本发明的目的在于提供一种数据密集型ai计算的边缘计算性能优化系统,以解决上述背景技术提出的在针对数据密集型ai计算时,数据较为复杂,上述算法在进行计算任务时,执行时间较长、系统能耗以及调度成本较高,将该算法对应的调度策略应用到边缘环境中,对ai数据密集型任务的计算性能不理想的问题。

2、为实现上述目的,本发明提供了如下技术方案:

3、一种数据密集型ai计算的边缘计算性能优化系统,包括:输入端、边缘计算模块、任务调度模块、性能优化模块和云计算模块;

4、所述输入端用于连接机器人、传感器等边缘设备,将设备的数据输入到系统内;

5、所述边缘计算模块用于建立终端设备、多个边缘设备和云端服务器组成的分布式计算模型,对边缘设备进行边缘计算和数据处理;

6、所述任务调度模块用于边缘服务器接收到请求并对其任务进行资源分配和调度,通过调度策略将任务合理调度分配至不同的边缘服务器中处理,建立边缘设备、边缘层以及云计算层之间的关联;

7、所述性能优化模块用于调整优化目标的顺序,并对系统的边缘计算算法进行优化处理;

8、所述云计算模块用于连接服务器对系统的优化进行辅助,实现对全局的掌控和卸载时的快速决策。

9、优选的,所述边缘计算模块包括资源分配模块、需求计算模块和数据分析模块;

10、所述资源分配模块用于将本地计算资源分别分配给不同的边缘设备,实现资源的初步分配。

11、优选的,所述需求计算模块用于在满足容器部署边缘计算节点的基础上,对每个待部署容器资源需求量进行计算;

12、所述数据分析模块用于对数据分析后提前预测计算作业的资源需求,实时对集群内容器的资源部署进行调整。

13、优选的,所述任务调度模块包括卸载模块、集群处理模块和筛选模块;

14、所述卸载模块用于实现终端设备卸载到边缘服务器或从终端设备卸载到云服务器。

15、优选的,所述集群处理模块用于边缘集群内多个边缘计算节点相互协作,以保持服务器之间的负载均衡和数据资源共享,物联网终端设备将计算任务卸载到边缘服务器处理实现低延迟的高性能服务;

16、所述筛选模块用于构建的基于数据密集型ai任务调度模型,并从模型中筛选任务执行时间、调度成本和能耗三个相互冲突的目标作为优化对象。

17、优选的,所述性能优化模块包括目标排序模块、优化计算模块和自适应模块;

18、所述目标排序模块用于根据用户需求对任务执行时间、能耗和调度成本三个优化目标进行排序,兼顾任务执行时的性能及能耗。

19、优选的,所述优化计算模块通过ts-mopso算法对任务调度方案进行计算,实现在边缘环境下数据密集型ai任务的计算性能的初步优化;

20、所述自适应模块用于建立基于强化学习的遗传算法,引入种群多样性判断,提高种群全局搜索范围和收敛速度,并通过强化学习方法,实现参数的自适应调整。

21、优选的,所述云计算模块包括全局调度模块和智能决策模块;

22、所述全局调度模块用于对任务调度模块中的任务调度进程进行遍历,监控任务调度的进行。

23、优选的,所述智能决策模块用于在卸载模块运行时,对上传到云数据中心不同的卸载方式进行智能选择,降低任务时延和传输延迟。

24、与现有技术相比,本发明的有益效果是:

25、本发明通过资源分配模块在资源进行初始分配,利用需求计算模块计算资源需求,并通过数据分析模块的分析、预测,进行资源分配进行调整,实现资源在边缘设备中的合理分配,减少资源的浪费,针对不同的数据要求进行不同的调度,可通过卸载模块选择不同的卸载方式进行适应和匹配,适用性较高,可降低系统使用时的任务时延和传输延迟,同时提高数据的隐私安全;经过筛选模块和目标排序模块可对执行时间、系统能耗和调度成本三个优化目标进行筛选和排序,对系统的边缘计算进行约束,经过约束后可输出最优调度结果,该结果执行时间短,系统能耗和调度成本较低;通过优化计算模块和自适应模块结合,利用种群多样性判断对基于强化学习的遗传算法进行优化,完成参数的自适应调整,进而实现边缘环境下数据密集型ai任务计算性能的优化,通过全局调度模块可对整个系统的调度状况进行分析和监控,保证调度的正常运行,利用智能决策模块可对不易区分卸载方式的数据进行快速决断,保证整个系统对数据密集型ai计算的效果。



技术特征:

1.一种数据密集型ai计算的边缘计算性能优化系统,其特征在于:包括输入端(1)、边缘计算模块(2)、任务调度模块(3)、性能优化模块(4)和云计算模块(5);

2.根据权利要求1所述的一种数据密集型ai计算的边缘计算性能优化系统,其特征在于:所述边缘计算模块(2)包括资源分配模块(21)、需求计算模块(22)和数据分析模块(23);

3.根据权利要求2所述的一种数据密集型ai计算的边缘计算性能优化系统,其特征在于:所述需求计算模块(22)用于在满足容器部署边缘计算节点的基础上,对每个待部署容器资源需求量进行计算;

4.根据权利要求1所述的一种数据密集型ai计算的边缘计算性能优化系统,其特征在于:所述任务调度模块(3)包括卸载模块(31)、集群处理模块(32)和筛选模块(33);

5.根据权利要求4所述的一种数据密集型ai计算的边缘计算性能优化系统,其特征在于:所述集群处理模块(32)用于边缘集群内多个边缘计算节点相互协作,以保持服务器之间的负载均衡和数据资源共享,物联网终端设备将计算任务卸载到边缘服务器处理实现低延迟的高性能服务;

6.根据权利要求1所述的一种数据密集型ai计算的边缘计算性能优化系统,其特征在于:所述性能优化模块(4)包括目标排序模块(41)、优化计算模块(42)和自适应模块(43);

7.根据权利要求6所述的一种数据密集型ai计算的边缘计算性能优化系统,其特征在于:所述优化计算模块(42)通过ts-mopso算法对任务调度方案进行计算,实现在边缘环境下数据密集型ai任务的计算性能的初步优化;

8.根据权利要求1所述的一种数据密集型ai计算的边缘计算性能优化系统,其特征在于:所述云计算模块(5)包括全局调度模块(51)和智能决策模块(52);

9.根据权利要求8所述的一种数据密集型ai计算的边缘计算性能优化系统,其特征在于:所述智能决策模块(52)用于在卸载模块(31)运行时,对上传到云数据中心不同的卸载方式进行智能选择,降低任务时延和传输延迟。


技术总结
本发明公开了一种数据密集型AI计算的边缘计算性能优化系统,包括:输入端、边缘计算模块、任务调度模块、性能优化模块和云计算模块。本发明通过需求计算模块计算资源需求,并通过数据分析模块的分析、预测,进行资源分配进行调整,实现资源在边缘设备中的合理分配,针对不同的数据要求进行不同的调度,可通过卸载模块选择不同的卸载方式进行适应和匹配,适用性较高,可降低系统使用时的任务时延和传输延迟,同时提高数据的隐私安全;经过筛选模块和目标排序模块可对优化目标进行筛选和排序,通过优化计算模块和自适应模块结合,实现边缘环境下数据密集型AI任务计算性能的优化。

技术研发人员:曹宁,刘高桥,魏建越
受保护的技术使用者:深圳微能聚力物联科技有限公司
技术研发日:
技术公布日:2024/2/1
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1