一种基于云边端持续性学习方法及装置与流程

本发明涉及智慧交通和卷积优化领域，具体提供一种基于云边端持续性学习方法及装置。

背景技术：

1、云端服务器具备内存大、计算力强等优势，可以不加限制的获取复杂且有效的任务模型，而边缘端计算则受限于内存、计算力等，要求模型本身具备体积小、计算快等优势。在智慧交通领域，由于路况多变且复杂，需要任务模型具备持续学习的能力，同时在边端保持快的速度和准的精度。

技术实现思路

1、本发明是针对上述现有技术的不足，提供一种实用性强的基于云边端持续性学习方法。

2、本发明进一步的技术任务是提供一种设计合理，安全适用的基于云边端持续性学习装置。

3、本发明解决其技术问题所采用的技术方案是：

4、一种基于云边端持续性学习方法，其特征在于，具有如下步骤：

5、s1、构建目标检测网络架构，保留原始网络结构完成初始训练；

6、s2、计算每层特征图通道间的特征相关性；

7、s3、模型部署于边端或设备端；

8、s4、数据回收与分析。

9、进一步的，在步骤s1中，首先定义一个初始网络，所述初始网络不指定输入维度，延迟初始化输入维度，直到模型完成第一次的数据传递时，动态的推断出每个层的维度。

10、进一步的，在步骤s2中，每一个中间特征都会对最终结果产生影响，但每一个特征的影响都是不同的，去除对最终结果贡献度低甚至有负面影响的特征有效稀疏网络，降低参数和计算量。

11、进一步的，通过计算相关性来去除冗余的卷积核，采用随机将部分卷积核置0的方式来对验证中间层特征对最终结果的贡献度；

12、在结构不那么复杂的网络中，随机将部分卷积核初始化为0，置0后卷积核不参与参数的更新，验证训练后模型的效果，多次操作后，选择其中表现最好的模型作为初始训练模型，并记录被修剪的参数。

13、进一步的，在步骤s3中，利用内存排布的特点，优化数据布局方式；

14、数据在内存里按照行优先存储，在input与weight的矩阵乘中，weight对应是列优先读取，首先要对weight数据存储为行优先的形式，然后，利用缓存优势，减少连续位置的数据读取；

15、以4为一组进行循环计算，在循环过程中发现，不同位置的输入会与同一个卷积核进行计算，所以调换input与weight的读取顺序减少卷积核的重复读取。

16、进一步的，在步骤s4中，边端设备在推理的同时保存数据和推理结果定期上传到云端，通过统计得出网络对不同场景和任务判别能力。

17、进一步的，增加判别新任务的能力，在处理数据时，在原始数据中增加新类别，并根据推理结果，逐步从训练迭代中删除易于学习的样本，增加新上传的错误判别的数据；

18、在模型迭代中，平衡当前与过去数据，保留前一网络的重要参数，然后对未使用的参数进行随机初始化，恢复模型的学习能力，用新数据对模型进行更新，完成迭代后，重复步骤s2中的操作，得到新模型。

19、一种基于云边端持续性学习装置，包括：至少一个存储器和至少一个处理器；

20、所述至少一个存储器，用于存储机器可读程序；

21、所述至少一个处理器，用于调用所述机器可读程序，执行一种基于云边端持续性学习方法。

22、本发明的一种基于云边端持续性学习方法及装置和现有技术相比，具有以下突出的有益效果：

23、本发明在智能交通领域内的边缘应用问题，利用持续学习使模型保持不断更新，应当复杂多变的场景、任务等能力。该方案在云端训练，边端推理的方式，可以获取更加精确的模型，同时减少数据传输带来的延迟。迭代更新中对数据和网络的处理使得模型即保持了对过往任务的判别能力，又增加了对新任务的判别能力。

技术特征：

1.一种基于云边端持续性学习方法，其特征在于，具有如下步骤：

2.根据权利要求1所述的一种基于云边端持续性学习方法，其特征在于，在步骤s1中，首先定义一个初始网络，所述初始网络不指定输入维度，延迟初始化输入维度，直到模型完成第一次的数据传递时，动态的推断出每个层的维度。

3.根据权利要求2所述的一种基于云边端持续性学习方法，其特征在于，在步骤s2中，每一个中间特征都会对最终结果产生影响，但每一个特征的影响都是不同的，去除对最终结果贡献度低甚至有负面影响的特征有效稀疏网络，降低参数和计算量。

4.根据权利要求3所述的一种基于云边端持续性学习方法，其特征在于，通过计算相关性来去除冗余的卷积核，采用随机将部分卷积核置0的方式来对验证中间层特征对最终结果的贡献度；

5.根据权利要求4所述的一种基于云边端持续性学习方法，其特征在于，在步骤s3中，利用内存排布的特点，优化数据布局方式；

6.根据权利要求5所述的一种基于云边端持续性学习方法，其特征在于，在步骤s4中，边端设备在推理的同时保存数据和推理结果定期上传到云端，通过统计得出网络对不同场景和任务判别能力。

7.根据权利要求6所述的一种基于云边端持续性学习方法，其特征在于，增加判别新任务的能力，在处理数据时，在原始数据中增加新类别，并根据推理结果，逐步从训练迭代中删除易于学习的样本，增加新上传的错误判别的数据；

8.一种基于云边端持续性学习装置，其特征在于，包括：至少一个存储器和至少一个处理器；

技术总结
本发明涉及智慧交通和卷积优化领域，具体提供了一种基于云边端持续性学习方法及装置，具有如下步骤：S1、构建目标检测网络架构，保留原始网络结构完成初始训练；S2、计算每层特征图通道间的特征相关性；S3、模型部署于边端或设备端；S4、数据回收与分析。与现有技术相比，本发明在智能交通领域内的边缘应用问题，利用持续学习使模型保持不断更新，应当复杂多变的场景、任务等能力。该方案在云端训练，边端推理的方式，可以获取更加精确的模型，同时减少数据传输带来的延迟。迭代更新中对数据和网络的处理使得模型即保持了对过往任务的判别能力，又增加了对新任务的判别能力。

技术研发人员：李雪,杨彤,段强,姜凯
受保护的技术使用者：山东浪潮科学研究院有限公司
技术研发日：
技术公布日：2024/1/13