一种基于合成特征重放的增量式5G天线识别方法

本发明属于增量学习领域，具体的说是一种基于合成特征重放的增量式5g天线识别方法。

背景技术：

1、随着5g通信技术的快速发展，对5g天线性能的测试变得尤为关键。在基于机械臂的5g天线近场检测系统中，需要识别出5g天线的型号来确定工作频率、尺寸，从而来设置采样面的大小和高度，但是新的5g天线数据集加入时，需要重新训练目标识别模型，因此应用了增量学习技术，当增加新的数据集时，只需要训练新增数据集，大大节省了时间。

2、增量学习亟需解决的问题是在每个学习阶段数据动态到达时，对新知识的学习以及对旧知识的灾难性遗忘问题。典型的类增量学习方法采用旧数据保存的样本和新数据样本混合训练的方式，解决对旧数据的灾难性遗忘问题。但方法中涉及到旧类样本数据与旧模型参数两种数据的存储，需要大量的内存成本，且极有可能导致数据隐私的泄露，存在一定局限性。

技术实现思路

1、本发明是为了解决上述现有技术存在的不足之处，提出一种基于合成特征重放的增量式5g天线识别方法，以期能有效降低内存成本，并缓解灾难性遗忘和过拟合问题，从而能够在动态环境下持续学习并更新5g天线分类模型，避免数据隐私泄露的同时，提高识别效率和精度。

2、本发明为达到上述发明目的，采用如下技术方案：

3、本发明一种基于合成特征重放的增量式5g天线识别方法的特点在于，包括以下步骤：

4、s1：获取基础类别的5g天线数据集，记为，其中，表示中第个基础类别的第个样本，表示的类别标签，表示中包含的基础类别数目，表示第个基础类别的样本数目；

5、s2：构建基础分类网络和变分自编码器网络；

6、s3：训练基础分类网络和变分自编码器网络：

7、s31：基础分类网络中的特征提取模块对进行处理，得到的特征向量；输入到基础分类网络的分类模块中进行识别后，再经过softmax层的处理，得到的类别概率分布；

8、利用式(1)建立基础分类网络的训练损失函数：

9、                         (1)

10、s32：变分自编码器网络对进行处理，得到重构特征，从而利用式(2)建立变分自编码器网络的损失函数：

11、                             (2)

12、式(2)中，表示散度损失，表示重构损失，表示超参数；

13、s33：利用式(3)和式(4)分别得到第个类别的合成特征向量均值和第个类别的合成特征向量在第个维度的方差，从而得到第个类别的合成特征向量方差<mstyle displaystyle="true" mathcolor="#000000"><mi>σ</mi><munderover><mi /><mi>c</mi><mi>2</mi></munderover><mi>=</mi><mi>[</mi><mi>σ</mi><munderover><mi /><mrow><mi>c</mi><mi>,</mi><mi>1</mi></mrow><mi>2</mi></munderover><mi>,</mi><mi>σ</mi><munderover><mi /><mrow><mi>c</mi><mi>,</mi><mi>2</mi></mrow><mi>2</mi></munderover><mi>,</mi><mi>.</mi><mi>.</mi><mi>.</mi><mi>,</mi><mi>σ</mi><munderover><mi /><mrow><mi>c</mi><mi>,</mi><mi>d</mi></mrow><mi>2</mi></munderover><mi>,</mi><mi>.</mi><mi>.</mi><mi>.</mi><mi>,</mi><mi>σ</mi><munderover><mi /><mrow><mi>c</mi><mi>,</mi><mi>d</mi></mrow><mi>2</mi></munderover><mi>]</mi></mstyle>，进而得到第个类别合成特征向量的高斯分布并存储到记忆库中：

14、                           (3)

15、                 (4)

16、s34：使用梯度下降算法优化所述基础分类网络和变分自编码器网络中所有的参数，从而得到训练好的基础分类模型和变分自编码器模型；

17、s4：训练第k次迭代的基础分类网络：

18、s41：定义当前迭代次数为k，并初始化k=1；

19、将训练好的基础分类模型的参数作为第k-1次迭代的基础分类模型，并将第k-1次迭代的基础分类模型的参数记为；

20、将训练好的变分自编码器模型的参数作为第k-1次迭代的变分自编码器模型，并将第k-1次迭代的变分自编码器模型的参数记为；

21、s42：采集第k次迭代的增量类别的5g天线数据集，记为，其中，表示中第个基础类别的第个样本，表示的类别标签；

22、s43：将输入所述训练好的基础分类模型的特征提取模块中进行处理，得到特征向量；

23、s44：从记忆库中随机抽取任意类别的特征向量的高斯分布，从而生成任意第s类别的第个合成特征向量，并与进行拼接，得到第个拼接特征后，输入到第k次迭代的基础分类模型中进行处理，得到的概率分布；

24、s45：根据式(5)构建第k次迭代的基础分类模型的损失函数：

25、                           (5)

26、式(5)中，代表数据集中类别的总数；

27、s46：采用结合多尺度梯度模糊与动量的优化方法更新第k-1次迭代的基础分类模型的参数，从而构建基础分类模型在第k次迭代的更新策略；

28、s5：训练第k次迭代的变分自编码器网络：

29、s51：将输入所述训练好的变分自编码器模型的编码器中进行处理，得到第k次迭代的重构特征；从而利用式(6)建立第k次迭代的变分自编码器模型的损失函数：

30、                              (6)

31、式(6)中，是第k次迭代的散度损失，是第k次迭代的超参数，是第k次迭代的重构损失；

32、s52：使用梯度下降法更新第k-1次迭代的变分自编码器模型的参数，从而构建变分自编码器模型在第k次迭代的更新策略；

33、s6：将k+1赋值给k后，返回s42顺序执行，直到达到最大迭代次数为止，从而得到最优增量分类模型及其最优参数和最优增量变分自编码器模型及其最优参数；

34、s7：将任意5g天线样本输入到最优增量分类模型中进行处理，得到预测的类别标签。

35、本发明所述的一种基于合成特征重放的增量式5g天线识别方法的特点也在于，所述s2中的基础分类网络包括：特征提取模块和分类模块；

36、所述变分自编码器网络包括：编码器、均值层、方差层、变分层和解码器；

37、其中，特征提取模块和编码器具有相同的网络结构，并依次均由一个输入卷积层、q个下采样卷积层、w个残差卷积层构成；且每个卷积层后均接入一个实例正则化层和relu激活函数；

38、分类模块包括：全连接层和softmax层。

39、所述s32包括以下步骤：

40、s321：输入所述编码器中，得到的另一特征向量；

41、s322：分别经过均值层和方差层的处理后，相应得到特征向量的均值和方差；

42、s323：和一起经过变分层的重参数化处理后，生成潜在空间样本；

43、s324：所述潜在空间样本通过解码器的处理后，得到重构特征；

44、s325：利用式(7)和式(8)分别建立和：

45、              (7)

46、             (8)

47、式(7)中，表示中第个维度的方差，表示维度的总数，表示中第个维度的均值。

48、所述s46包括以下步骤：

49、s461：定义并初始化第k-1次迭代的一阶动量和二阶动量；

50、s462：利用式(9)计算第k次迭代的分类模型损失梯度：

51、                                   (9)

52、式(9)中，表示在处的梯度；

53、s463：利用式(10)对进行梯度模糊处理，得到第k次迭代下尺度为s的模糊梯度：

54、                              (10)

55、式(10)中，表示尺度为s的高斯模糊核；

56、s464：利用式(11)得到第k次迭代的加权和：

57、                        (11)

58、式(11)中，代表尺度为s的权重，代表非线性激活函数；s表示最大尺度；

59、s465：利用式(12)和式(13)分别得到第k次迭代的一阶动量和二阶动量：

60、                      (12)

61、                     (13)

62、式(12)和式(13)中，和表示2个衰减因子；

63、s446：利用式(14)得到第k次迭代的基础分类模型的参数：

64、                        (14)

65、式(14)中，是学习率，是防止分母为0的一个参数。

66、所述s51包括以下步骤：

67、s511：将输入所述训练好的变分自编码器模型的编码器中进行处理，得到特征向量；再分别经过均值层和方差层的处理后，得到特征向量的均值和方差；

68、s512：和经过变分层的重参数化后，生成第k次迭代的潜在空间样本，所述第k次迭代的潜在空间样本再输入解码器中进行处理，得到第k次迭代的重构特征；

69、s513：利用式(15)和式(16)建立第k次迭代的变分自编码器模型的损失函数：

70、                   (15)

71、              (16)

72、式(15)和式(16)中，是第k次迭代中第个类别的合成特征向量均值；是第k次迭代中第个类别的合成特征向量在第个维度的方差。

73、所述s52包括以下步骤：

74、s521：利用式(17)计算第k次迭代的变分自编码器模型的损失梯度：

75、                                    (17)

76、式(17)中，表示在处的梯度；

77、s522：利用式(18)计算第k次迭代的变分自编码器模型的参数：

78、                               (18)

79、式(18)中，代表学习率。

80、本发明一种电子设备，包括存储器以及处理器的特点在于，所述存储器用于存储支持处理器执行所述增量式5g天线识别方法的程序，所述处理器被配置为用于执行所述存储器中存储的程序。

81、本发明一种计算机可读存储介质，计算机可读存储介质上存储有计算机程序的特点在于，所述计算机程序被处理器运行时执行所述增量式5g天线识别方法的步骤。

82、与现有技术相比，本发明的有益效果在于：

83、1. 本发明利用基础分类网络中特征模块提取的特征向量和变分自编码器网络生成的重构特征向量估计合成特征的高斯分布，不需要存储旧数据原始样本，大大减少了内存成本。

84、2.本发明采用结合多尺度梯度模糊与动量的优化方法更新基础分类模型参数，有效缓解了灾难性遗忘，并且提高了模型训练稳定性和模型的泛化能力。

85、3.本发明在识别不断扩充的数据集时，不需要每次重新训练全部数据集，并且也不用存储大量的历史数据，大大提高了模型训练和识别效率。