一种用于无线信号识别的多任务学习方法

本发明公开了一种通用的多任务学习框架，用于无线信号特征与类型识别，属于无线通信领域。

背景技术：

1、随着无线网络和物联网的普及，越来越多的智能硬件设备接入本已拥挤的网络频谱。为保证频谱资源的有效分配以及各式设备的安全接入，无线信号识别技术逐步出现在人类的视野中。无线信号识别体现在波形描述符提取，例如无线标准(协议)、调制格式或硬件固有特征等。信号特征的提取，帮助频谱共享中的信号传感和识别，以区分授权或非授权(非法)的设备。

2、无线信号识别在协作与非协作通信场景下分别起到不同的作用，通过无线信号识别，可以识别和缓解通信中的安全弱点，并实现合作频谱共享，使频谱效用最大化。无限信号识别技术可以感知和识别附近的各种发射器，以合作的方式分配和利用频谱，使两种主体间的信息交流不受干扰。在非协作通信场景下，无线信号识别也将增强频谱态势感知能力，使士兵能够在战场上区分友军和敌军。因此，在无线通信的背景下，信号特征的提取和识别是十分必要的。

3、现阶段对于无线信号识别的研究大多停留在信号单一特征或单一模态，然而在实际通信场景下，往往需要不止一种通信参数。例如在频谱合作多输入多输出传输场景下，雷达与通信信号共存，需要同时辨别信号模式以及设备信息。众多现阶段文献致力于研究信号单任务效率的提升，例如文献《digital signal modulation classification withdata augmentation using generative adversarial nets in cognitive radionetworks》提出了高效的神经网络结构，使得信号调制模式的识别效率整体提高了0.1％～6％；文献《a robust rf fingerprinting approach using multisamplingconvolutional neural network》提出了一种多采样卷积神经网络框架,实现对zigbee通信设备97％的识别率。无论是信号调制、辐射源或是其他必要的通信环节，都是通信系统的一部分。因此为了提高通信系统的效率，有必要对无线信号进行多任务学习，并行地识别信号的多种通信参数。

4、本发明提出了一个通用的多任务学习框架，用于无线信号中系统特征参数的提取和识别。提出的多任务框架由共享的特征提取网络、注意力特征提取网络和分类网络构成。同时，为了提升多任务学习的稳定性和鲁棒性，引入考虑损失梯度变化的动态函数来自动分配不同任务的损失权重，使得每个任务都能学习到最优效果。所提出的多任务框架，能够减少信号识别的部署难度，同时能够保持对已知信号识别任务的识别性能。

技术实现思路

1、针对通信无线信号识别问题，本发明的目的在于：提出一种通用且可扩展的多任务学习框架，以高效、轻量地处理无线信号多任务识别问题。该多任务框架由一个共享特征提取网络、特定于任务的注意力特征提取网络、分类网络组成。同时考虑不同任务的梯度下降方向和尺度，引入动态变化函数为不同的识别任务分配权重，使得网络朝着整体精度最优方向运行。多任务网络通过训练后，导入保存的模型参数，对输入信号进行分析处理，可以识别出信号对应的各种通信波形参数。此外，该框架的扩展性极高，对于需要探讨的额外识别任务，只需要添加对应的注意力特征提取网络后重新训练即可。因此，该多任务学习框架可以在复杂通信环境下对接收的通信波形序列进行分析处理，识别出无线信号波形的各种通信特征参数。

2、本发明技术方案为一种用于无线信号识别的多任务学习方法，该方法包括：

3、步骤1：生成无线信号多任务学习框架的训练数据和测试样本；

4、步骤1-1：数据样本生成；

5、首先确定无线信号识别任务，选定不同任务的候选集，利用软硬件协同生成无线信号识别波形数据，并打上对应的多任务标签；

6、步骤1-2：样本拆分；

7、根据生成的数据样本，随机打乱后将一部分标记为训练样本，另一部分标记为测试样本；训练样本用于对多任务框架进行训练，使其拥有分析识别能力；测试样本用以对识别能力进行评估，对多任务框架进行优化；

8、步骤2：构建无线信号识别多任务学习框架，整个多任务框架包括：共享特征提取网络h、特定于任务的注意力特征提取网络a、分类网络c；

9、共享特征提取网络h为神经网络；共享网络由n个骨干网络组成，网络提取共享特征的过程为：hi(x)＝zi,i∈1,2..,n；其中x为接收无线信号分割后的波形序列，zi表示经过第i个骨干网络处理后得到的特征隐空间；

10、特定于任务的注意力特征提取网络a引入神经网络中的注意力机制，使得a能够依据任务的不同从共享特征中提取出专属任务的特征描述；假设无线信号识别具有m个任务，每个任务的特征提取过程为：表示取出的专属任务的特征；网络输入为共享特征提取网络各部分的输出，核心部分为神经网络的注意力机制，每个注意力模块通过注意力机制计算得出注意力分数，作用于下一个注意力模块，最后根据损失函数值更新专属特征网络和共享特征网络参数；具体的注意力分数计算过程为：

11、

12、其中，q表示查询，而q通常来自于一组查询q，(k,v)表示一个键值对；对于一个查询和l个键值对，注意力汇聚函数f(q,k,v)表示为上述的加权和；q、k、v均是来自于共享网络隐特征的输出矢量，对于一组查询q获得相同尺寸的注意力评分函数；α代表softmax运算：

13、

14、框架的最后一部分便是分类器网络，分类器网络可以引入机器学习中众多分类方法，如svm分类器、mlp全连接层等，通常分类器后面会连接softmax网络，表示被区分成不同种类的可能性；第j个任务分类过程表示为：

15、步骤3：分类网络c中引入动态权重分配函数，计算不同任务的损失值并动态分配不同任务损失的权重，利用梯度下降反向优化多任务学习框架；数据流经由h和a会输出每个任务最终的特征值，得到的特征数据被送入分类网络c得到最终每个任务的分类概率，利用动态权重分配函数，合理计算每个任务在整个网络计算中的贡献，最后结合每个任务的损失值得到多任务整体的损失值；

16、步骤3-1：多任务学习框架同时训练测试多个无线信号识别任务，每个任务都对应一个损失函数计算的损失值，第j个任务的损失函数为：

17、

18、其中，m为各任务样本的类别数，n表示样本数量，li是预测第i个样本属于某个类别可能性的指标，可以认为是预测值与真实值间可度量的距离，表示为第i个样本的损失值，每个任务的损失值lj为所有样本损失值的平均值；yic取值为0和1，在样本i的类别为c时取到1，pic表示样本i由分类器输出的属于类别c的预测概率；每个任务的损失值加权求和，得到最终的损失值l，多任务学习框架依据损失值l进行训练迭代，σj表示第j个任务的损失权重：

19、

20、步骤3-2：权重σj的分配至关重要，任务间权重细微的区别会明显影响到多任务框架的学习效果；在分类器网络c计算完单任务各自的损失值后，引入权重分配函数动态分配不同任务之间损失权重；分配的直觉是对于损失值下降比较快的任务，应分配更小的权重，使得算法能够偏向于优化识别度更低的任务；另外一个重要的直觉是当多个任务损失趋向于平衡的时候，权重应尽量保持相同，以达到多任务间学习的最优效果；因此为了实现动态计算不同任务贡献值，引入时间维度考虑不同任务间的损失下降，动态变化函数为：

21、

22、wj(t-1)表示前一时刻损失下降的比率，lj(t-1)表示前一时刻第j个任务的损失值；损失下降率由t-1时刻和t-2时刻损失值的差值构成，使用自然指数使得数值平滑分布在1附近；在得到不同的损失下降率之后，不同任务的损失权重为：

23、

24、k为一个超参数，用来控制权重的总和数值。

25、步骤3-3：为了获得多任务学习框架中的最优参数，初始化优化器、学习率、迭代次数、终止条件后，输入分割后的数据集样本；每个任务的损失值和权重共同组成最终的损失值，整个多任务网络会以该损失值为指标，反向更新h、a的网络参数，使得每个任务分类网络c输出的损失值逐步下降；通过反复迭代优化，多任务学习框架的损失值变化逐渐趋于平稳并收敛，h和a的网络参数值逐渐逼近最优值；

26、步骤4：无线信号识别多任务学习框架性能测试；

27、将无线信号序列输入到多任务学习框架，对于识别任务中的每一个任务，信号从共享特征提取网络中输出隐特征参数，每个任务经过分类器部分后产生类别概率向量y＝c(a[h(x)])，向量中的每个数值在0到1之间，记为m为每个任务的类别数，最终分类器输出的最终分类结果y＝argmaxy。

28、综上所述，由于采用了上述技术方案，本发明的有益效果是：

29、1.本发明针对无线信号多任务识别问题，首次提出一种多任务学习框架，对无线信号波形中的各种特征描述符进行提取和识别。

30、2.本发明将原本分开的识别任务合并，大大减少了训练和测试的时间，一次实现多个识别任务的进行，提高了效率并减少了算法模型的参数量。

31、3.本发明为无线信号识别多任务构建了基于损失梯度变化的动态损失权重分配函数，能够自动调整损失权重，并保证损失函数变化的鲁棒性，使整个多任务学习框架的优化效果趋于整体最优。

32、4.相比于无线信号单任务识别，本发明有更好的识别效果和收敛速度。

33、5.针对于无线信号中的每个单任务，利用注意力机制提取每个任务的专属特征，当需要添加新的识别任务的时候，不需要构建完整的新网络，只需要增添一个基于注意力的特定任务特征提取网络，重新训练即可，实现端到端的多任务学习网络。