一种样本攻击防御效果可解释驱动的电磁信号感知方法

本技术实施例涉及无线通信，特别涉及一种样本攻击防御效果可解释驱动的电磁信号感知方法。

背景技术：

1、无线电频谱是通信领域的基础性资源，而且这种资源非常稀有且不可再生。无线通信业务在生活中越来越重要，并且通信技术对频谱带宽的需求也在增加，这都使得有限的频谱资源变得越来越少，频谱资源短缺的问题也随之而来。频谱感知能帮助用户找出空闲的频谱资源，并重复利用空闲的频谱资源。频谱感知的效果直接影响了电磁频谱的使用效率，对于缓解频谱资源稀缺的现状具有重要意义。

2、深度学习成为研究热点为调制信号频谱感知带来了极大的便利，然而人工智能模型面临着来自对抗样本严重的威胁，这大大降低了深度机器学习任务执行的高可靠性和安全性。攻击者可以根据深度神经网络的梯度信息，在原始干净样本上添加微小的像素扰动来欺骗深度学习模型，使得模型的性能显著降低，深度神经网络本身的黑盒特性以及使深度神经网络失效的对抗样本，使得它们难以直接应用到医疗决策等高风险领域中。因此，深度网络的可解释性备受关注，对抗攻击也成为了神经网络安全的一个重要研究方向。

3、目前，关于深度学习可解释性主要分为两类：事前可解释性与事后可解释性。事前可解释性多适用于传统的机器学习。这些机器学习模型通常结构简单、易于实现，属于自解释模型，其自身内嵌可解释性，人们很容易理解其决策过程，线性回归、决策树是这类模型典型代表。由于深度神经网络在很多情况下就不具备可解释性，其特征较难理解，因此，比起事前可解释性方法，事后可解释性方法更适合于深度学习。

4、事后可解释性方法灵活性强，适用范围广，在不修改模型结构和参数给出决策依据；同时也解决了事前可解释性方法无法对复杂模型进行解释的问题。事后可解释性方法大部分都是在测试阶段针对单幅图像的预测情况给出解释，这类解释方法通常表现为可视化解释，即给出一幅热力图或显著图突出原始图像中对预测起重要作用的区域或者像素。然而，目前对于可解释性方法的研究主要是针对于图片分类领域，而且仅仅关注模型对于正常样本的预测进行解释与分析，忽视了模型在现实场景中可能遇到的对抗样本。

技术实现思路

1、本技术实施例提供一种样本攻击防御效果可解释驱动的电磁信号感知方法，利用对抗样本从模型失败的角度检验神经网络内部的特征表示，从而实现攻击防御效果都可解释的电磁信号样本智能感知。

2、为解决上述技术问题，第一方面，本技术实施例提供一种样本攻击防御效果可解释驱动的电磁信号感知方法，包括以下步骤：获取原始电磁信号的iq数据，并基于所述iq数据，生成正常样本；对所述iq数据添加攻击，得到攻击后的iq数据，并基于所述攻击后的iq数据，生成对抗样本；基于所述对抗样本，从模型失败的角度检验神经网络内部的特征表示，对电磁信号感知过程中样本的攻击效果进行解释，验证对抗样本生成成功；基于深度神经网络模型，通过对抗训练进行对抗防御，采用基于梯度的类激活映射方法，从可解释角度对使用对抗训练进行对抗防御验证进行验证。

3、一些示例性实施例中，基于所述iq数据，生成正常样本，包括：基于所述iq数据，绘制循环谱图；基于所述循环谱图，生成正常样本；其中，所述绘制循环谱图包括以下步骤：对原始电磁信号的自相关函数进行傅里叶展开处理，其中，展开处理后的自相关函数的系数为循环自相关函数；将循环自相关函数进行傅里叶变换，得到循环谱函数；将原始电磁信号进行离散化处理，离散化处理后时域相卷对应频域相乘，时域的相关采用dft变成频域的逐点相乘来计算，从频域获得循环谱，得到循环谱图。

4、一些示例性实施例中，采用快速梯度符号攻击方法对所述iq数据添加攻击。

5、一些示例性实施例中，基于所述对抗样本，从模型失败的角度检验神经网络内部的特征表示，对电磁信号感知过程中样本的攻击效果进行解释，验证对抗样本生成成功，包括以下步骤：通过基于梯度的类激活映射方法，并通过全局平均梯度来计算权重，得到特征图；对所述特征图对应的权重进行加权求和，以热力图的方式对神经网络的区别区域进行可视化处理，对电磁信号感知过程中样本的攻击效果进行解释，验证对抗样本生成成功。

6、一些示例性实施例中，所述基于梯度的类激活映射方法，包括以下步骤：在分类情况下，深度神经网络在最终输出层之前，对卷积特征映射进行池化处理，并将所述卷积特征用作产生所需输出的全连接层的特征；计算反向传播过程中最高层特征图的每个像素点关于目标类别得分的梯度；对各个通道像素点的梯度进行平均，得到各个通道对应的权重；将各个通道对应的权重与每一张特征图相乘，得到高亮的图片；将高亮的图片通过变换叠加至原始图片上，得到类激活图。

7、一些示例性实施例中，所述基于深度神经网络模型，通过对抗训练进行对抗防御，包括：构建深度神经网络模型；其中，所述深度神经网络模型为深度残差网络模型；将所述对抗样本加入到对抗训练过程中，对深度神经网络模型的参数进行更新，使更新后的参数能够抵御所述对抗样本的影响；其中，所述对抗训练过程表示为：

8、

9、其中，d表示数据分布，s(x)表示所允许的对抗样本区域，l(fθ(x*)，y)表示网络损失函数。

10、一些示例性实施例中，所述构建深度神经网络模型，包括以下步骤：以所述正常样本和所述对抗样本的循环谱图作为网络输入；经过若干个基本的卷积层后，对若干个残差模块进行级联，得到特征；所述特征经平均池化层处理后，得到池化处理后的特征，并将池化处理后的特征发往全连接层；分类层输出信号类置信向量以及噪声类置信向量；基于池化处理后的特征以及超参数训练网络，利用分类层的输出置信度对信号的有无进行判断。

11、第二方面，本技术实施例还提供了一种样本攻击防御效果可解释驱动的电磁信号感知系统，包括：依次连接的正常样本构建模块、对抗样本构建模块、攻击效果解释模块以及对抗防御验证模块；所述正常样本构建模块用于获取原始电磁信号的iq数据，并基于所述iq数据，生成正常样本；所述对抗样本构建模块用于对所述iq数据添加攻击，得到攻击后的iq数据，并基于所述攻击后的iq数据，生成对抗样本；所述攻击效果解释模块用于根据所述对抗样本，从模型失败的角度检验神经网络内部的特征表示，对电磁信号感知过程中样本的攻击效果进行解释，验证对抗样本生成成功；所述对抗防御验证模块用于根据深度神经网络模型，通过对抗训练进行对抗防御，采用基于梯度的类激活映射方法，从可解释角度对使用对抗训练进行对抗防御验证进行验证。

12、本技术实施例提供的技术方案至少具有以下优点：

13、本技术实施例提供一种样本攻击防御效果可解释驱动的电磁信号感知方法，该方法包括以下步骤：获取原始电磁信号的iq数据，并基于所述iq数据，生成正常样本；对iq数据添加攻击，得到攻击后的iq数据，并基于攻击后的iq数据，生成对抗样本；基于对抗样本，从模型失败的角度检验神经网络内部的特征表示，对电磁信号感知过程中样本的攻击效果进行解释，验证对抗样本生成成功；基于深度神经网络模型，通过对抗训练进行对抗防御，采用基于梯度的类激活映射方法，从可解释角度对使用对抗训练进行对抗防御验证进行验证。

14、本技术实施例提供了一种样本攻击防御效果可解释驱动的电磁信号感知方法，针对电磁信号循环谱感知问题，利用对抗样本从模型失败的角度检验神经网络内部的特征表示。通过可视化分析，发现深度神经网络学习到的特征与人类所看到的特征之间存在着不一致性，对电磁信号感知过程中样本的攻击效果进行解释；同时，本技术还使用对抗训练的方式进行对抗防御，并利用基于梯度的类激活映射方法从可解释角度对样本防御效果进行了解释，从而实现了攻击防御效果都可解释的电磁信号样本智能感知。