一种基于多尺度特征融合的轻量化局部放电超声识别网络的制作方法

本发明涉及电气，具体为一种基于多尺度特征融合的轻量化局部放电超声识别网络。

背景技术：

1、局部放电(partial discharge，pd)是一种广泛存在于电器设备中的故障，通常是由于设备绝缘结构的缺陷和设备老化等因素引起，pd会随着时间发展加剧直至引发断电、起火等重大安全事故，因此对局部放电的检测是电力系统安全维护的重要措施。

2、通过放电产生的超声信号来探测放电是近年来新兴的一种技术，不仅能够判断放电的发生，进一步地，通过对超声信号的处理可以对放电进行定位，甚至判断放电的类型，如悬浮放电、沿面放电等。在实际检测中，通过深度学习技术来处理超声信号表现出了良好的应用前景。深度神经网络能够从原始声信号序列或一些人为处理的特征，如梅尔倒谱系数(mel frequency cepstral coefficient，mfcc)、短时傅里叶变换(short timefouriertransform，stft)中提取出相关的高维特征来进行判断，在局部放电类型识别问题中表现出了良好的效果。但在一些背景噪声较强的检测场景下，如大风环境、恶劣天气或无人机检测场景中模型的效果可能会受到明显影响，低信噪比以及较大的异常值会导致神经网络在训练过程中坏死。另外，目前常见的transformer、resnet等网络架构参数量较大，在手持终端上的应用仍然存在挑战，因此设计一种轻量化可部署的神经网络结构对于使用深度学习来检测放电具有重要意义。

技术实现思路

1、本发明的目的在于提供一种基于多尺度特征融合的轻量化局部放电超声识别网络，在信噪比较低情况下提升局部放电识别的准确性并尽量降低模型的参数量和计算量。

2、为实现上述目的，本发明提供如下技术方案：

3、一种基于多尺度特征融合的轻量化局部放电超声识别网络，包括以下步骤：

4、步骤一、声信号采集；

5、步骤二、计算声信号的梅尔谱或短时傅里叶变换频谱，将其作为神经网络的输入；

6、步骤三、对输入特征在不同维度上进行多尺度的特征卷积，将对应的特征图投影为与输入特征相同的维度；

7、步骤四、通过特征掩码矩阵对步骤三中投影后的特征图进行特征提取，并计算相应权重矩阵；

8、步骤五、将步骤四中得到的特征图及其权重加权求和，得到增强后的特征图。

9、较佳的，所述步骤二中，选择短信号序列计算声信号的梅尔谱或短时傅里叶变换频谱。

10、较佳的，所述步骤三中所述的不同维度和尺度的切片卷积指将输入特征在时间和频率维度上切片为一维向量，在时间维度上进行长时、短时卷积，时间纬度由卷积步长决定，在频率维度上进行单一尺度的卷积，并分别将卷积结果按原位置拼接得到相应的特征图。

11、较佳的，在对所述特征图进行投影时，对不同形状的特征图，根据其形状生成可训练的左乘、右乘矩阵，做矩阵乘法来将特征图投影到与输入矩阵相同的维度。

12、较佳的，所述步骤四中设置一个可训练的特征掩码矩阵，与步骤三中得到的特征图进行相互作用来更新特征图，并计算得到对应的权重矩阵，将不同特征图在投影后都与同一个掩码矩阵进行作用。

13、较佳的，所述步骤五中对增强后的特征图进行分类时采用卷积神经网络、前馈神经网络、卷积神经网络、循环神经网络、深度信念网络和长短期记忆网络进行分类。

14、较佳的，所述所述步骤三中，设输入特征为一个二维矩阵s：

15、

16、对s在横向时间维度和纵向频率维度上进行切片，对横向切片得到的时间序列向量进行长时、短时的一维卷积，将多行向量的一维卷积结果按照原来向量的位置拼接为一个二维矩阵，对纵向切片进行类似的操作，但不进行多个尺度的卷积，同样拼接得到一个二维矩阵，分别记作a1、a2、a3；

17、所述步骤三中，在三个不同维度和尺度上进行切片卷积并拼接得到的二维矩阵形状并不相同，根据各自的形状生成可训练的左乘、右乘矩阵，对于在时间维度上做切片长时卷积并拼接得到的二维矩阵a1，生成左乘投影矩阵p11和右乘投影矩阵p12通过矩阵乘法将a1投影到原输入特征维度，得到特征图b1：

18、b1＝p11*a1*p12；

19、进一步的，所述步骤四中，生成一个用来从特征图bi(i＝1,2,3)中提取特征的矩阵q：

20、

21、矩阵q称为输入特征的掩码矩阵，通过以下方式将q与特征图bi相互作用得到对应的权重：

22、

23、

24、其中，bi,n代表对应第i类特征对应的特征图bi在第n次迭代的结果，n为以上特征提取过程的循环次数，根据模型训练的效果调试确定；

25、较佳的，所述步骤五中，对每张经过n次迭代后的特征图bi,n对应的权重矩阵ki,n，生成两个可训练的向量来获得最终权重值wi：

26、

27、引入残差机制，得到信噪比增强的特征图se：

28、

29、对于步骤五中得到的se采用简单的二维卷积神经网络进行分类，二维卷积神经网络为vgg-net。

30、与现有技术相比，本发明的有益效果是：

31、本发明提出的神经网络结构的核心理念是基于掩码矩阵的概念来对多维度尺度上提取的声信号特征进行信噪比增强。在运算中，尤其是矩阵形状的变换上有一定的复杂度，但实际上出于对计算量和参数量的考虑对网络做了特别的优化，如切片卷积以及矩阵投影等。对常见的声信号采样率和局放检测场景来说，整个网络的参数量在45k-100k间，相较于目前常见的结构，如resnet18/34(11.2m/21.8m)、vgg11(132.9m)等大幅降低，适于在一些便携式终端上部署使用。本发明特别适用于信噪比较低且背景噪声非平稳的场景，能显著改善resnet等含有多层卷积结构网络由于输入值异常而在训练过程中坏死的情况，并从不同类型放电较为接近的频谱中提取出高维特征，考虑到常见变压器等电力设备中伴随局部放电的一些振动或声波信息，提升对局部放电类型识别的准确率。

技术特征：

1.一种基于多尺度特征融合的轻量化局部放电超声识别网络，其特征在于：包括以下步骤：

2.根据权利要求1所述的一种基于多尺度特征融合的轻量化局部放电超声识别网络，其特征在于：所述步骤二中，选择短信号序列计算声信号的梅尔谱或短时傅里叶变换频谱。

3.根据权利要求2所述的一种基于多尺度特征融合的轻量化局部放电超声识别网络，其特征在于：所述步骤三中所述的不同维度和尺度的切片卷积指将输入特征在时间和频率维度上切片为一维向量，在时间维度上进行长时、短时卷积，时间纬度由卷积步长决定，在频率维度上进行单一尺度的卷积，并分别将卷积结果按原位置拼接得到相应的特征图。

4.根据权利要求3所述的一种基于多尺度特征融合的轻量化局部放电超声识别网络，其特征在于：在对所述特征图进行投影时，对不同形状的特征图，根据其形状生成可训练的左乘、右乘矩阵，做矩阵乘法来将特征图投影到与输入矩阵相同的维度。

5.根据权利要求1所述的一种基于多尺度特征融合的轻量化局部放电超声识别网络，其特征在于：所述步骤四中设置一个可训练的特征掩码矩阵，与步骤三中得到的特征图进行相互作用来更新特征图，并计算得到对应的权重矩阵，将不同特征图在投影后都与同一个掩码矩阵进行作用。

6.根据权利要求1所述的一种基于多尺度特征融合的轻量化局部放电超声识别网络，其特征在于：所述步骤五中对增强后的特征图进行分类时采用卷积神经网络、前馈神经网络、卷积神经网络、循环神经网络、深度信念网络和长短期记忆网络进行分类。

7.根据权利要求4所述的一种基于多尺度特征融合的轻量化局部放电超声识别网络，其特征在于：所述所述步骤三中，设输入特征为一个二维矩阵s：

8.根据权利要求7所述的一种基于多尺度特征融合的轻量化局部放电超声识别网络，其特征在于：所述步骤五中，对每张经过n次迭代后的特征图bi,n对应的权重矩阵ki,n，生成两个可训练的向量来获得最终权重值wi：

技术总结
本发明公开了一种基于多尺度特征融合的轻量化局部放电超声识别网络，其技术方案要点是：包括以下步骤：步骤一、声信号采集；步骤二、计算声信号的梅尔谱或短时傅里叶变换频谱，将其作为神经网络的输入；步骤三、对输入特征在不同维度上进行多尺度的特征卷积，将对应的特征图投影为与输入特征相同的维度；步骤四、通过特征掩码矩阵对步骤三中投影后的特征图进行特征提取，并计算相应权重矩阵；步骤五、将步骤四中得到的特征图及其权重加权求和，得到增强后的特征图。本发明提出的神经网络结构的核心理念是基于掩码矩阵的概念来对多维度尺度上提取的声信号特征进行信噪比增强。

技术研发人员：高鹏,陈双辉,张一,张果荣
受保护的技术使用者：南京土星信息科技有限公司
技术研发日：
技术公布日：2025/3/6