基于卷积自适应注意块的背景重构网络的高光谱异常检测方法

文档序号:36311377发布日期:2023-12-07 14:37阅读:42来源:国知局
基于卷积自适应注意块的背景重构网络的高光谱异常检测方法

本发明属于异常检测的方法,设计计算机视觉。


背景技术:

1、异常检测作为高光谱目标定位的一个分支,自高光谱技术出现以来就一直在研究,其目的是在没有先验知识的情况下发现目标。高光谱异常检测是一个将图像分为背景和异常的二元分类问题,早期模型主要以统计理论为基础,reed-xiaoli(rx)算法被认为是基于统计理论的异常检测算法的基准算法。近年来,随着深度学习的发展,基于深度学习的异常检测算法取得了良好的效果。

2、现有的基于深度学习的无监督异常检测网络主要包括自动编码器(ae)网络和生成对抗网络(gans)。在基于ae的异常检测方法中,每个测试像素被编码为低维、系数的向量,向量再被解码为重构像素,原像素与重构像素之间的残差即为原像素的异常水平。zhao等人提出了一种基于堆栈自编码器(aes)的高光谱异常检测方法,他们通过堆叠多个自编码器得到的网络来获得更高级别的深度非线性特征,并采用聚类技术有效的进行相似光谱信息的特征级融合。由于高光谱图像具有的空间特性和光谱特性,jiang等人通过探索光谱和空间特征来检测高光谱图像中存在的异常,他们将下采样得到的光谱特征与经过形态属性滤波得到的空间特征进行融合,从而实现对背景像素的抑制。wang等人在下采样特征的基础上,设计了自适应权重损失函数,进一步抑制异常信息重构,取得了较好的效果。

3、受人类视觉感知过程的驱动,注意力机制被设计为更多地关注信息领域,而较少考虑非必要领域。注意机制已被用于图像分类,后来被证明在其他领域表现突出,包括图像标题、文本到图像合成和场景分割等。可以采用通道注意块和空间注意块来增加引人注目的通道和像素的权重。


技术实现思路

1、本发明的目的是为了解决在基于堆叠自编码器下采样过程中,由于过强的重构能力导致异常被重构,造成结果出现错检。同时因为不断地深度提取特征,从而忽视了图像边缘信息。

2、本发明为解决上述技术问题采取的技术方案是:

3、s1.构建自适应权重特征提取模块,根据少量样本信息对原始图像背景进行重构。

4、s2.结合s1中的重构特征,通过注意力模块强化空间和光谱特征,增强边缘特征。

5、s3.结合s1中的网络和s2中的网络构建基于卷积自适应注意块的背景重构网络架构。

6、自适应权重特征提取模块根据少量样本信息对原始图像进行重构。根据下采样区域的角落像素预测中间像素,从而尽可能多的关注背景特征,抑制异常重构。我们在下面描述详细的操作:

7、采用新的自定义卷积核,可学习参数由子核ki∈rk′×k′×c表示,感受野中心用m∈r1×1×c表示:

8、其中k′∈n+是定义子核大小的超参数,c是输入通道的数量。每个子核ki位于距离感受野中心d∈n+的距离。因此感受野的空间大小k可以计算为:k=2k′+2d+1。

9、生成一个与原图同样大小的服从高斯分布的随机噪声x∈rh×w×c:

10、其中c为通道数,h和w分别为高和宽。

11、为了保持下采样特征与原图大小一致,保证每个空间位置的信息都能被重构,在输入周围添加k′+d像素的零填充,并将步幅设置为1。

12、在输入x上对自定义卷积核进行卷积运算:

13、

14、z=relu(x1+x2+x3+x4)                            (2)

15、只考虑子核ki所在位置的输入值,其他信息被忽略。每个ki与相应输入之间的卷积运算结果被求和为一个数值,表示位于与m相同位置的预测,输出张量z通过relu激活传递。

16、本发明引入卷积注意力模块(cbam),分别在通道上和空间上添加注意力机制,使自定义卷积核运算得到的特征图更加倾向于背景,同时增强因零填充而模糊的边缘特征。

17、由下采样提取的特征首先进行通道注意力运算:

18、

19、其中zm∈r1×1×c,za∈r1×1×c,分别为张量z经过空间维度上的全局最大池化和全局平均池化得到的特征向量。

20、将两个池化后的特征送入共享的多层感知机(mlp)提取特征。

21、

22、将经过mlp的池化特征相加,经过sigmoid激活得到通道注意力权重。

23、wc=sigmoid(z′)                                (5)

24、输入特征与通道注意力权重相乘得到通道注意力特征zc。

25、zc=z×wc                                   (6)

26、经过通道注意力运算得到的特征zc再进行空间注意力运算:

27、

28、其中zcm∈rh×w×1,zca∈rh×w×1,分别为张量zc经过通道维度上的全局最大池化和全局平均池化得到的特征图。

29、将池化特征concatenate起来,经过一个卷积层提取特征,同时将通道维度降至1。

30、最终经过sigmoid激活,得到最终的空间注意力权重(包含进了通道注意力)。

31、ws=igmoid(concat(zcm,zca))                         (8)

32、输入特征与空间注意力权重相乘得到空间注意力特征zs。

33、zs=zc×ws                                  (9)

34、发明中所构建的基于卷积自适应注意块的背景特征重构网络架构:

35、输入为随机噪声,首先进入由多层卷积自适应注意块和普通卷积并行的编码过程,卷积自适注意块由自定义卷积核紧跟卷积注意力模块组成,其损失函数为自定义权重损失函数,原理如下:

36、在训练刚开始与迭代一定步数时,更新重构像素与原像素之间的距离d。

37、

38、形成重构误差矩阵e。

39、e=[d1,1,…,d1,w;…;dh,1,…,dh,w]                        (11)

40、计算自适应权重:

41、wi,j=max(e)-di,j                              (12)

42、w=[w1,1,…,w1,w;…;wh,1,…,wh,w]                        (13)

43、其中max()指e中最大值,由于异常像素值较大,背景像素值较小,通过计算自适应权重来达到抑制异常重构的效果。

44、损失函数为:

45、

46、经过多层下采样得到的特征,为了防止过拟合,通过skipconnection连接由普通卷积提取的较原始特征,继续进行卷积操作进行特征细化,最终得到背景重构图像与原图进行残差处理得到异常检测结果。

47、与现有的技术相比,本发明的有益效果是:

48、1.本发明提出了一种新颖的基于卷积自适应注意块的背景重构网络用于高光谱异常检测。在编码过程中忽略异常信息,进行背景像素的重构,与原图像作残差得到异常检测结果。

49、2.本发明提出了自适应卷积来抑制异常重构,并引入了卷积注意力模块来保留图像的边缘信息,两者均用于改善对背景像素的重构能力和对一场像素的抑制能力,从而提高了检测准确率。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1