基于注意力机制的高光谱目标检测方法

本发明属于图像处理，涉及一种高光谱目标检测方法，具体涉及一种基于注意力机制的高光谱目标检测方法，可用于社会安全、食品安全等领域。

背景技术：

1、高光谱图像作为一种遥感图像，具有上百个光谱波段，包含丰富的光谱信息，同时由于其具有高分辨率，也含有丰富的空间信息。由于不同的光谱信息反映不同的物质类型，因此结合光谱特征可以大大提高对目标和背景的检测精度，例如检测衣物表面附着的毒品、火药，检测附着在食品上的化学药品残留等，因此使用高光谱图像进行目标检测在社会安全、食品安全等方面具有重大意义。

2、由于高光谱图像包含远超自然图像的信息量，使用机器学习的方法进行高光谱目标检测也是当前备受关注的热点，基于机器学习强大的特征提取能力，可以较好地提取出高光谱图像中丰富的光谱特征和空间特征。基于机器学习高光谱目标检测方法主要是通过已知的真实光谱向量对高光谱数据进行预处理并生成训练和测试数据，通过机器学习模型进行光谱特征以及空间特征提取，实现对高光谱图像中目标光谱向量的检测。

3、为了提高高光谱图像目标检测的精度，例如申请公布号为cn116563711a，名称为“基于动量更新的二分类编码器网络的高光谱目标检测方法”的专利申请，公开了基于动量更新的二分类编码器网络的高光谱目标检测方法，该方法包括：将获取的3-d高光谱图像转换为2-d矩阵形式的高光谱图像，进行聚类，获取聚类结果，并对质心进行初始化操作；基于所述聚类结果，利用欧氏距离找到与所述各个质心邻近的像元，作为纯净的背景和目标像元，筛选纯净像元；基于纯净像元构建背景-目标训练样本集，通过背景-目标训练样本集构建基于动量更新的二分类编码器网络，并计算损失函数，进行优化，获取训练好的二分类编码器网络；将2-d矩阵形式的高光谱图像输入训练好的二分类编码器网络中，输出最终检测图。该方法能够更好地分离背景和目标，获得较高的检测精度。但其存在的不足之处在于，其所述的筛选纯净像元仅依赖欧氏距离，对光谱间冗余信息的抑制不足，导致对光谱特征的提取不足；且二分类编码器网络中的全连接层通过线性变换的方式对特征进行提取，全连接层对局部信息以及序列信息都难以有效提取，导致对空间特征的提取不足；线性变换的方式对于复杂的特征分布的光谱信息提取能力存在不足，导致目标检测的精度仍然较低。

技术实现思路

1、本发明的目的在于针对上述现有技术存在的不足，提出了一种基于注意力机制的高光谱目标检测方法，用于解决现有技术存在的检测精度较低的技术问题。

2、为实现上述目的，本发明采取的技术方案包括如下步骤：

3、(1)获取训练样本集和测试样本集：

4、获取包括m×r个光谱向量且每个光谱向量包含l个波段的高光谱图像，每个光谱向量的类型为背景或目标，并对其中的i个光谱向量进行预处理，并将i个光谱向量及预处理后每个光谱向量对应的伪标签构成训练样本集，将所有光谱向量及每个光谱向量对应的真实标签构成测试样本集，其中，m≥100，r≥100，l≥200，预处理后第i个光谱向量对应的伪标签为yi；

5、(2)构建基于注意力机制的高光谱目标检测网络模型w：

6、构建包括依次连接的光谱嵌入模块、多头注意力模块、多层感知器的高光谱目标检测网络模型w；所述光谱嵌入模块用于对光谱向量进行嵌入表示；所述多头注意力模块用于对光谱嵌入模块输出中的局部信息、全局信息及序列信息进行特征提取；所述多层感知器包括两个并行排布的全连接层，用于通过所提取的注意力表示向量对光谱向量进行线性和非线性检测；

7、(3)对高光谱目标检测网络模型w进行迭代训练：

8、通过训练样本集对高光谱目标检测网络模型w进行迭代训练，得到训练好的高光谱目标检测网络模型w*；

9、(4)获取高光谱目标检测结果：

10、将测试样本集作为训练好的高光谱目标检测网络模型w*的输入进行前向传播，得到m×r个检测结果。

11、本发明与现有的技术相比，具有以下优点：

12、1.本发明在对基于注意力机制的高光谱目标检测网络模型进行训练和获取检测结果的过程中，多头注意力模块能够同时关注图像中不同区域和光谱向量间特征的组合，避免了现有技术对光谱间冗余信息的抑制不足的缺陷；同时多头注意力模块中包含的多个自注意力层能够提取多层次的特征表示，能够充分提取光谱向量空间特征中的局部特征、全局特征和序列特征，避免了现有技术对于光谱向量的空间信息利用不足的缺陷，有效提高了目标检测精度。

13、2.本发明高光谱目标检测网络模型的多层感知器所述多层感知器包含有两个并行排布的全连接层，能够实现通过所提取的注意力表示向量对光谱向量进行线性和非线性检测，避免了现有技术因仅有线性变换对于复杂的特征分布的光谱信息提取能力不足的缺陷，提高了目标检测精度。

技术特征：

1.一种基于注意力机制的高光谱目标检测方法，其特征在于，包括如下步骤：

2.根据权利要求1所述的方法，其特征在于，步骤(1)中所述的对其中的i个光谱向量进行预处理，实现步骤为：

3.根据权利要求1所述的方法，其特征在于，步骤(2)中所述的高光谱目标检测网络模型w，其中：

4.根据权利要求1所述的方法，其特征在于，步骤(3)中所述的对高光谱目标检测网络模型w进行迭代训练，实现步骤为：

5.根据权利要求4所述的方法，其特征在于，步骤(3b)中所述的特征向量ai、注意力表示向量zi和每个光谱向量的预测结果yi，其表达式分别为：

6.根据权利要求1所述的方法，其特征在于，步骤(3c)中所述的wt的损失值losst，计算公式为：

7.根据权利要求1所述的方法，其特征在于，步骤(3c)中所述的对高光谱目标检测网络模型wt中的权值ωt进行更新，更新公式为：

技术总结
本发明提出了一种基于注意力机制的高光谱图像目标检测方法，实现步骤为：获取训练样本集和测试样本集；构建基于注意力机制的高光谱目标检测网络模型W；对高光谱目标检测网络模型W进行迭代训练；获取高光谱目标检测结果。本发明中的多头注意力模块能够同时关注图像中不同区域和光谱向量间特征的组合，且多个自注意力层能够提取多层次的特征表示，能够充分提取光谱向量空间特征中的局部特征、全局特征和序列特征；多层感知器包含有两个并行排布的全连接层能够实现通过所提取的注意力表示向量对光谱向量进行线性和非线性检测，提高了对复杂的特征分布的光谱信息的提取能力，提高了目标检测精度。

技术研发人员：谢卫莹,王澳,蒋恺,李云松
受保护的技术使用者：西安电子科技大学
技术研发日：
技术公布日：2024/5/16