技术特征：
1.用于高光谱图像的transformer网络的训练方法，其特征在于，在所述transformer网络中设置自适应多尺度嵌入层，所述自适应多尺度嵌入层包括多个嵌入模块，所述训练方法包括：基于光谱维度分割高光谱图像样本，获得多个光谱子波段，所述高光谱图像样本为无标签训练样本；将每个光谱子波段各输入一个嵌入模块，获得每个嵌入模块输出的局部空谱嵌入特征，所述嵌入模块以多个尺度提取所述光谱子波段的空谱特征；按照光谱子波段的位置融合所有的所述局部空谱嵌入特征，获得全局空谱嵌入特征；将所述全局空谱嵌入特征输入transformer编码器，并在transformer解码器中对中心区域token进行掩码与重建以自监督地训练transformer编码器。2.如权利要求1所述的用于高光谱图像的transformer网络的训练方法，其特征在于，所述嵌入模块包括用于嵌入小尺度特征的小尺度分支、用于嵌入中尺度特征的中尺度分支和用于嵌入大尺度特征的大尺度分支，所述将每个光谱子波段各输入一个嵌入模块，获得每个嵌入模块输出的局部空谱嵌入特征，包括：将所述光谱子波段输入嵌入模块，分别获得小尺度分支输出的小尺度嵌入特征、中尺度分支输出的中尺度嵌入特征和大尺度分支输出的大尺度嵌入特征；融合所述大尺度嵌入特征、所述中尺度嵌入特征和所述小尺度嵌入特征，获得所述局部空谱嵌入特征。3.如权利要求2所述的用于高光谱图像的transformer网络的训练方法，其特征在于，所述获得大尺度分支输出的大尺度嵌入特征，包括：对所述光谱子波段进行三维卷积操作，提取第一空谱特征，对所述第一空谱特征进行三维卷积操作，提取第二空谱特征，将所述第二空谱特征在光谱维度拼接并展平，获得大尺度嵌入特征；所述获得中尺度分支输出的中尺度嵌入特征，包括：对所述光谱子波段进行三维卷积操作，提取第三空谱特征，融合所述第三空谱特征并展平，获得中尺度嵌入特征。4.如权利要求2所述的用于高光谱图像的transformer网络的训练方法，其特征在于，所述融合所述大尺度嵌入特征、所述中尺度嵌入特征和所述小尺度嵌入特征，获得所述局部空谱嵌入特征，包括：采用可学习的权重参数融合所述大尺度嵌入特征、所述中尺度嵌入特征和所述小尺度嵌入特征，获得所述局部空谱嵌入特征。5.如权利要求4所述的用于高光谱图像的transformer网络的训练方法，其特征在于，训练transformer编码器之后，还包括：重置所述权重参数，将训练后的transformer编码器的输出结果输入分类器，采用带标签的高光谱图像样本对训练后的transformer编码器进行再次训练。6.如权利要求1所述的用于高光谱图像的transformer网络的训练方法，其特征在于，所述在transformer解码器中对中心区域token进行掩码与重建以自监督地训练transformer编码器，包括：将训练样本的中心像素替换为可学习的向量；在transformer解码层中重构中心像素以及训练样本；根据中心像素重构的损失值和训练样本重构的损失值，训练transformer编码器。
7.基于多尺度卷积transformer网络的高光谱图像分类方法，其特征在于，所述多尺度卷积transformer网络包括自适应多尺度嵌入层和transformer编码器，所述自适应多尺度嵌入层包括多个嵌入模块，所述分类方法包括：预先采用如权利要求1至6任一项所述的用于高光谱图像的transformer网络的训练方法训练所述多尺度卷积transformer网络；将高光谱图像输入所述多尺度卷积transformer网络，获得分类特征；将所述分类特征输入分类器，获得高光谱图像分类结果。8.用于高光谱图像的transformer网络的训练装置，其特征在于，所述transformer网络中包括自适应多尺度嵌入层，所述自适应多尺度嵌入层包括多个嵌入模块，所述装置包括：光谱子波段模块，用于基于光谱维度分割高光谱图像，获得多个光谱子波段，所述高光谱图像为所述transformer网络的无标签训练样本；局部空谱嵌入特征模块，用于将每个光谱子波段各输入一个嵌入模块，获得每个嵌入模块输出的局部空谱嵌入特征，所述嵌入模块以多个尺度提取所述光谱子波段的空谱特征；全局空谱嵌入特征模块，用于按照光谱子波段的位置融合所有的所述局部空谱嵌入特征，获得全局空谱嵌入特征；自监督训练模块，用于将所述全局空谱嵌入特征输入transformer编码器，并在transformer解码器中对中心区域token进行掩码与重建以自监督地训练transformer编码器。9.智能终端，其特征在于，所述智能终端包括存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的用于高光谱图像的transformer网络的训练程序，所述用于高光谱图像的transformer网络的训练程序被所述处理器执行时实现如权利要求1-6任意一项所述用于高光谱图像的transformer网络的训练方法的步骤。10.计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有用于高光谱图像的transformer网络的训练程序，所述用于高光谱图像的transformer网络的训练程序被处理器执行时实现如权利要求1-6任意一项所述用于高光谱图像的transformer网络的训练方法的步骤。
技术总结
本发明公开了一种高光谱图像Transformer网络训练及分类方法，首先基于光谱维度分割高光谱图像样本，获得多个光谱子波段，所述高光谱图像样本为无标签训练样本；将每个光谱子波段各输入一个嵌入模块，获得每个嵌入模块输出的局部空谱嵌入特征，所述嵌入模块以多个尺度提取所述光谱子波段的空谱特征；按照光谱子波段的位置融合所有的所述局部空谱嵌入特征，获得全局空谱嵌入特征；将所述全局空谱嵌入特征输入Transformer编码器，并在Transformer解码器中对中心区域token进行掩码与重建以自监督地训练Transformer编码器。与现有技术相比，能够有效地利用无标签样本提升Transformer网络的训练效果，高精度地对高光谱图像进行分类。高精度地对高光谱图像进行分类。高精度地对高光谱图像进行分类。
技术研发人员：贾森 王一帆 徐萌
受保护的技术使用者：深圳大学
技术研发日：2022.10.26
技术公布日：2023/1/2