本申请涉及信息技术与智能优化深度学习领域,具体公开了一种多域变换联合优化transformer的电磁信号预测方法及装置。
背景技术:
1、随着新一代信息技术的发展,智能优化与深度学习技术已走向实际的工程应用。
2、其中,优化方法是一种以数学为基础,用于求解各种优化问题的应用技术;智能优化算法是一种通过模拟自然界生物行为或物理现象,以求解复杂优化问题的计算方法,其在机械设计、路径优化问题、电气系统优化、机器学习模型的参数优化等实际应用中取得显著成效。
3、深度学习作为一种实用的智能优化方法,正在逐步向大模型发展,transformer作为一种用于自然语言处理和其他序列到序列任务的深度学习模型架构,其引入了自注意力机制,使其在处理序列数据时表现出色。
4、在电磁法探测领域,噪声限制电磁法探测效果,使得电磁数据质量降低。深度学习被应用于电磁法探测领域的去噪过程中,尽管通过深度学习可以从不同角度分析了噪声类型及影响因素,去噪效果仍很难评价且其应用受到限制,无法精细改善数据质量。
5、因此,transformer模型自提出以来,已成为自然语言处理及其他领域的重要基石。发明人鉴于transformer模型,提供了一种多域变换联合优化transformer的电磁信号预测方法及装置。
技术实现思路
1、本发明的目的在于利用多种策略改进鹅优化算法,然后利用改进鹅优化算法搜寻最优transformer模型的超参数,进而利用智能优化模型进行电磁数据的噪声压制,实现智能优化深度学习模型的电磁法数据精细处理。以期解决机器学习方法在电磁法去噪处理中的不足。
2、为了达到上述目的,本发明的基础方案提供一种多域变换联合优化transformer的电磁信号预测方法,包括如下步骤:
3、步骤s1:利用电磁数据进行多域分析,提取多域变换下的特征参数;
4、步骤s2:利用混沌映射、自适应权重调整和记忆策略改进鹅优化算法,利用改进鹅优化算法进行transformer模型超参数寻优;
5、步骤s3:将多域变换下的特征参数及信号样本输入优化transformer进行训练,获取优化transformer模型;
6、步骤s4:利用优化transformer模型进行电磁数据的测试验证,将模型应用于电磁噪声辨识及信号预测;
7、步骤s5:将信号进行保留,辨识的噪声剔除且预测信号,并按原采样顺序整合重构获取高质量的电磁法数据。
8、进一步,在步骤s1中,所述多域变换利用傅里叶变换、短时傅里叶变换和连续小波变换进行多域分析,提取多域特征参数,多域特征如下:
9、yt=[y时域特征,y频域特征,y时频域特征]t
10、式中,y时域特征,y频域特征,y时频域特征分别表示输入的多域特征向量集合,yt表示多域特征总集。
11、进一步,在步骤s2中,所述改进鹅优化算法中利用混沌映射、自适应权重调整和记忆策略进行算法改进,利用初始化粒子xn进行种群混沌映射计算如下:
12、xn+1=r×(sin(π×xn)+cos(π×xn))
13、式中,控制参数r调整系统的混沌程度;
14、自适应权重调整计算如下:
15、a=2×exp[-6×(t÷max_it)]
16、式中,自适应参数a根据当前迭代次数t和总迭代次数max_it动态调整;
17、记忆策略计算如下:
18、以m为存储历史最佳解的数组,以m_scores存储对应解的适应度分数,对于新发现的解best_pos和其适应度分数best_score,更新过程如下:
19、找到m_scores中的最大值及其索引idx:
20、max_score,idx=max(m_scores)
21、如果最佳范围best_score小于最大范围max_score,则进行更新:
22、m_[idx]=best_pos
23、m_scores[idx]=best_score
24、检查记忆:当算法的性能停滞时,即连续多次迭代未发现更优解,可通过检查记忆中的解来尝试跳出局部最优,检查记忆并选择最优解的过程表示为:在m_scores中找到最小值及其索引:
25、best_score,idx=min(m_scores)
26、返回对应的解:
27、best_pos=m_[idx]。
28、进一步,在步骤s2中,在步骤s2中,所述改进鹅优化transformer模型超参数,分别为优化transformer模型的注意力头数、学习率和批量大小。
29、进一步,在步骤s3中,transformer模型由编码器、解码器和输出层组成;
30、编码器由一个多头注意力机制和全连接神经网络构成,解码器由两个多头注意力机制和全连接神经网络构成,输出层经过一次线性变换和softmax得到输出的概率分布。
31、进一步,在步骤s4和步骤s5中,所述利用优化transformer模型进行电磁数据的测试及预测如下式:
32、
33、式中,x,y,xy分别表示多域特征数据段,j表示段数,表示预测过程,yj+1表示预测值。
34、本发明的基础方案还提供了一种多域变换联合优化transformer的电磁信号预测装置,包括存储器、控制处理器及存储在所述存储器上并可在所述控制处理器上运行的计算机程序,所述控制处理器执行所述程序,以实现如前述的多域变换联合优化transformer的电磁信号预测方法。
35、本发明的基础方案还提供了一种控制系统,包括前述的多域变换联合优化transformer的电磁信号预测装置。
36、本发明的基础方案还提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机可执行指令,所述计算机可执行指令用于使计算机执行如前述的多域变换联合优化transformer的电磁信号预测方法。
37、本方案的原理及效果在于:
38、本发明依次通过步骤实施,实现智能优化的改进与transformer模型的超参数寻优,改善电磁法去噪中的困境,解决了机器学习与深度学习算法在处理电磁法数据中因参数选取不合适导致去噪效果不佳的问题,提升了改进智能优化transformer模型对电磁法信号处理中的应用前景。
1.一种多域变换联合优化transformer的电磁信号预测方法,其特征在于:包括如下步骤:
2.根据权利要求1所述的一种多域变换联合优化transformer的电磁信号预测方法,其特征在于,在步骤s1中,所述多域变换利用傅里叶变换、短时傅里叶变换和连续小波变换进行多域分析,提取多域特征参数,多域特征如下:
3.根据权利要求1所述的一种多域变换联合优化transformer的电磁信号预测方法,其特征在于,在步骤s2中,所述改进鹅优化算法中利用混沌映射、自适应权重调整和记忆策略进行算法改进,利用初始化粒子xn进行种群混沌映射计算如下:
4.根据权利要求3所述的一种多域变换联合优化transformer的电磁信号预测方法,其特征在于,在步骤s2中,所述改进鹅优化transformer模型超参数,分别为优化transformer模型的注意力头数、学习率和批量大小。
5.根据权利要求1所述的一种多域变换联合优化transformer的电磁信号预测方法,其特征在于,在步骤s3中,transformer模型由编码器、解码器和输出层组成;transformer模型中的编码器由一个多头注意力机制和全连接神经网络构成,解码器由两个多头注意力机制和全连接神经网络构成,输出层经过一次线性变换和softmax得到输出的概率分布。
6.根据权利要求5所述的一种多域变换联合优化transformer的电磁信号预测方法,其特征在于,在步骤s4和步骤s5中,所述利用优化transformer模型进行电磁数据的测试及预测如下式:
7.一种多域变换联合优化transformer的电磁信号预测装置,其特征在于,包括存储器、控制处理器及存储在所述存储器上并可在所述控制处理器上运行的计算机程序,所述控制处理器执行所述计算机程序,以实现如权利要求1至6任一项所述的多域变换联合优化transformer的电磁信号预测方法。
8.一种控制系统,其特征在于,包括权利要求7所述的多域变换联合优化transformer的电磁信号预测装置。
9.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机可执行指令,所述计算机可执行指令用于使计算机执行如权利要求1至6任一项所述的多域变换联合优化transformer的电磁信号预测方法。