一种基于混合注意力机制驱动模型的降水预测方法

本发明涉及降水预测，尤其是涉及一种基于混合注意力机制驱动模型的降水预测方法。

背景技术：

1、天气预报作为气象学的重要组成部分，对于人类社会的生产、生活以及自然灾害的预防具有不可估量的价值。随着全球气候变化的加剧，极端天气事件的发生频率和强度不断增加，对人类社会和自然环境造成了严峻挑战，准确、及时的降水预报成为保障公共安全、减少灾害损失的关键。

2、研究人员提出降水预报是一个时空序列预测问题，在空间维度上，固定大小的空间区域由网格点表示，网格中的每个单元内都有随时间变化的测量值，即在任何时候的观测结果都可以用张量表示。在此基础上，能够通过先前观测数据，利用模型预测未来最有可能出现的序列。

3、目前，雷达回波数据作为降水预报的重要数据源，其动态变化和空间分布特征蕴含着丰富的降水信息和时空变化特性，包括时间变化特征和稳定特征，这些特性对降水预报模型的性能提出了极高的要求。一方面，时间变化特征要求模型能够捕捉数据中的长期依赖和动态变化趋势，以便准确预测未来的天气；另一方面，稳定特征则重视对局部空间结构和时间连续性的精确刻画，这对于提升预报的准确性和可靠性至关重要。

4、然而，传统的时空预测模型在处理雷达回波数据时，常常难以同时满足这两方面的需求；且现有模型在全局时间变化特征和局部稳定特征处理过程中，往往面临信息丢失、冗余计算等问题，导致预测性能难以提升。因此，有必要提供一种混合注意力机制驱动的预测模型，能够有效捕捉雷达回波数据中的时空变化特征，提升预测的精度和效率。

技术实现思路

1、本发明的目的是提供一种基于混合注意力机制驱动模型的降水预测方法，能够效地捕捉雷达回波数据中的时空变化特征。

2、为实现上述目的，本发明提供一种基于混合注意力机制驱动模型的降水预测方法，包括：

3、首先，基于mim模型，引入自注意力机制和局部注意力机制，分别构建sa-mimn模块和la-mims模块，建立混合注意力机制驱动模型；

4、接着，利用时空lstm模型初步获取观测降水序列的初始隐藏状态，并将其作为sa-mimn模块的输入，通过自注意力机制处理后，利用门控制机制进行信息传递和更新，获取差分特征的时间变化特征；

5、然后，利用la-mims模块对细胞状态进行局部注意力计算，得到相应的局部注意力特征，再通过门控机制进行信息传递和更新，获得观测降水序列的平稳特征，进而得到预测的降水序列。

6、优选的，sa-mimn模块包括自注意力机制和mimn模块；其中，自注意力机制用于区分时空信息的重要性，mimn模块用于学习差分特征的时间变化特征。

7、优选的，通过自注意力机制机制处理包括：首先，将隐藏状态转化为query、key和value向量；再计算中各元素的注意力分数，进而获得相应的权重向量；然后，加权求和得到自注意力特征，并将其与原始特征进行融合。

8、优选的，mimn模块以自注意力机制处理后隐藏特征的差分特征作为输入，通过门控制机制学习其时间变化特征。

9、优选的，在sa-mimn模块中，通过门控机制进行信息传递和更新，表达式如下：

10、

11、式中，t表示时间步，l表示网络层数，h表示隐藏状态，表示自注意力机制处理后的隐藏状态，n表示在时间变化模块中水平移动的存储单元，d表示学习到的差分特征，wx、wn为相应特征的融合权重，sa表示自注意力机制，σ表示sigmoid激活函数，*表示卷积，⊙表示hadamard乘积，i为输入门，f为遗忘门，o为输出门。

12、优选的，在la-mims模块中，通过门控机制进行信息传递和更新，表达式如下：

13、

14、式中，c表示存储单元状态，s表示平稳特征的存储单元，t表示预测的降水时空序列，wd、wc、ws分别为对应特征的融合权重，la表示局部注意力机制。

15、因此，本发明采用上述一种基于混合注意力机制驱动模型的降水预测方法，具有以下技术效果：

16、(1)引入自注意力机制，使得模型能够自适应地调整不同时间步和空间位置的权重，从而更精准地提取时间变化特征。

17、(2)引入局部注意力机制，使模型集中关注局部区域的特征关系，提高稳定特征的捕捉能力，同时减少计算复杂性。

18、(3)通过结合双重注意力机制，有效地平衡时间变化特征和平稳特征的重要性，不仅提升了模型的预测能力，还增强了其稳定性和时效性，

19、下面通过附图和实施例，对本发明的技术方案做进一步的详细描述。

技术特征：

1.一种基于混合注意力机制驱动模型的降水预测方法，其特征在于，包括：

2.根据权利要求1所述的一种基于混合注意力机制驱动模型的降水预测方法，其特征在于，sa-mimn模块包括自注意力机制和mimn模块；其中，自注意力机制用于区分时空信息的重要性，mimn模块用于学习差分特征的时间变化特征。

3.根据权利要求1所述的一种基于混合注意力机制驱动模型的降水预测方法，其特征在于，通过自注意力机制机制处理包括：首先，将隐藏状态转化为query、key和value向量；再计算中各元素的注意力分数，进而获得相应的权重向量；然后，加权求和得到自注意力特征，并将其与原始特征进行融合。

4.根据权利要求2所述的一种基于混合注意力机制驱动模型的降水预测方法，其特征在于，mimn模块以自注意力机制处理后隐藏特征的差分特征作为输入，通过门控制机制学习其时间变化特征。

5.根据权利要求1所述的一种基于混合注意力机制驱动模型的降水预测方法，其特征在于，在sa-mimn模块中，通过门控机制进行信息传递和更新，表达式如下：

6.根据权利要求1所述的一种基于混合注意力机制驱动模型的降水预测方法，其特征在于，在la-mims模块中，通过门控机制进行信息传递和更新，表达式如下：

技术总结
本发明公开了一种基于混合注意力机制驱动模型的降水预测方法，涉及降水预测技术领域，包括首先引入自注意力机制和局部注意力机制，基于MIM模型建立混合注意力机制驱动模型，包含SA‑MIMN模块和LA‑MIMS模块；接着，获取观测降水序列的初始隐藏状态，并将其作为SA‑MIMN模块的输入，获取差分特征的时间变化特征；然后，利用LA‑MIMS模块，获得观测降水序列的平稳特征，进而得到预测的降水序列。因此，采用上述一种基于混合注意力机制驱动模型的降水预测方法，能够有效地平衡时间变化特征和平稳特征的重要性，实现对降水序列的时空变化特征进行预测，提升预测的准确性、稳定性和时效性。

技术研发人员：渠连恩,高雅婷,胡强,赵珊,张鹏飞,叶臣,任志考
受保护的技术使用者：新疆工程学院
技术研发日：
技术公布日：2025/4/7