基于CSWOA-TPA-BiGRU的短期电力负荷预测模型

本发明涉及新能源消纳领域，特别是一种基于cswoa-tpa-bigru的短期电力负荷预测模型。

背景技术：

1、电力系统的运行特性和能源结构面临更深层次的变革，协调支撑多种清洁能源消纳成为当下重要课题。准确且可靠的电力负荷预测成为妥善安排电力生产计划、维持市场供需稳定、提高新能源利用效率以及保持系统安全稳定运行的关键技术。传统的神经网络在学习负荷的非线性特征方面表现较好，但存在无法学习负荷的时序性特征，需要人为预先选择时间特征的缺点，可能导致预测精度不高。双向门控循环网络(bidirectionalgated recurrent unit,bigru)是一种有效的循环神经网络，它能够学习数据的非线性特性以及时序性特征。但bigru仅仅考虑历史时期负荷的影响，而电力负荷不仅受历史时期负荷的影响，同时与未来时期负荷影响因素相关联，并且bigru不能充分提取负荷特征数据之间的潜在关系。而时间模式注意力机制(temporal pattern attention,tpa)可以提取多元时间序列之间的内因约束，同时对不同因素的不同时间步长进行合理的权重分配，提升预测性能。为此，本发明提出了一种利用纵横交叉鲸鱼算法(crisscross whaleoptimization algorithm,cswoa)优化时间模式注意力机制-双向门控循环单元tpa-bigru全连接层权值和偏置参数的cswoa-tpa-bigru短期负荷预测模型,可以有效避免模型陷入局部最优，进一步提升负荷预测的精度。

技术实现思路

1、为实现上述目的，本发明所提供的技术方案为：

2、一种基于cswoa-tpa-bigru的短期电力负荷预测模型，包括以下步骤：

3、s1：建立双向门控循环单元bigru预测模型，提取数据中的时间序列特征；

4、s2：在双向门控循环单元bigru模型的输出端引入时间模式注意力机制tpa，分析多元时间序列之间的内在联系；

5、s3：提出一种纵横交叉鲸鱼算法cswoa，利用纵横交叉算法cso对鲸鱼算法woa的更新机制进行改进，改善其面对高维寻优问题时的优化性能和收敛精度，并利用纵横交叉鲸鱼算法cswoa对已训练好的双向门控循环单元bigru的权重和偏置参数进行微调；

6、进一步地，所述步骤s1的步骤如下：

7、s1-1：门控循环单元gru网络由重置门rt和更新门zt构成，其中更新门zt表示t-1时刻隐藏层神经元输出向量ht-1对t时刻隐藏层神经元的影响程度，更新门zt值越大影响程度越大；重制门rt表示t-1时刻隐藏层神经元输出被忽略的程度，重制门rt值越大被忽略的信息则越少，门控循环单元gru内部的数学关系为：

8、

9、式(1)中，σ是sigmoid激活函数，tanh是双曲正切函数，rt是重置门，zt是更新门，是t时刻正向隐藏层状态向量，是t时刻反向隐藏层状态向量，ht-1是t-1时刻隐藏层神经元输出向量，yt是t时刻输入向量，wry、wrh.是更新门的权重矩阵，wzy、wzh是重置门的权重矩阵，why、whh是隐藏层的权重矩阵，br、bz、bh是偏置向量，⊙表示点乘；

10、s1-2：基于门控循环单元gru网络，引入双向学习策略，即可得双向门控循环单元bigru网络，双向门控循环单元bigru是由方向相反的两组门控循环单元gru组成的神经网络模型，两者的输入向量相同，隐藏层状态的传递方向相反，t时刻隐藏层输出为正向隐藏层状态向量和反向隐藏层状态向量线性叠加而成，其表达式为：

11、

12、式(2)中，xt、ht为t时刻的输入值、隐藏层的输出向量；w1、w2、w3、w4为不同的权重矩阵；f为隐藏层的激活函数；bt′、bt为正向、反向隐藏层偏置向量；⊕表示隐藏层状态的线性叠加；

13、进一步地，所述步骤s2的步骤如下：

14、s2-1：引入时间模式注意力机制tpa，通过给输入层不同时间步与输出层链接赋予不同的权重，以突出强相关因素对预测结果的影响，提高预测的准确性；输入数据经双向门控循环单元bigru处理后，得到时间序列的隐藏特征h＝[ht-w,ht-w+1,…,ht-1]，其中t是时间步长，w是时间序列长度，利用一维卷积提取其中的时间模式矩阵hc，c为卷积核，l为卷积运算中的填充长度，l＝1，2，……，w，得到时间模式矩阵的表达式为：

15、

16、式(3)中，表示第i个行向量和第j个卷积核进行卷积运算的结果，hi,t-w+l是隐藏状态矩阵的第i行向量，cj,t-w+l是卷积核矩阵的第j行向量，t表示卷积核提取权重的最大长度；

17、s2-2：定义g为评估函数，选取sigmoid激活函数作为权重计算的激活函数，得到注意力权重向量αi，通过对时间模式矩阵hc的第i个行向量和注意力权重向量αi加权求和，得到注意力向量vt，将双向门控循环单元bigru隐藏层的输出向量ht和注意力向量vt经过线性映射后相加得到时间模式注意力机制-双向门控循环单元tpa-bigru模型预测输出向量h't，其具体计算过程如下：

18、

19、式(4)中，是时间模式矩阵hc的第i行向量，wa、wh、wv是相应变量的不同权重矩阵，αi是注意力权重向量，vt是注意力向量，h't是时间模式注意力机制-双向门控循环单元tpa-bigru模型的预测输出向量，n是输入变量的特征数，上标t′表示转置；

20、进一步地，所述步骤s3的步骤如下：

21、s3-1：初始化得到鲸鱼种群p以及设置进化次数m，鲸群规模n及其位置范围，确定适应度函数，根据适应度函数得出种群中的最优粒子和各粒子对应的适应度函数值，适应度函数值的计算公式为：

22、

23、式(5)中，g是样本数量，yi是实际输出，是训练输出；

24、s3-2：a为距离控制参数，当|a|≥1时，则鲸鱼算法woa选择式(5)进行位置更新；当|a|＜1时，则鲸鱼算法woa选择式(6)进行位置更新，位置更新后得到子种群s，再次计算相应的适应度值；

25、

26、x(t+1)＝xrand-a|cxrand-x(t)|       (7)

27、式(6)和(7)中，x(t)是鲸鱼t时刻位置向量，x*(t)是鲸鱼当前最佳位置向量，x(t+1)是鲸鱼t+1时刻位置向量，dp是鲸鱼与猎物之间的距离，l是(-1,1)区间内的随机数，b为用于规定螺旋形状的常数，a为距离控制参数，c为随机步长，xrand是随机的鲸群位置向量，p是(0,1)区间内的概率参数；

28、距离控制参数a和随机步长c的定义为：

29、

30、其中：r是[0,1]区间内的随机数，a为线性收敛因子，tmax为最大迭代次数；

31、s3-3：对当前粒子信息归一化后根据式(9)对种群执行纵向交叉，按照纵向交叉概率交换个体内不同维度的信息，反归一化信息后，利用竞争机制留下适应度更好的粒子：

32、msvc(i′,d1)＝r·x(i′,d1)+(1-r)·x(i′,d2)       (9)

33、式(9)中，x(i′,d1)和x(i′,d2)分别为粒子x(i′)的第d1、d2维度，msvc(i′,d1)为父代不同维度纵向交叉产生的趋优值，i′是1和种群规模n之间的随机数，表示种群中第i′个个体的编号，d1、d2是1和种群维度d之间的随机数；

34、s3-4：根据式(10)和(11)对种群进行横向交叉，进一步增强算法对解空间的探索能力，利用竞争机制获得适应度更好的粒子：

35、mshc(i′,d)＝r1·x(i′,d)+(1-r1)·x(j′,d)+c1·(x(i′,d)-x(j′,d))  (10)

36、mshc(j′,d)＝r2·x(j′,d)+(1-r2)·x(i′,d)+c2·(x(j′,d)-x(i′,d))  (11)

37、式(10)、(11)中，r1、r2是[0,1]范围内的随机数，c1、c2是[-1,1]范围内的随机数，且c1、c2所在项为边缘搜索项，i′、j′表示种群中第i′、j′个个体的编号，x(i′,d)和x(j′,d)是进行第d维交叉的父代趋优值，mshc(i′,d)和mshc(j′,d)是两个不同的父代粒子x(i′)和x(j′)在第d维横向交叉产生的子代粒子；

38、s3-5：判断是否达到程序终止条件，若达到，则停止循环，得到时间模式注意力机制-双向门控循环单元tpa-bigru模型全连接层的最优权重系数和偏置参数；否则，继续执行步骤s3-2～s3-5。

39、与现有技术相比，本方案的原理和优点如下：

40、建立双向门控循环单元bigru预测模型，提取数据中的时间序列特征，在双向门控循环单元bigru模型的输出端引入时间模式注意力机制tpa，分析多元时间序列之间的内在联系，提出一种纵横交叉鲸鱼算法cswoa，利用纵横交叉算法cso对鲸鱼算法woa的更新机制进行改进，改善其面对高维寻优问题时的优化性能和收敛精度，并利用纵横交叉鲸鱼算法cswoa对已训练好的双向门控循环单元bigru的权重和偏置参数进行微调。

41、本方案利用cswoa-tpa-bigru进行短期电力负荷预测时，可有效避免模型训练时陷入局部最优，提升负荷预测的精度。