电力系统及其自动化学报Proceedings of the CSU -EPSA
第33卷第4期2021年4月
Vol.33No.4Apr.
2021
基于LSTM 网络的时间多尺度电采暖负荷预测
李香龙1,马龙飞1,赵向阳2,朱洁1,徐振华1
(1.国网北京市电力公司,北京100075;
2.北京航空航天大学自动化科学与电气工程学院,北京100191)
摘要:电采暖负荷的准确预测对配电网安全稳定运行具有重要作用。为提高电采暖负荷预测精度,提出基于长短期记忆网络的时间多尺度电采暖负荷预测方法。该方法首先确定负荷预测网络模型参数,通过分析不同时间尺度下的电采暖负荷数据特征,在不同训练步长下,建立基于长短期记忆网络的电采暖负荷预测模型,实现电采暖负荷的准确预测。采用北京某地的电采暖负荷实测数据进行验证,结果表明在不同的时间尺度下,长短期记忆网络均能够实现电采暖负荷的准确预测。
关键词:电采暖负荷预测;时间多尺度;长短期记忆神经网络;训练步长中图分类号:TM72
文献标志码:A
文章编号:1003-8930(2021)04-0071-05
DOI :10.19635/jki.csu -epsa.000463
Multi -time Scale Electric Heating Load Forecasting Based on Long Short -term
Memory Network
LI Xianglong 1,MA Longfei 1,ZHAO Xiangyang 2,ZHU Jie 1,XU Zhenhua 1
(1.State Grid Beijing Electric Power Company ,Beijing 100075,China ;2.School of Automation Science and Electrical Engineering ,Beihang University ,Beijing 100191,China )
Abstract:The accurate forecasting of electric heating load plays an important role in the safe and stable operation of dis⁃tribution network.To improve the forecasting accuracy ,a long short -term memory (LSTM )network based multi time -scale electric heating load forecasting method is prop
osed in this paper.First ,the parameters of the load forecasting net⁃work model are determined.Then ,by analyzing the characteristics of electric heating load data at different time scales ,
an electric heating load forecasting model based on the LSTM network is established to realize an accurate prediction of electric heating load.The measurement data of electric heating load from one region in Beijing are used to verify the pro⁃posed forecasting method ,indicating that the LSTM network can accurately predict the electric heating load at different time scales.
Keywords:electric heating load forecasting ;multi -time scale ;long short -term memory (LSTM )network ;training step 为解决北方冬季燃煤供暖引起的空气污染问题,电采暖设备应用越来越广泛。其中,北京农村供暖建筑保温性差,相比于城镇供暖耗能更高。北京农村地区住房供暖面积近年来增长迅速,从2006年
农村住宅面积1×108m 2增加到2014年1.5×108m 2,平均年增长率为5.2%。针对日益增长的农村供暖需求问题,北京市提出“煤改电”计划,2017年完成20.5万户“煤改电”改造任务。“煤改电”计划的大范围推广,使得冬季电力负荷峰谷差进一步增大,严重危害电网安全稳定运行。准确的电采暖负荷预测不仅能够保证电力系统的经济稳定运行,同时对电力系统的调峰及调频功能具有重要作用[1]。
负荷预测是根据历史负荷、天气等数据,分析
负荷相关历史数据变化对未来负荷变化的影响规律,实现负荷准确预测[2]。传统的电力负荷预测算法包括有人工神经网络ANN (artificial neural net⁃
work )[3]、支撑向量机SVM (support vector machine )[4]
、
小波分析[5-6]和灰神经网络[7]等预测算法。这类算法采集历史负荷功率和气温等数据,通过数据训练和学习实现负荷预测。但是对负荷预测模型输入缺乏深入讨论,且没有考虑电力负荷数据的时间序列特性,仅仅是利用算法自身结构训练学习数据,基于统计理论的外推特性进行预测,导致模型的预测精度不够好。电力负荷是一种负荷数据之间存在较强关联的时间序列,仅将当前时刻历史数据信息作为人工智能算法的输入是不够的,这样必然会使得模
收稿日期:2019-12-13;修回日期:2020-04-23
网络出版时间:2020-05-2615:14:24
电力系统及其自动化学报
·72·第4期
型训练丢失部分信息,导致模型的预测误差较大。
对时间序列数据的学习,目前较成熟的学习算法有递归神经网络RNN(recurrent neural network)[8]和长短期记忆LSTM(long short-term memory)网络[9]等,采用RNN和LSTM网络进行负荷预测均考虑电采暖负荷序列之间的影响和其他因素的影响。
RNN由于训练过程容易出现梯度消失和梯度爆炸等问题[10-11],容易陷入局部优化的困境,因此模型训练效果较差。LSTM网络基于RNN通过改进自身网络结构,有效解决了梯度消失和爆炸问题。目前LSTM网络在图像识别[12]、声音识别[13]等诸多前沿领域已有广泛研究,并取得了一定的成果和应用。在电力负荷预测中,LSTM网络也取得了一定的研究成果。文献[14]采用收敛交叉映射方法和LSTM神经网络模型实现城市用电量预测,结合动力系统理论,采用连续导通模式CCM(continuous conduction mode)方法研究了用电量和温度、风速、相对湿度等因素之间的内在联系,建立LSTM神经网络模型,并对城市用电量进行了预测,结果具有较好的精度。文献[15]采用LSTM网络预测风力发电功率并与ANN和SVM网络预测模型比较,得出采用LSTM网络预测效果更优。同时也有学者基于LSTM网络模型对短期电力负荷进行预测,预测精度较好[16-19]。但是上述研究均采用LSTM网络建模和数据的训练学习,在搭建网络结构时,缺乏对网络结构参数的详细讨论,在选择LSTM网络训练数
据的训练步长上缺少研究说明,也没有讨论不同的采样时间间隔的负荷数据下,训练步长对预测效果的影响。
本文提出一种基于LSTM网络的多时间尺度电采暖负荷预测方法。为研究电采暖负荷时间序列特征和深入挖掘电采暖负荷数据信息,针对不同采样间隔的电采暖负荷数据建立LSTM网络预测模型,通过设置不同的训练步长,比较分析得到预测效果较佳的训练步长。采用北京电力科学研究院提供的2016年度电采暖负荷实测数据进行训练。预测结果表明,不同的采样间隔下,随着训练步长的增加,LSTM网络模型预测效果更好。在合适的训练步长下,采用LSTM网络进行电采暖负荷预测较ANN、SVM负荷预测效果更优。
1电采暖负荷
与一般电力负荷不同,电采暖负荷类似夏季的空调制冷负荷,不仅具有明显的季节气候特性,受气温变化影响显著,而且具有较强的时序特征。常见的电采暖方式包括直热式、蓄热式和空气源热泵设备供暖。电采暖负荷变化影响因素主要包括环境气温变化、用户采暖用电习惯、区域电采暖设备规模和建筑热力学状态[20-22]。用户采暖用电习惯主要指用户采暖方式和采暖设备设定温度大小。用户采暖方式为直热式、蓄热式、空气源热泵设备一种或几种的组合方式。建筑热力学状态主要包括建筑房间的等效热容、等效热阻和散热功率等。
影响电采暖负荷变化的信息是难以定量描述,但是前后时刻有一定的关联,表现出较强的时间关联特性,采用LSTM网络预测电采暖负荷具有明显的优势。当电力负荷中存在多种负荷时,由于大部分电力负荷均表现有一定的时间关联特性,以及强弱不同关联特性,因此,采用LSTM网络对存在多种负荷序列进行训练,仍能达到较优预测效果。
2LSTM网络
LSTM网络包括输入层、输出层和隐含层,隐含层是由重复的具有独特记忆功能的LSTM单元通过链条的关系连在一起的。LSTM单元结构[15,19]如图1所示。
在图1中,每个LSTM单元结构包含了4个部分,分别为遗忘门f t、输入门i t、输出门o t和记忆单元c t。具体网络数据训练过程包括:首先,在t时刻,3个门接收输入当前时刻状态x t、上一时刻LSTM隐藏状态h t-1和记忆单元状态c t的信息;然后,对该接收信息进行处理运算,逻辑函数确定其是否激活;接着,将输入门的处理结果与遗忘门的处理结果进行叠加,产生新的记忆单元状态c t;最后,通过输出门非线性运算得到最终的输出结果h t。各个过程具体运算可表示为
i
t=σ(W i[h t-1,x t,c t-1]+b i)(1)
f
t=σ(W f[h t-1,x t,c t-1]+b f)(2)
图1LSTM单元结构
Fig.1Structure of LSTM unit
x
t
x
t
x
t
f
t
h
t
i
t
C
t
σ×σ
×
×
O
t
x
t
英语教育专业李香龙等:基于LSTM网络的时间多尺度电采暖负荷预测·73·第33卷
c
t=f t c t-1+i t tanh(W c[h t-1,x t]+b c)(3)o
t=σ(W o[h t-1,x t,c t-1]+b o)(4)h
t=o t tanh(c t)(5)式中:σ为sigmoid或tanh函数;W i、W f、W c、W o分别为输入门、遗忘门、记忆单元和输出门的节点权重矩阵;b i、b f、b c、b o分别为输入门、遗忘门、记忆单元和输出门节点阈值矩阵。
3网络预测模型
3.1模型参数
确定电采暖负荷预测模型的网络输入,需要明确影响电采暖负荷变化的影响因素。考虑电采暖负荷特点,LSTM网络电采暖负荷预测模型的输入为室外温度和电采暖负荷,输出为电采暖负荷预测时刻的功率。
3.2网络参数
LSTM网络参数包括训练步长、输入层节点个数、隐含层层数和输出层维数。
数据训练步长的确定既要保证所需预测信息的完备性,又要考虑模型训练的有效性。因此,对于输入层的训练步长的确定,一般采用经验和尝试比较相结合的方法,经过多次不同步长的训练效果对比,从而获得最佳的训练步长。训练步长过长会使得模型变得复杂,预测效果变差;训练步长过短则使得输入数据信息部分缺失,预测精度下降。本文对不同采样时间间隔的数据集,在不同的训练步长的条件下进行分析比较。在不同的采样时间间隔及不同的训练步长下,网络得到训练效果均不相同。
输入层节点个数为输入数据的维数。对于LSTM网络,每个隐含层即为1个LSTM单元,因此隐含层层数为LSTM层单元个数。随着LSTM单元个数的增加,理论上网络预测泛化能力随之提升,但是网络训练复杂度和训练时长等也会增大,模型成本也随之增加。根据文献[23]中对网络隐层层数的研究,电力负荷预测使用两层隐层的LSTM模型能够获得较好的网络预测效果。
输出层维数即为输出变量维数[24],也为电采暖负荷功率,因此输出层维数为1。
4算例分析
4.1数据资料
使用LSTM网络首先需要确定训练数据集,采用北京某地区2016年12月15日―2017年2月16日时间段的电采暖负荷数据,数据包括日期时间、室外温度和电采暖负荷功率。该地区包含用户134户,电采暖设备额定功率2.5kW,数据采样间隔为
10min,共计9072组数据,将前53d数据作为训练集,后10d作为测试集。
4.2预测结果
采用均方根误差RMSE(root mean square error)评估预测结果的绝对误差水平,并比较不同采样间隔及不同训练步长下的预测结果。选取其中超短期电力负荷预测中的典型采样时间间隔10min、20min、30min、40min和60min进行预测分析。
不同采样间隔和不同训练步长下的预测结果评估指标RMSE分布见图2。
由图2可知,当采样间隔相同时,随着网络训练步长的增加,网络预测结果误差减小;当数据采样时间间隔增大时,预测结果误差逐渐增大。例如:采样间隔为30min,1~10步长预测结果RMSE 下降3.4
7%,最大下降13.88%;当训练步长为7时,10~60min采样间隔预测结果RMSE增加2.21%,最大增加3.56%。由于电采暖负荷数据具有较强时间关联性,增大网络训练步长,能够进一步增加网络输入信息量,提高网络训练效果,减小预测误差。随着采样间隔增大,数据之间关联性减弱,负荷数据之间时间关联性减弱,网络训练效果减弱,预测结果误差增大。
理论上,训练步长越大,网络训练效果越好,但是同时也会导致网络训练成本增加,模型计算量和复杂度增加。因此将模型训练时长作为模型的训练成本描述量。图3为不同训练步长及不同采样间隔下的模型训练时长分布。
图2RMSE分布
Fig.2Distribution of RMSE
0.11
0.10
0.09
0.08
0.07
0.06
R
M
S
E
/
k
W
1
训练步长
210
3456789
间隔60min
间隔40min
间隔30min
间隔10min
间隔20min
图3训练时长
Fig.3Training time
7
6
天气变冷短信
5
4
3
训
练
时
长
/
s
1
训练步长/个
210
3456789
间隔60min
间隔30min
间隔40min
间隔10min
间隔20min
电力系统及其自动化学报·74·
第4期
为确定在不同采样间隔条件下合适的网络训练步长,在训练步长增加情况下,将预测结果RMSE 的减小量百分比与网络训练成本的增加量百分比的比值作为衡量网络预测的性能指标。即在较优的训练步长情况下,进一步增大训练步长,RMSE 减小不显著,而网络训练成本增加显著,则认为此时的
训练步长为较优训练步长。评价网络性能指标ε为εi =t i -t i -1RMSE i -1-RMSE i RMSE i -1
t i -1(6)式中:t 为网络训练时长;i 为训练步长。图4为不同训练步长及不同采样间隔下网络
性能指标分布。
由图4可知,当采样间隔为20min 时,训练步长
由9增加至10,训练时长由0.0042s 增加至0.0246s ,
训练误差由0.0059减小至0.0024,网络性能指标ε
由0.7129增加至10.3131;当训练步长小于9时,单位训练步长网络性能指标平均增加量为0.0959,最大增加为0.2920。可见,最优训练步长为9,此时继续增加训练步长,网络预测结果RMSE 减小不显著,网络训练时长增加显著。同样可以得到,当采样间隔分别为30min 、40min 、60min 时,网络训练步长较优值分别为9、7、7。由此可以看出,在一定采样时间间隔范围内,随着采样时间间隔的增大,单纯的增加训练步长对网络性能提高并不明显,适当减小训练步长能够获得更好的网络训练效果。山花红烂漫
在不同采样间隔下,采用LSTM 网络预测结果与采用ANN 、SVM 网络预测结果对比见表1。其中,当
采样间隔为10min 时,训练步长为10;当采样间隔为20min 和30min 时,训练步长为9;当采样间隔为40min 和60min 时,训练步长为7。
根据表1可知,当采样间隔为30min 时,采用
LSTM 网络预测结果RMSE 较ANN 、SVM 分别下降了36.4%和14.2%;当采样间隔为60min 时,LSTM 预测结果RMSE 较ANN 、SVM 分别下降了34%和19.6%。因此,可以认为在合适的训练步长下,采用LSTM 网络进行电采暖负荷预测效果较采用ANN
和SVM 网络得到的误差更小,模型训练效果更优。
5结论
本文采用LSTM 网络训练学习能够进一步挖掘电采暖负荷数据中的信息,算例结果表明:
(1)电采暖负荷数据具有较强的时间关联特性,增加训练步长能够增加网络输入信息量,挖掘更多的数据信息,从而提高LSTM 网络预测结果精度;
(2)增加采样时间间隔,由于相邻两个数据点之间的不确定信息增多,数据之间时间关联性减弱,因此在相同的训练步长下网络预测精度提高不明显,网络训练时长增加显著,网络训练和预测性能降低,此时适当减小网络训练步长能够使网络性能更优;
新车选购(3)在合适的训练步长条件下,采用LSTM 网络
的电采暖负荷预测效果较ANN 、SVM 网络更优,预
测结果误差更小。
参考文献:
[1]
2022年教师节是第几个教师节刘振亚.智能电网[M].北京:中国电力出版社,2010.[2]康重庆,夏清,刘梅.电力系统负荷预测[M].北京:中国电力出版社,2007.[3]
王黎明,王艳松,魏志远(Wang Liming ,Wang Yansong ,Wei Zhiyuan ).基于回归分析与神经网络的短期负荷预测(Short -term load forecasting algorithm based on regres⁃sion analysis and the combination of genetic algorithm and neural network )[J].电气应用(Electrotechnical Ap⁃plication ),2007,26(11):37-39.[4]
陆宁,武本令,刘颖(Lu Ning ,Wu Benling ,Liu Ying ).基于自适应粒子优化的SVM 模型在负荷预测中的应用(Application of support vector machine model in load forecasting based on adaptive
particle swarm optimiza⁃tion )[J].电力系统保护与控制(Power System Protection and Control ),2011,39(15):43-46,51.[5]
邰能灵,侯志俭,李涛,等(Tai Nengling ,Hou Zhijian ,Li Tao ,et al ).基于小波分析的电力系统短期负荷预测方法(New principle based on wavelet transform for power system short -term load forecasting )[J].中国电机工程学报(Proceedings of the CSEE ),2003,23(1):45-50.[6]
宋超,黄民翔,叶剑斌(Song Chao ,Huang Mingxiang ,Ye Jianbin ).小波分析方法在电力系统短期负荷预测中的应用(The application and problems of wavelets used in
图4
LSTM 网络性能指标
Fig.4
Performance index of LSTM network
2520151050
网络性能指标
2
训练步长
10
3
4
5
6
7
8
9
间隔60min
间隔30min 间隔40min 间隔10min
间隔20min 表1
LSTM 与ANN 、SVM 结果对比
Tab.1
Comparison of result among LSTM ,ANN ,and
SVM models
网络模型LSTM ANN SVM
不同采样时间间隔的预测结果10min 0.06350.09650.0781
20min 0.07640.11300.089430min 0.07800.12270.090940min 0.08040.12500.1020
60min
0.08370.12690.1041
李香龙等:基于LSTM网络的时间多尺度电采暖负荷预测·75·第33卷
short-term power load forecasting)[J].电力系统及其自动
化学报(Proceedings of The CSU-EPSA),2002,14(3):9-11.
[7]焦润海,苏辰隽,林碧英,等(Jiao Runhai,Su Chenjun,Lin Biying,et al).基于气象信息因素修正的灰短期
负荷预测模型(Short term load forecasting by grey model with weather factor based correction)[J].电网技术(Pow⁃er System Technology),2013,37(3):721-724. [8]Jordan M I.Serial order:A parallel distributed processing approach[J].Advanced in Psychology,1997,121(4):471-495.
[9]Zeyer A,Doetsch P,Voigtlaender P,et al.A comprehen⁃sive study of deep bidirectional LSTM RNNS for acoustic modeling in speech recognition[C]//IEEE International Conference on Acoustics,Speech and Signal Processing. New Orleans,USA,2017:2462-2466.
什么护肤品比较好[10]Xie Xiurui,Liu Guisong,Cai Qing,et al.Multi-source se⁃quential knowledge regression by using transfer RNN units [J].Neural Networks,2019,119:151-161. [11]Bengio Y,Simard P,Frasconi P.Learning long-term de⁃pendencies with gradient descent is difficult[J].IEEE Trans on Neur
al Networks,1994,5(2):157-166. [12]Gao Lianli,Guo Zhao,Zhang Hanwang,et al.Video cap⁃tioning with attention-based LSTM and Semantic consis⁃tency[J].IEEE Trans on Multimedia,2017,19(9):2045-2055.
[13]Song Eunwoo,Soong F K,Kang Hong-Goo.Effective spec⁃tral and excitation modeling techniques for LSTM-RNN-Based speech synthesis systems[J].IEEE/ACM Trans on Audio,Speech and Language Processing,2017,25(11):2152-2161.
[14]徐尧强,方乐恒,赵东华,等(Xu Yaoqiang,Fang Le⁃heng,Zhao Donghua,et al).基于LSTM神经网络的用电
量预测(Electricity consumption prediction based on LSTM neural networ-ks)[J].电力大数据(Power Systems and Big Data),2017,20(9):25-27.
[15]朱乔木,李宏毅,王子琪,等(Zhu Qiaomu,Li Hongyi,Wang Ziqi,et al).基于长短期记忆网络的风电场发电
功率超短期预测(Short-term wind power forecasting based on LSTM)[J].电网技术(Power System Technolo⁃gy),2017,41(12):3797-3802.
[16]陈卓,孙龙祥(Chen Zhuo,Sun Longxiang).基于深度学
习LSTM网络的短期电力负荷预测方法(Short-term electrical load forecasting based on deep learning LSTM networks)[J].电子技术(Electronic Technology),2018(1):39-41.
[17]陈亮,王震,王刚(Chen Liang,Wang Zhen,Wang Gang).
深度学习框架下LSTM网络在短期电力负荷预测中的
应用(Application of LSTM networks in short-term power load forecasting under the deep learning framework)[J].电
力信息与通信技术(Electric Power Information and Com⁃munication Technology),2017,15(5):8-10. [18]张宇航,邱才明,贺兴,等(Zhang Yuhang,Qiu Caiming,He Xing,et al).一种基于LSTM神经网络的短期电力负
荷预测方法(A short-term load forecasting based on LSTM neural network)[J].电力信息与通信技术(Elec⁃tric Power Information and Communication Technology),2017,15(9):20-24.
[19]Srivastava N,Mansimov E,Salakhutdinov R.Unsuper⁃vised learning of video representations u
sing LSTMs[C]// 32nd International Conference on Machine Learning.Lile,France,2015:843-852.
[20]董玉军,黄东,袁秀玲(Dong Yujun,Huang Dong,Yuan Xiuling).空气源热泵冷热水机组的系统仿真与实验研
究(Numerical simulation and experimental investigation on air source heat pump chiller)[J].制冷与空调(Refrig⁃eration and Air-conditioning),2006,6(5):52-57. [21]柴沁虎,马国远(Chai Qinhu,Ma Guoyuan).空气源热泵
低温适应性研究的现状及进展(State of knowledge and current challenges in the ASHP developed for the cold ar⁃eas)[J].能源工程(Energy Engineering),2002,9(5):25-31.
[22]饶荣水(Rao Rongshui).制冷剂R32特性及其用于空气
源热泵热水器的理论循环分析(Properties of R32and its theoretical cycle analysis of air source heat pump wa⁃ter heater)[J].制冷与空调(Refrigeration and Air-Condi⁃tioning),2010,10(3):79-84.
[23]梁振宇(Liang Zhenyu).基于递归神经网络的负荷预测
模型与用电规划(The Load Forecasting of Campus Based on Recurrent Neural Networks and Electricity Plan⁃ning)[D].广州:华南理工大学(Guangzhou:South China University of Technology),2017.
[24]李宏伟,潘志远,王婧,等(Li Hongwei,Pan Zhiyuan,Wang Jing,et al).考虑分布式电源的弱环配电网潮流
计算方法(Power flow calculation method for weakly looped distribution network with distributed generations)[J].电力系统及其自动化学报(Proceedings of the CSU-EPSA),2018,30(7):73-77,116.
————————
作者简介:
李香龙(1980—),男,硕士,高级工程师,研究方向为电动汽车能源补给、节能与新能源应用。Email:**************
马龙飞(1987—),男,通信作者,硕士,高级工程师,研究方向为电力电子技术。Email:*********************
赵向阳(1967—),男,博士,副教授,研究方向为分布式发电与微电网技术。Email:**********************
版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198,我们将在24小时内删除。
发表评论