关键词:批量场景;流计算;混合存储
智能电网内产生的时序数据具备实时性、无序性与规模性等方面的特征,作为重要的物联网应用形式,可以对时序数据进行更全面的采集与调度,实现配电自动化的智能管理目标。在设计时序数据智能电网系统时,应将大数据、物联平台、移动互联以及云计算等技术创新融合起来,利用高效、实时的状态数据处理系统,为电网运行状态的全面、动态控制奠定技术基础。
一、时序大数据在智能电网平台的运行特点
1、数据集的规模较大
在智能电网各个运行环节产生的时序数据可以达到千万级速率以上,每个系统数据流量测点以分钟甚至是秒级为单位,产生海量的数据。因此时序大数据监测数据处理的速率要求较高。由于智能电网平台互联、信息交互的速率高,数据规模呈现爆炸式增长趋势,需要建立起针对性的大数据处理系统。此外,社会发展离不开电力能源的支持,电力网络的建设进入了快速发展的时期,电力单位不仅需要保证电力供应稳定,同时也需要通过智能电网系统对输配电系统进行安全防护,最大限度的避免电力系统的故障风险。
2、实时的数据处理需求
智能电网平台中广域状态检测模块、调度与配电自动化模块等,都需要实时性数据处理技术支持,才能保证处理需求被满足。以WAMS为例,处理需求的事件率超过1千万/秒,常规的数据处理方式根本无法应对此处理挑战。
3、访问数据的形式多变
在电力系统中产生的时序大数据不仅是系统运行状态的重要数据反馈,同时,通过数据对比还会对异常数据进行识别,通过快速的访问、分析,对监督管理中心进行预警。由于业务需求的差异性,访问数据的形式多变,现阶段时序数据的存储系统针对性不强,还有着一定的改进空间。
二、以时序大数据为管理对象的智能电网系统设计
1、系统运行架构
在系统的最前端设置采集模块,选择集群的形式进行布置,对平台数据进行实时、高速采集。采集模块的应用场景不同,设置的主题与任务也存在差异。在采集时序数据的过程中,应在对应场景策略的指导下,通过智能电网平台对时序数据的具体应用场景进行分析。通常情况下,主题场景分为两种:批量场景、快照场景。前者反映一段时间内同一个测点产生的数据;后者反映同一时间段一批测点产生的数据。
期刊文章分类查询,尽在期刊图书馆
在智能电网的状态管理中,批量场景主要用于设备状态检测、用户用电行为分析等场景,快照场景主要用于仿真反演、电量计算等场景。对不同场景采集到的时序数据进行实时、动态的分析。智能电网的实时时序处理系统中,通常设置了三种形式的实时处理机制,即批量与快照预处理及实时统计。批量与快照场景的预处理将采集的数据格式进行处理,使其适用于加载模式。而数据统计处理通常是以监测数据为对象的,在完成采集、预处理及加载处理后,选择混合模型进行存储。对于批量场景采用键值模型存储;对于快照场景采用实体关系模型存储,并根据实际访问方式,设计了适于电网应用的数据表模式。系统整体构架见下图1。
图1 系统整体构架
2、时序数据的缓冲、采集
在数据采集模块主要利用DB_Value结构对数据进行存储。这一存储结构设置列一定的缓冲队列,按照“先进先出”的原则,由对应的实时处理流程进行消费。时序数据的采集分为主动式和被动式两种。由于主动式的时序数据采集通常需要按照特定的协议进行,与设备进行直接对接,因此本文主要讨论被动式的数据采集系统。被动采集系统利用外部系统对时序数据进行采集、提交处理,系统按场景提供了批量提交接口与快照提交接口,同时实现了客户端缓存、场景模式校验等功能。其中,系统客户端的缓存数据主要为广域网络故障的错误处理提供支持,在客户端存储部分状态数据,对电网运行状态进行自动监测,然后在网络故障问题解决后进行续传。场景模式下的校验操作主要是对验证数据与场景数据的匹配度进行检测,保证数据传输的接口准确。
3、以流计算为基础处理时序大数据
本文介绍的系统是以Storm为计算基础对时序大数据进行处理。一个流计算程序可以被视为一个独立的拓扑系统。其中,Spout可以输入各种类型的数据源,然后以Bolt为阶段,处理时序数据,然后依照业务需求的不同,可定制不同的Spout与Bolt,Storm提供了一个灵活的可扩展变成框架,可用于针对不同的业务场景定制处理流程。对应的数据处理节点Bolt对数据进行处理,形成符合业务需求的存储格式,然后对数据进行加载。在系统实际运行的过程中,可以在拓扑结构的Spout流程中的任意位置添加处理节点,完成面向电网应用的实时数据分析,如设备状态监测预警、用户用电行为实时监测、窃电行为分析、实时负荷分析等。
4、时序大数据的混合存储方式
智能电网的运行系统存在批量场景与快照管理场景,产生的时序数据需要依照业务范围、性质的不同进行存储,由于二者的访问维度存在区别,而传统硬盘存储的寻址模式无法提供统一的模型存储数据,因此,需要建立起混合存储的结构模型。
结语:智能电网作为典型的物联技术应用形式,不同的电力运行环节产生的时序大数据存在规模大、实时性强、访问形式多变等特点,应结合具体的业务形式,建立起针对性的缓存采集、流计算数据处理及混合时序数据存储模型,提升对电网状态监测大数据的存储、处理、计算功能,为智能电网系统的深入、广泛应用奠定基础。
参考文献:
[1]姜文婷,林少锐,廖颖茜.SAS:用于智能电网安全的移动内生大数据态势感知系统[J].成都信息工程大学学报,2018(3);
[2]童存智,武江,詹文达,etal.基于智能电网调控技术支持系统的设备监控大数据分析[J].农村电气化,2018(6);
[3]李建锦,罗凡,李竣业,etal.智能电网大数据去隐私化加密提取模型构建[J].电力信息与通信技术,2019(6).
论文作者:梁国迪
论文发表刊物:《中国电业》2019年第19期
论文发表时间:2020/1/14
标签:数据论文; 时序论文; 电网论文; 场景论文; 系统论文; 智能论文; 实时论文; 《中国电业》2019年第19期论文;