摘要：气体绝缘电器（Gas Insulated Switchgear，GIS）的局部放电（Partial Discharge，PD）模式识别问题中，传统方法多为专家依据经验设计特征，具有一定的盲目性。深度学习可以自动挖掘数据的特征表示，但是需要大规模训练数据。密集连接网络（Densely Connected Convolutional Networks，DenseNet）的特征复用可以充分利用网络低、中、高层的特征信息，同时有效减少冗余特征，更符合本文小规模数据应用。因此，针对超高频信号的模式识别问题，本文提出将超高频信号数据转化为局部放电灰度图，利用密集连接网络自适应抽取放电灰度图的特征进行局部放电模式识别的方法。实验结果表明，本文方法比传统方法和AlexNet具有更高的准确性。
关键词：气体绝缘电器；局部放电；模式识别；放电灰度图；密集连接网络
GIS Partial Discharge Pattern Recognition Based on Densely Connected Networks
Deng Min
Red Phase INC，Xiamen，361005，China
Abstract In the problem of Partial Discharge（PD）pattern recognition in Gas Insulated Switchgear（GIS），traditional methods are mostly based on empirical design features and have certain blindness.Deep learning can automatically mine the feature representation of data，but it requires large-scale training data.Densely Connected Convolutional Networks（DenseNet）feature multiplexing can make full use of the low，middle and high-level feature information of the network，and at the same time effectively reduce the redundant features，which is more consistent with the small-scale data application of this paper.Therefore，for the problem of pattern recognition of UHF signals，this paper proposes to transform the UHF signal data into a partial discharge gray-scale image，and uses a dense connection network to adaptively extract the features of the discharge gray-scale image to perform partial discharge pattern recognition.Experimental results show that this method has higher accuracy than the traditional method and Ale xNet.
Keywords：Gas Insulated Switchgear；Partial Discharge；Pattern Recognition；Partial Discharge Gray-scale Image；DenseNet
气体绝缘组合电器（Gas Insulated Switchgear，GIS）以其使用SF6作为绝缘介质在高压、超高压领域被广泛应用。但是GIS长期工作于高压状态，容易产生局部放电（Partial Discharge，PD）。局部放电是引起GIS绝缘劣化的主要原因，又是表征绝缘状况的重要特征量[1]。因此，开展对GIS的局部放电的研究，区分不同PD故障源，对于保证GIS的安全可靠运行，掌握GIS的绝缘状况及指导GIS的检修工作有着十分重要的意义。
1 局部放电模式识别
目前，对PD的性质、形式和特点的研究表明，不同类型的PD故障会产生不同的电信号，构造局部放电模式是特征量提取的前提[6]。目前常用局部放电模式主要有基于时间的分析模式（Time Resolved Partial Discharge，TRPD）和基于相位的分析模式（Phase Resolved Partial Discharge，PRPD）。TRPD分析模式主要是对局部放电信号的波形进行分析处理，提取信号的时域、频域或其他变换域特征[7]。PRPD分析模式主要是描述局部放电信号所对应的工频相位、脉冲幅值和放电次数三者之间的关系，采用统计特征法、分形特征法[8]和矩特征法[9]等方法从局部放电信号的相位—脉冲幅值和相位—放电次数分布中提取特征量。相比于TRPD分析模式，PRPD分析模式受噪声影响小、稳定性好，在研究中应用更加广泛。因此，本文采用基于PRPD分析模式的特征提取。
在GIS局部放电模式识别问题中，有效提取局部放电信号的分类特征十分重要。当前方法多由专家依据经验设计特征，使得其具有一定的盲目性和不确定性。卷积神经网络（Convolutional Neural Networks，CNN）[10]利用简单的非线性映射，逐层对原始数据进行特征抽取，学习获得原始数据更为本质的特征表达，具有自组织、自适应和自学习的特点，其强大的特征自适应提取能力有效的解决传统局部放电模式识别方法的上述问题。而经典卷积神经网络中，密集连接网络（Densely Connected Convolutional Networks，DenseNet）[11]模型使用特征复用的方法充分利用了网络低、中、高层的特征信息，同时有效的减少了冗余特征，较符合本文小数据量的任务。因此，本文提出了一种基于密集连接单元的GIS局部放电模式识别方法，自动挖掘局部放电信号中蕴藏的模式特征，提高局部放电模式识别性能。
2 基于密集连接网络的局部放电模式识别
2.1 卷积神经网络
卷积神经网络由Yann Lecun首次提出，它是一种模拟大脑神经元分层处理人眼摄入图片流程的深度学习网络结构，通过对输入原始数据进行逐层的特征抽取，学到数据更高层次的抽象表示，自动挖掘原始数据最为本质的特征表示[10]。它是一种多层的非全连接神经网络，基本结构如图1所示，数据由输入层输入网络后经多层卷积层（C）和池化层（S）交替处理，最后使用全连接层（F）提取的特征量进行分类识别[12]。
图1 卷积神经网络基本结构
卷积层为特征提取层，每个神经元的输入与上一层的局部感受野相连，并提取该局部的特征。池化层是特征映射层，目标是为位置和尺寸的改变带来一定程度的不变性。
假设输入为一幅图像X，第l-1层为输入层或池化层，第l层为卷积层，第l+1层为池化层，则卷积层（ 层）的输出为：
2.2 局部放电灰度图
GIS缺陷的局部放电灰度图是利用PRPD数据构造，具体步骤如下：
利用采集到的超高频放电脉冲序列数据构造ϕ-q-n三维图谱，将其投影到ϕ-q平面，即提取其中的工频相位ϕ和放电信号幅值q，将其分别划分为180个小区间和128个小区间，统计每个小区间上的放电次数n。然后根据公式（3）计算各个像素点的灰度值，使灰度图上像素点的灰度值与放电次数n有着良好的映射关系：
图2 GIS_UHF四种典型局部放电的灰度图
图2中，每个像素点的颜色越黑，代表该点发生的放电次数越多。大量局部放电灰度图构造实验证明，四种典型局部放电的灰度图在像素点的灰度、空间位置以及内在结构上具有明显的差异，而同类型的局部放电灰度图具有一定的相似性。近年来，卷积神经网络在语音识别、人脸识别[13]、物体识别、然语言处理等方面获得了重要突破，尤其擅长处理图像的相关机器学习问题。使用卷积神经网络，可以挖掘局部放电灰度图像素点的灰度、空间位置以及内在结构之间存在的更为深层的联系。因此，本文采用卷积神经网路，实现四种典型局部放电的模式识别。
2.3 网络结构设计
对于本文的四种典型局部放电灰度图模式识别任务，非常深的神经网络容易过拟合。密集连接网络通过特征复用，充分利用特征，同时减少了冗余特征，不容易出现性能下降或过拟合。因此，本文提出了一种基于密集连接网络的局部放电类型识别方法，对四种典型局部放电的灰度图进行模式识别。网络结构如图3所示。
图3中，网络首先从输入层输入分辨率180×128的局部放电灰度图，经过卷积层后送入最大池化层，后接密集连接单元1，再经最大池化后输入密集连接单元2。最后送入全局平均池化层，对前面各卷积层提取到的特征进行处理，输出最终的分类结果。下面对本模型的具体结构进行介绍。
（1）密集连接单元
每个密集连接单元由四层卷积网络构成，结构如图4所示。
图4 密集连接单元结构图
密集连接单元的每层输出为：
（2）最大池化层
本文网络使用了两个最大池化层，分别位于第一个卷积层和密集连接单元1之间，密集连接单元1与密集连接单元2之间，旨在通过池化操作将特征图的尺寸缩小为原来的四分之一，使卷积层提取的特征信息更为集中，便于之后的分类工作。
（3）全局平均池化层
为了减低参数数量，提升模型运行速度以及减少因为参数数量过大带来的过拟合的影响，本文网络使用全局平均池化层替代了传统的全连接层，全局平均池化层将上一层卷积层输出的整张特征图进行平均池化计算出一个特征点，最后将上一层所有特征图对应的特征点组成了最后的特征向量[14]。
图3 本文使用的网络结构图
（4）非线性激活函数
神经网络中使用激活函数来加入非线性因素，提高模型的表达能力。典型的非线性激活函数有sigmoid函数、tanh函数、softmax函数和ReLU等[15]。由于sigmoid函数和tanh函数容易产生梯度消失，ReLU在x < 0时梯度为0，负的梯度时会被置零，且不可逆。因此本文卷积层之后均采用改进的非线性激活函数LReLU（Leaky Rectified Linear Units，LReLU）， ，解决了 时权重不能更新的问题，同时计算简单有效，比sigmoid和tanh收敛快。如图5所示。
图5 LReLU
本文网络中在最后一层采用softmax函数，用于多分类神经网络输出。
（5）Dropout对识别结果影响
卷积神经网络由于其高度的复杂性导致训练费时且容易过拟合，Dropout可以有效解决这两个问题，其做法是在每次训练过程中按照一定概率将部分神经元暂时从网络中丢弃，从而一定程度降低模型的复杂度[17]。如图6所示。
图6 Dropout效果图
Dropout的参数设置会影响识别结果。设置Dropout的神经元停止概率为0.3、0.5、0.7和0.9，对比不同停止概率时的平均局部放电识别准确率，结果在3.2节展示。
3 实验结果与分析
3.1 局部放电数据集
研究表明，目前没有可靠的公开PD故障数据集，这使得识别任务具有挑战性。针对这个挑战，本文自主开发了局部放电采集平台，包括超高频调理模块、高速采集器和智能控制管理软件三个模块。高速采集装置选用泰克的DPO 7354C，四通道，3.5 GHz 的带宽以及 40 GS/s 的采样速率。特高频调理模块根据国家电网《Q/GDW 11304.8-2015 电力设备带电检测仪器技术规范》检测标准进行了检测。
本文通过自主研发的该采集平台，采集四类典型局部放电类型的超高频信号，并实现对所采集的信号数据进行提取、管理和分析等。采集到的超高频信号数据来源于复杂实验环境，采集过程中各种各样的干扰因素会造成样本数据中存在特异信号，因此采用 原则对原始数据的幅值进行清洗，剔除数据中的幅值异常大值；同时为了使模型学习到数据的更为关键的特征，提高其鲁棒性，本文通过引入多种类型和不同相位的噪声来对原始数据样本进行增扩，增加实验数据的多样性。
最后一共获得四类典型局部放电（尖端放电、悬浮放电、颗粒放电和气隙放电）样本每类1070个，一共4280个。从中随机选取每种类型的局部放电样本570个作为训练样本，剩余500个作为测试样本。即训练集一共包括570×4=2280个样本，测试集一共包括500×4=2000个样本。
表2 各分类器对四类局部放电类型识别准确率
3.2 局部放电类型识别结果
（1）实验参数
本文网络训练过程基于Google的开源深度学习框架Tensorflow实现，计算设备配置为英特尔E5-2683 V3 CPU，主频为2.00GHz，64G的系统内存和英伟达的GeForce 1080独立显卡。实验参数设置如表1所示。
表1 实验参数设置
（2）识别结果
设置Dropout的神经元停止概率为0.3、0.5、0.7和0.9，对比不同停止概率时的平均局部放电识别准确率，如图7所示。
图7 Dropout层不同停止概率的识别准确率
图7显示，Dropout层参数设置不同时，局部放电模式识别的准确率不同。当神经元停止概率为0.5时，平均识别准确率达到最高，为93.9%。因此本文采用Dropout，并设置神经元停止概率为0.5。
将本文网络与BP神经网络（BPNN）、支持向量机（SVM）和卷积神经网络AlexNet进行比较，衡量本文网络的性能。表2为各分类器对于四种局部放电类型识别准确率的对比。
表2中，四类局部放电类型识别的最好结果加粗表示。实验结果表明，尖端放电属于易识别类型，传统机器学习和深度学习方法都具有良好的识别准确率。对于颗粒放电、气隙放电和悬浮放电，传统机器学习方法识别准确率较低，而AlexNet可以有效提高识别准确率。这说明卷积神经网络在局部放电类型的识别中有着更为出色的表现。除此之外，本文密集连接网络对四类局部放电类型识别准确率在AlexNet基础上又有大幅度的提高，其中对颗粒放电和气隙放电的准确率的提高更加显著，分别提高了19.0%和16.4%。这说明通过引入密集连接单元，本文方法有效的抓住了每种放电类型的关键特征，鲁棒性好。
4 结论
针对GIS局部放电模式识别问题，本文提出了一种基于密集连接网络的局部放电类型识别方法。通过引入密集连接单元，优化深度学习参数，基于仿真数据对该方法进行了验证。实验结果表明，引入密集连接结构，建立了不同层之间的连接关系，有效提高卷积神经网络对于气隙放电类型的识别能力。Dropout可以有效解决本文任务中网络的容易过拟合问题，提高识别准确率。
本文利用密集连接单元搭建的局部放电类型识别网络可以提取局部放电灰度图的关键特征，相较于基于人工设计的统计特征的传统机器学习方法具有更高的局部放电类型识别准确率。
参考文献：
[1]丁清山.基于小波的GIS局部放电类型识别算法及其实现[D].西安电子科技大学，2012.
[2]CIGRE Working Group.Report 21.03—Recognition of discharges.Electra 1969，11，61–98
[3]Gulski E.Computer-aided recognition of partial dicharges using statistical tools[D].Delft University Press，1991.
[4]Hirata A，Nakata S，Kawasaki Z I.Toward automatic classification of partial discharge sources with neural networks[J].IEEE Transactions on Power Delivery，2006，21（1）：526-527.
[5]Garnacho F，Sanchez-Uran M A，Ortego J，et al.Control of insulation condition of Smart Grids by means of continuous PD monitoring[C]// International Conference and Exhibition on Electricity Distribution.IET，2013：1-4.
[6]唐志国，唐铭泽，李金忠，等.电气设备局部放电模式识别研究综述[J].高电压技术，2017，43（7）：2263-2277.
[7]Chang C，Chang C S，Jin J，et al.Source classification of partial discharge for gas insulated substation using waveshape pattern recognition[J].IEEE Transactions on Dielectrics and Electrical Insulation，2005，12（2）：374-386.
[8]崔晓慧.基于分形特征和统计特征的矿用高压电缆人工缺陷局部放电模式识别方法的研究[D].太原理工大学，2014.
[9]高凯，谈克雄，李福祺，等.利用矩特征进行发电机线棒模型的局部放电模式识别[J].电工技术学报，2001，16（4）：61-64.
[10]Lecun Y，Bengio Y，Hinton G.Deep learning[J].Nature，2015，521（7553）：436
[11]Huang G，Liu Z，Maaten L V D，et al.Densely Connected Convolutional Networks[J].2016.
[12]刘兵，郑剑.基于卷积神经网络的变压器局部放电模式识别[J].高压电器，2017（5）：70-74.
[13]Simonyan K，Zisserman A.Very Deep Convolutional Networks for Large-Scale Image Recognition[J].Computer Science，2014.
[14]Lin M，Chen Q，Yan S.Network In Network[J].Computer Science，2013.
[15]Szegedy C，Vanhoucke V，Ioffe S，et al.Rethinking the Inception Architecture for Computer Vision[J].Computer Science，2015：2818-2826.
[16]Maas，Andrew L.，Awni Y.Hannun，and Andrew Y.Ng.Rectifier nonlinearities improve neural network acoustic models[J]，ICML，2013.
[17]Krizhevsky A，Sutskever I，Hinton G E.ImageNet classification with deep convolutional neural networks[C]// International Conference on Neural Information Processing Systems.Curran Associates Inc.2012：1097-1105..
[18]张凯、孙亚明，胡春江，等.GIS设备局部放电检测技术研究[J].电气技术，2014（9）；66-69
[19]何平.变压器内部放电故障诊断系统的设计与研究[J].电气技术，2016，17（4）：97-100
作者简介：
邓敏（1975-）男 福建漳平人 本科 工程师 主要从事高压设备绝缘状态检测监测的技术开发和应用。
论文作者:邓敏
论文发表刊物:《电力设备》2018年第18期
论文发表时间:2018/10/14
标签：局部论文; 卷积论文; 特征论文; 灰度论文; 神经网络论文; 密集论文; 本文论文; 《电力设备》2018年第18期论文;