摘要:对典型网络(即BP网络)的发展动态和进展进行系统的分析,利用BP神经网络进行数字识别的方法对数字进行特征提取,获得采样数据,再对样本数据进行学习和训练,形成良好的网络,然后对与已训练数字有所区别的数字进行检测,表明该方法在实际应用中具有可行性。仿真实例和数字识别验证了改进的BP神经网络的有效性。
关键词:BP网络;BP算法;数字识别
1.人工神经网络的概念
人工神经网络是一个并行、分布处理的结构,由处理单元及“联接的无向信号通道”互连而成。这些处理单元(Processing Element)具有局部内存,并可以完成局部操作。每个处理单元有一个单一的输出联接,这个输出可以根据需要被分支成希望个数的许多并行联接,且这些并行联接都输出相同的信号,即相应处理单元的信号,信号的大小不因分支的多少而变化。处理单元的输出信号可以是任何需要的数字模型,每个处理单元中进行的操作必须是完全局部的。也就是说,它必须仅仅依赖于经过输入联接到达处理单元的所有输入信号的当前值和存储在处理单元局部内存在的值。
2.神经网络研究方向及应用领域
(1)研究方向
1)探索人脑神经系统的生物机构和机制,这实际上是神经网络理论的初衷;
2)用微电子学或光学器件形成特殊功能的网络,这主要是新一代计算机制造领域所关注的问题;
3)神经网络理论是一种解决某些问题的手段和方法。这些问题在利用传统方法时或者无法解决,或者在具体处理技术上尚存困难。
(2)应用领域
1)模式识别和图像处理 印刷体和手写体字符识别、语音识别、签字识别、指纹识别、人脸识别、人体病理分析、目标检测与识别、图像压缩与复原等;
2)控制和优化 化工过程控制、机器人运动控制、家电控制、半导体生产中掺杂控制、石油精炼优化控制和超大规模集成电路布线设计等;
3)预报和智能信息管理 股票市场预测、地震预报、有价证券管理、借凭风险分析、IC卡管理和交通管理;
4)通讯 自适应均衡、回波抵消、路由选择和ATM网络中的呼叫接纳识别及控制等;
5)空间科学 空间交会对接控制、导航信息智能管理、飞行器制导和飞行程序优化管理等。
3.反向传播算法
反向传播算法(Back-Propagation 简写为BP),是一种单向传播的多层前向神经网络,其结构是:除了输入输出站点外,有一层或多层隐含结点,同层结点间无任何联接。由于同层结点上无任何耦合,故每层结点的输出只影响下一层结点的输出。因此,建立在梯度下降法基础上的可视BP网络为从输入到输出的高度非线性映射,适合于多层神经元网络的一种学习。
BP算法系统地解决了多层网络中隐含单元连接的学习问题,还对其能力和潜力进行了探讨。第一阶段(正向传播过程),给出输入信息,通过输入层经隐含层逐层处理并计算每个单元的实际输出值;第二阶段(反向过程),若在输出层未能得到期望的输出值,则逐层递归地计算实际输出与期望输出之差(即误差),以便根据此差调节权值。具体地说,就是可对每一个权重计算出接收单元的误差值与发送单元激活值的积。因为这个积和误差对权重的(负)微商成正比(又称梯度下降算法),把它称作权重误差微商。权重的实际改变可由权重误差微商一个模式一个模式地计算出来,即它们可以在这组模式上进行累加。
期刊文章分类查询,尽在期刊图书馆
4.编程软件MATLAB
MATLAB利用其丰富的函数资源,使编程人员从繁琐的程序代码中解放出来。MATLAB最突出的特点就是简洁,能给用户带来最直观、最简洁的程序开发环境。MATLAB的核心是一个基于矩阵运算的快速解释程序。它以交互式接受用户输入的各项指令,输出计算结果。它提供了一个开放式的集成环境,用户可以运行系统提供的大量命令,包括数值计算、图形绘制等。MATLAB具有如下功能:数据可视化、强大的数值运算、丰富的工具箱、数学计算、数字信号处理、自动控制模拟、动态分析、数据处理、2D/3D的绘图并可以FORTRAN,C,C++做数据连接等等。
5.讨论
“文字”是人们相互交流信息的主要工具。从图的角度来看,它是简单的图形;从技术上看,文字图形的识别相对来说比较简单,易于处理和分类。因此,在图象识别中,文字识别的研究比较深入广泛,取得的成果也较大。在国际上,文字识别目前主要指的是光学文字识别(OCR)。一般是识别字母、数字和符号三种。文字识别技术广泛应用于阅读邮件地址、对邮件进行自动分拣及识别银行支票、购货账单、贸易表格等。也可用于管理报告、文件检索、语言翻译、资料分析等;在医学诊断过程和数字通信终端中也有其应用。但其最主要的一个用途还是作为电子计算机的输入设备,用以代替人或键盘的工作,自动地把文字和其他信息送往计算机。
总之,多层神经网络系统具有强大的解算能力和处理实际问题的能力。它可以处理一些环境信息十分复杂、知识背景不清楚、推理规则不明确的问题。在实际问题中,神经网络技术所提供的模式丰富多变,甚至相互矛盾,而制定决策又无法可循。对这些问题,神经网络系统通过学习可以学会处理具体事例,给出满意的答案。人工神经网络在本质上是一种非线性动力系统,而反向传播算法则能够解决一种特殊的非线性最小二乘问题。BP算法的目的,就是要确定加权向量W,使得对这些已知的输入和输出得到最佳的一致性,这是一种典型的非线性二乘问题。传统方式中的逼近和参数调整,多数是针对线性系统,线性系统的求反问题已经解决。但对于非线性高维、高阶问题,神经网络的能力会得到更好地发挥,它可解决很多传统方法不能解决的问题。
但是,人工神经网络也不是万能的。神经网络可以通过学习获得知识、逼近目标、分辨模式。目前的学习方式主要是Hebb规则和δ学习率,但是人从外界获得知识是否就是这两种学习率?这两种学习方法本身的局限性也是很大的,Hebb学习率不能保证学习的结果为最优,学习率对于非线性映射网络的学习速率及局部最小不能克服,这就影响了网络的应用。如何改进算法是扩大神经网络应用范围的关键。
BP网络是应用最为广泛的网络,广泛应用于文字识别、模式分类、文字到声音的转换、图象压缩、决策支持等。但是,有许多问题困扰着该算法。尤其是如下五种问题,对BP网络有非常大的影响,有的甚至是非常严重的。
(1)收敛速度问题;
(2)局部极小点问题;
(3)网络瘫痪问题;
(4)稳定性问题;
(5)步长问题。
6.结语
笔者在本题目的研究中,对神经网络的基础理论知识有了深入的了解。在进行数字识别的过程中,逐步掌握了神经网络技术及其应用。
参考文献:
[1]杨建刚.人工神经网络实用教程.杭州:浙江大学出版社,2002-3-1.
[2]哈根.神经网络设计.北京:机械工业出版社,2002.
[3]康立山、谢云、尤矢勇、罗祖华.非数值并行算法——模拟退火算法[M].北京:科学出版社,2000.
[4]海金.神经网络原理.机械工业出版社,2004.
论文作者:马勇
论文发表刊物:《电力设备》2019年第8期
论文发表时间:2019/9/19
标签:神经网络论文; 算法论文; 网络论文; 单元论文; 数字论文; 结点论文; 文字论文; 《电力设备》2019年第8期论文;