张军英[1]1998年在《二进前向网络的分类超平面理论》文中提出本文提出并建立了一整套对二进前向网络分类能力进行研究的分类超平面理论，系统地解决了前向网络研究中一个困难的公开问题：二进前向网络的分类能力问题，亦即n元Boole函数非线性分类复杂度的最小上界问题，同时进行了一系列有关问题的研究，这些研究结果为二进前向网络隐节点数目的设计和稳健二进前向网络的设计提供了重要的理论依据。 造成这一问题难解的主要原因是它是一个高维空间中的强非线性问题，而关于二进前向网络的非线性分类行为目前还知之甚少。本文则从一个全新的角度，通过开创性地引入一系列新概念，系统地彻底地解决了这一问题，使得n输入的二进前向网络隐节点数目的上界从目前国际上的约为2/3的指数级下降到了2n—4的多项式级（n≥5时），是隐节点数目的最小上界，该项研究结果表明，二进前向网络的分类能力比人们想象的要强得多得多。同时，本文的研究过程第一次系统地揭示了二进前向网络非线性分类的分类行为，揭示了最优的二进前向网络是网络稳健性能优化、网络参数优化、网络规模（隐节点数目）优化的有机统一，为最优二进前向网络的设计、训练和实现奠定了坚实的理论基础。 本文的创新之处是运用构造法，通过在n维超立方体上一个一个地铺设尽可能多的处于平行模式的分类超平面，来获得n元Boole函数平行分类复杂度的最小上界，进而获得n元Boole函数分类复杂度的最小上界的，研究的过程采用了将问题简化再简化的思想：（1）首先从规范分类超平面入手，引入了能够实现稳健分类的稳健分类超平面的概念， 导出了稳健分类超平面的一般方程，使得网络的连接权仅为-1、0或+1；（2）为了严格描述处于平行模式的稳健分类超平面系，引入了两个稳健分类超平面的 反向距的概念，并给出了对偶原理；（3）为了使所能铺设的稳健分类超平面的数目尽可能大，任两个相邻的分类超平面的 分类效果不应等效于一个分类超平面/稳健分类超平面的分类效果，为此引入了两 个稳健分类超平面的退化/稳健退化的概念，并深入细致地研究了两个稳健分类超 平面退化/稳健退化的条件；（4）为了简化对稳健分类超平面系的铺设，引入了一个稳健分类超平面的余地的概念， 用以间接地描述铺设了这一稳健分类超平面后还可铺设下的稳健分类超平面的最 大数目；（5）指出了在已经铺设好稳健分类超平面ι的情况下，下一个稳健分类超平面的构造 内容提要 条件：不可退化／不可稳健退化、处于平行模式、余地最大等，并给出了构造规则，运 用构造规则一个一个地锚设稳健分类超平面，得出了在n维超立方体上所能铺设 下的稳健分类超平面的数目为2。一3；（6）提出了一个分类超平面系的（稳健）平行退化的概念，并给出了构造不可平行退化 的处于平行模式的2。一3个稳健分类超平面的构造方法；进而证明了。元Bnde函 数的稳健平行分类复杂度／平行分类复杂度的最小上界一定大于等于2。一3；（7）对于在。维超立方体上所铺设的这 Zn—3个稳健分类超平面，通过在其任意两个 相邻的稳健分类超平面之间插入新的稳健分类超平面／分类超平面的讨论，证明了 。元swte函数稳健平行分类复杂度／平行分类复杂度的最小上界一定小于等于印 一 3．O）和＊）的结果则证明了。元 B de函数稳健平行分类复杂度／平行分类复杂 度的最小上界均为2。一3【（8）通过给出分类超平面系的一般模式，及对其可分性／稳健可分性的讨论，证明了处 于模式一的分类超平面系一定是稳健可分的，且平行模式和包围模式均为模式一 的特殊情况，而处于模式二的分类超平面系的稳健可分性／可分性与其基础分类超 平面系的稳健可分性／可分性相同的结论．（9）通过时论处于平行模式且不可平行退化的Zn—3个的稳健分类超平面系及其所分 类出的红色顶点的奇偶性，给出了这样构造的稳健分类超平面系的红色顶点集合 与异或问题的红色顶点集合总是差一个顶点的结论，从而证明了这样构造的1；元 Bwte函数的分类复杂度一定为11—l或n十豆，进而讨沦了从这Zn—3个稳健分类 超平面中去掉一个分类超平面所得到的分类超平面系，其对应的1。元Bo听1函数的 分类复杂度，证明了。元Bode函数（n＞5）的分类复杂度的最小上界为2；；一4，并给 出了构造最复杂的。元Bode函数（分类复杂度为Zn—4）的构造方法；（10）进行了大量的实验研究，证实了这一研究结果的正确性． 通过以上一系列步骤，解决了二进前向网络隐节点数目的最小上界问题：由硬限幅特性神经元构成的。输入单隐层单输出二进前向网络隐节点数目的最小上界Zn—4．这一结果表明对。＋l维超立方体上 2””‘个顶点进行任意二分类所需的分类超平面数目上界比对n维超立方体上2”个顶点进行二分类所需的分类超平面数目上界多2个，而所能分类的顶点数目却是原来的一倍，而不管原来的顶点数目到底
张军英, 许进, 保铮[2]1999年在《稳健二进前向网络的遗传训练方法》文中指出稳健二进前向网络是对逻辑知识的隐式表示和显式表示的有机统一，是性能优良的逻辑知识库、推理机和解释器，但目前还没有一种网络训练算法能够训练出稳健二进前向网络，针对这种情况，本文首先对稳健二进前向网络的神经元辅阈值范围进行了改进和有效描述，并在此基础上提出了一种对稳健二进前向网络进行有效训练的遗传训练方法。在这种训练方法中，网络参数采用三值编码方案，并运用相应的变异机制和有效的适应度函数，经这种方法训练出的网络具有结构最优、稳健性能最强和最易实现的特点。文章最后给出了实验的结果。
张军英, 许进, 保铮[3]2001年在《稳健二进神经网络及其基本性质研究》文中研究说明从二进前向网络的稳健要求出发 ,提出了稳健分类的概念 ,在此基础上给出了稳健分类超平面的一般形式 ,从而如果二进前向网络的每一神经元都是稳健神经元 ,则网络的连接权仅为 - 1 ,0或 + 1 ,每一神经元的阈值也只为二分之一的基阈值加上一处于有限区域上整数的辅阈值 ,并且辅阈值为神经元各个输入对其的贡献之和 .稳健二进前向网络的这些性质使得网络不仅稳健能力强 ,而且易于做到隐节点数少、连接少、易于实现
陆阳[4]2002年在《二进神经网络规则提取方法研究》文中研究指明二进神经网络是应用于布尔空间的神经网络，知识提取是它的一个重要研究领域。由于二进神经网络的学习算法是多种多样的，因此在一个学习后的二进神经网络中，可能存在不同的神经元属于不同的几类线性可分结构系的情况，因此研究二进神经网络中各类线性可分结构系的判别方法和逻辑内涵，对二进神经网络的规则提取是十分有意义的。 论文介绍了二进神经网络的研究现状和基本理论，通过讨论KT方法、MofN规则表达形式以及蕴含性规则和等价性规则的差异，提出了从分析二进神经元权值、阈值关系的角度进行规则提取研究的WTA方法。超立方体结构、汉明球、SP函数和笛卡尔球是布尔空间中几种重要的线性可分结构系，本文为这几种线性可分结构系分别建立了在二进神经网络中的一般判别方法和构造方法，此外，还提出了LEM规则和GEM规则表达形式，定义了布尔空间中笛卡尔球的概念，证明了笛卡尔球是一类线性可分结构系，剖析了汉明球和笛卡尔球的逻辑内涵。 另一个研究成果是在分析线性可分和样本连通性关系的基础上，以MIS问题为例，讨论了抑制神经元在二进神经网络规则提取中的独特作用，提出了二进神经网络的模式匹配学习算法，采用这种算法对布尔空间的样本集合进行学习，得到的二进神经网络隐层神经元都归属于一类或几类线性可分结构系，只要这几类线性可分结构系的逻辑意义是清晰的，就可以分析整个学习结果的知识内涵。
盛新新[5]2006年在《Madaline网络学习算法改进》文中研究说明人工神经网络走过了半个多世纪的曲折历程,吸引了许多科学家在这个领域研究,成为现代脑神经科学,数理科学以及信息科学等综合研究领域的共同的科学前沿之一。二进前向网络是典型的人工神经网络模型之一,是在模式识别和分类方面发展得最早,应用非常广泛的一类人工神经网络。本文首先介绍了神经网络结构和学习算法的基本知识,进一步系统介绍了二进前向网络的结构和算法研究的现状。由于对二进前向网络进行训练的学习算法要求每层的输入输出均是二值,这样就使均方误差函数中存在许多不连续点,它们是不可导的,所以不能直接使用较为成熟的用于连续函数的LMS算法和BP算法等。对Madaline这种典型的多层二进前向网络,60年代Widrow和Winter提出的针对Madaline网络特点的MRⅡ(Madaline Rule Ⅱ)算法,本文对MRⅡ算法作了深入的分析和研究,虽然MRⅡ算法根据最小干扰原则思想解决了一些收敛率及收敛速度慢等不足,但还存在着权值修改公式参数较多不容易协调,经验取值缺乏理论依据不够灵活等缺点。针对Madaline其输入输出均为离散二进制这一显著特点,本文提出了改进后的感知机学习算法,在感知机学习规则上引入学习速率的概念,简化了MRⅡ算法权值修改公式的计算量,并对它的作用和所带来的变化作了全面系统的分析研究,对学习速率与网络收敛能力的关系,网络收敛能力与网络结构的关系,学习速率与信任度的关系,学习速率与结点翻转迭代次数的关系,以及学习速率与最小干扰原则的实现等都做了深入仔细的探讨。用C语言编程验证比较了改进后的算法与原MRⅡ算法的学习效果,实验结果表明本文的算法具有更好的收敛性和成功率。
杨娟[6]2012年在《二进神经网络中关于线性可分结构的若干问题研究》文中研究指明二进神经网络是应用于布尔空间的神经网络,从产生至今已经取得了长足的发展,被广泛地应用于模式识别、人工智能、复杂逻辑综合、大规模集成电路设计等方面。然而二进神经网络理论中仍有许多方面不太成熟,限制了它向更深、更广领域的应用。本文主要针对二进神经网络理论中的线性可分结构所涉及的一些重要内容进行研究,主要研究工作摘要如下：(1)阐述了线性可分结构系对网络规则提取的研究意义,对当前已知的线性可分结构系进行了分析与总结,指出未知的线性可分结构系的范围,为提出新的线性可分结构系指明了方向；另外对于神经网络实现n元奇偶校验问题以及二进神经网络学习算法做一综述,指出了目前存在着的和还需进一步解决的问题。(2)定义了一种新的空间结构——汉明球突,指出其存在线性可分与线性不可分两种类型,并给出是否线性可分的简洁判别法。针对线性可分的汉明球突,建立与二进神经元等价判别法,并给出其逻辑表达式,因而增加了一类具有清晰逻辑意义的线性可分结构系；针对线性不可分的汉明球突判定问题,借助汉明球突在汉明图上的几何特性,采用真节点加权高度排序的方法,提出对于任意样本是否为汉明球突的判别法,相应地给出其逻辑表达,进而给出了一类线性不可分函数的逻辑表达。(3)根据已有学习算法的不足,首次借助蚁群算法,针对样本连通性较高与样本连通性较差的情况分别提出两种基于蚁群算法的二进神经网络学习算法(HC-ABN与LC-ABN),并给出算法的收敛性分析。对于样本连通性较高的情况,通过对比试验可知,HC-ABN算法可以采用更简单的网络结构实现给定的布尔函数；对于样本连通性较差的情况,以奇偶校验问题为例,LC-ABN算法给出了经验上界,为进一步理论分析提供了方向。(4)证明了对采用线性可分结构、单隐层并且每个隐层神经元只表达“与”关系、所有隐层神经元通过输出元形成“或”关系的二进神经网络,需2n-1个隐层神经元才可以实现n元奇偶校验问题,但在隐层引入抑制神经元后,仅需n个隐层神经元即可以实现,说明了抑制神经元在二进神经网络中的重要作用,并在汉明球与SP函数的基础上,给出了奇偶校验的逻辑表达式。(5)扩展二进神经网络的应用范围,将其应用于系统的可靠性分析,借助论文提出的学习算法可以将系统功能与部件间的关系转化为二进神经网络,在证明了0/1分布的线性组合的分布函数表达式的基础上,得到系统的可靠性。
张军英, 保铮[7]2001年在《稳健二进神经网络的几何训练》文中进行了进一步梳理在二进神经网络的规则划分训练方法基础上 ,针对稳健二进神经网络稳健神经元的特点 ,讨论了稳健分类超平面的几何构造方法 ,并提出了相应的训练算法 ,包括隐层神经元的几何训练和输出神经元的进化训练。实验表明 ,该算法对复杂 Boole函数的稳健二进神经网络的实现是有效且可行的
钟水明[8]2007年在《基于敏感性理论的Madaline网络学习算法研究》文中提出基于“敏感性理论”的MADALINE网络学习算法，是一种针对MADALINE网络(一种离散型的二值前向网络)的有监督的学习算法。目前，对于二值前向网络，还没有一种很好的训练学习算法。本文以“最小扰动”原则作为算法设计思想，从“MADALINE敏感性”的角度来寻找体现、贯彻这种思想的方法和途径，并成功地设计出了一种“基于敏感性理论的MADALINE学习算法”。另外，文中也以一定的篇幅分析了新算法的失败模式——“局部震荡”现象，并进一步阐述了跳出“局部震荡”的思想及其算法实现。最后，通过与MRⅡ的一组对比模拟试验，以及“MONK’S PROBLEM”的模拟试验，验证并展示了新算法的良好的学习性能和泛化性能，并分析和揭示了新算法所体现出来的其它一些良好性能表现，如算法学习性能对隐层结点数目表现出高灵敏度以及算法的泛化性能相对于网络结构呈现出良好的稳定性。可以说，新算法在二值前向网络上比较成功地实现了感知机学习规则的推广。突破了这一业界长期以来未能很好解决的难题。
陆阳, 韩江洪, 张维勇[9]2004年在《二进神经网络中笛卡尔球的研究》文中提出根据两类线性可分结构笛卡尔积的概念,定义了布尔空间中笛卡尔球的概念,证明了笛卡尔球是一类线性可分结构系.此外,还对以布尔空间中任意样本Ⅹ°为中心,与Ⅹ°之间Hamming距离为1的任意个样本与Ⅹ°组成的集合进行了研究,证明了这是一类笛卡尔球.为了对笛卡尔球进行规则提取,文中还分析了笛卡尔球的逻辑意义,建立了二进神经网络中判别笛卡尔球的一般方法,描述了这种判别方法的具体步骤,并通过一个实例说明了在二进神经网络中判别笛卡尔球的过程.
佚名[10]1999年在《边缘学科分支最新动向》文中提出’1’凶一U61 99041424心电仿真中人体躯干计算机图形的建立及离散化处理/彭虎,杨基海,张俊霞,冯焕清,张作生,随力(中国科技大学电子技术部)11生物医学工程学杂志一1998,_15(4).一388一392,396人体躯干计算机图形的建立及其离散
参考文献：
[1]. 二进前向网络的分类超平面理论[D]. 张军英. 西安电子科技大学. 1998
[2]. 稳健二进前向网络的遗传训练方法[J]. 张军英, 许进, 保铮. 系统工程与电子技术. 1999
[3]. 稳健二进神经网络及其基本性质研究[J]. 张军英, 许进, 保铮. 自动化学报. 2001
[4]. 二进神经网络规则提取方法研究[D]. 陆阳. 合肥工业大学. 2002
[5]. Madaline网络学习算法改进[D]. 盛新新. 河海大学. 2006
[6]. 二进神经网络中关于线性可分结构的若干问题研究[D]. 杨娟. 合肥工业大学. 2012
[7]. 稳健二进神经网络的几何训练[J]. 张军英, 保铮. 控制与决策. 2001
[8]. 基于敏感性理论的Madaline网络学习算法研究[D]. 钟水明. 河海大学. 2007
[9]. 二进神经网络中笛卡尔球的研究[J]. 陆阳, 韩江洪, 张维勇. 模式识别与人工智能. 2004
[10]. 边缘学科分支最新动向[J]. 佚名. 中国无线电电子学文摘. 1999
标签：自动化技术论文; 超平面论文; 神经网络模型论文; 算法复杂度论文; 逻辑结构论文; 逻辑函数论文; 线性结构论文; 监督学习论文; 网络结构论文; 关系逻辑论文; 算法论文;