分布式存储、处理与记忆，本文主要内容关键词为：分布式论文,记忆论文，此文献不代表本站观点，内容供学术参考，文章仅供参考阅读下载。
【内容提要】 分布式存储和处理是神经网络信息加工的最基本特性。作为一个由众多神经子网构成的网络系统，神经系统因其各神经子网间所具有的不同分工与它们内部所具有的，以及相应于上层网络所具有的分布式存储与处理的特点，就正是脑机能“定位”现象和“均势”现象的本质。各种神经子网是实现相应各心理机能的机构。对于如何来认识神经网络的组织机构，处于最底层的心理过程将具有特别重要的作用。这种相互关系的探讨，实际上也正是心理学的任务之一。神经网络的研究再次证明，用关于高层心理现象的概念体系去描述底层过程是不恰当的。关于底层过程的研究，应抛弃“定位”、“均势”或“内隐记忆”与“外显记忆”等概念，特别是其背后的思想方法。
1、前言
广义的记忆过程，可以说贯穿于一切心理活动的始终。这时“记忆”这一术语实际上是围绕某一现象（即记忆现象）而既相互联系又本质不同的不同层次上多种过程的统一名称。不同层次上的这些过程包括个体记忆活动（识记某个对象并回忆或再认它）和导致人之能实现记忆活动的神经系统内部（如突触）分子水平的生化变化，以及脑的形态学的过程。这些过程不是同构的，因而传统上用同一套术语去描述这些不同过程是不恰当的，必然会造成混乱。
在形态学的研究中，存在着定位说和均势说两种对立的学说。定位说强调特定内容的记忆是与大脑皮层特定的区域相联系的；均势说则强调记忆与脑的广泛区域而不是特定区域相联系，脑的不同区域对记忆而言有着同样的重要性，即是说是均势的。这两种学说都拥有各自的大量的事实根据。也可能神经心理学中作为这两方面事实的目前最完美的统一解释是“机能系统”的思想。鲁利亚指出，脑是一个完整统一的复杂系统，在系统中脑的不同部位对复杂的心理过程（包括记忆）的实现都有自己的贡献。这无疑是正确的。但这并没有给我们对这个系统的科学认识增添什么新的知识，而只是给我们对这个系统的科学认识提供了一种超科学的科学哲学性的宏观指导。作为矛盾的这两方面事实的统一的科学解释，应是细节上的或说机理性的。但由于技术方法上的和人道上的种种原因，生物神经系统的有关研究一直未能对此提供满意的解释。纯粹的心理学家和纯粹的神经学家们对此的认识到目前为止还是不清晰的，还是知其然不知其所以然。应该说目前关于均势说和定位说的最好说明是来自人工神经网络的研究。其分布式存储与处理的概念不仅可以解释前述矛盾的事实，而且提供了关于诸如完形整合等问题的最好说明。
2、人工神经网络与分布式存储、处理
2.1 人工神经网络及其处理过程
所谓神经网络（NN）是指由大量的神经元广泛地相互连接而形成的复杂网络系统。我们知道，人脑由大约10[10]—10[11]个神经元构成，其中每个神经元可建立起多达10[4]个与其他神经元的突触联系，总互连数（即突触数）可达10[14]—10[15]。人工神经网络（ANN）就正是基于对神经元的兴奋与抑制和突触强度的变化两方面的模拟而建立起来的模拟的神经网络。由于实现方法和技术上的原因，其规模目前还远较人脑的生物神经网络（BNN）的规模为小，即总互连数很小，从规模上讲仅相当于昆虫水平。
作为例子，这里考虑一个只包括输入输出两层神经元的最简单的网络，其中每层均为N＝3个神经元，并且每个神经元与另一层的3 个神经元相连接，即共有9个突触。如图1。设第i个输入神经元与第j个输出神经元之间的突触联系
强度为W(,ji)，整个网络中全部突触可由3×3的矩阵W表示。 输入输出均由3分量向量表示，其分量取值为0或1。输出神经元j 从输入神经元i上所得到的输入是神经元Si与W(,ji)的积。神经元j从输入层的全部3个神经元上得到的总的输入
其中，f是一种非线性函数。这里取成阶跃函数：
即当神经元j的总输入大于某个值（这里为0）时，它就以“全（即1）”的方向输出，否则以“无（即0）”的方式输出。
神经网络所记忆的内容就存储在整个网络各神经元间的突触连接关系中。这意味着记忆的内容可由突触矩阵W表示。W可以通过学习来建立。一种比较简单的学习方式是由待存储态向量的外积构成突触矩阵。若S是待存储态向量，则这时的突触矩阵为
这时当输入为X时，输出亦为X；如果输入的态与X不完全一致， 即与记忆的内容有些偏差，也仍然可以得到正确的存储态X为输出。例如， 若输入的态是
这只是一个最简单的例子。实际上网络复杂得多：可以是多层网络，突触数大得多，并可以有各种不同的拓扑结构，学习算法也可能有所不同，因而处理功能强得多并可能互有差别。
2.2分布式存储与处理
由神经网络的处理过程我们看到，同一个知识不是存储在网络的某个特定部位，而是分布在由突触及其不同强度构成的整个网络关系中，并且是分布在整个网络中各个突触上进行加工处理的。分布式存储并不是说不同的知识分布在网络中不同的突触上，而是说同一知识及其各部分同样分布式存储在整个网络关系中。如果一个网络存储有多个知识，则所有这些知识也都是分布式地存储在整个的这同一个网络中。网络中各个突触与知识所包含的各项内容之间不存在一一对应关系，即不是同构的。网络与所存储知识的关系只是同态不同构的关系。 就如 HechtNielsen说的， 神经网络是靠其状态对外部输入信息的动态响应来处理信息的。
总之，学习或一定知识的获取与存储，是通过一定神经网络中所有神经元之间突触连接关系的变化（调整）来实现的，这在数学上可表示为突触矩阵的修正。一定的知识就储存在这一定的网络关系中。同样地，有关知识的运用或提取是通过分布在网络中各突触上的处理过程实现的。存储的知识只与整个网络相关而非与网络中特定的部位相关。网络的局部损坏，并不只损害特定的某个知识，而是损害其中存储的所有那一类知识；并且，网络功能的损害程度主要与整个网络损坏的程度相关而非与部位相关（但输入输出层除外）。这与有关的神经心理学研究及临床上的发现是相一致的。
2.3分布式存储与处理的特点
2.3.1 非局域性或非定位性
如果系统的许多整体行为不仅取决于系统单元的个性，而且主要由单元之间的相互关系、相互作用所决定，那么这个系统相对于它的这些行为而言就具有非局域性。也就是说，那些行为不是定位于系统的某个特定部位，即具有非定位性。神经系统的非局域性或非定位性，就主要产生于神经网络的分布式存储与处理的本质。
2.3.2 容错性
从上述网络处理的实际过程中看到，当输入具有一些偏差时，网络仍能进行正确的处理而得到正确的输出。这就叫做网络的容错性。我们知道人脑就正是一个容错系统。
3、分布式存储、处理与记忆
3.1关于均势说
前面已经讲到，记忆是一个歧义词。如果是指记忆现象的脑实质，那么神经网络的分布式存储与处理方式就是记忆均势说的真正基础。如果是指的人的识记和回忆或再认等一系列个体活动过程，则其实际涉及从意图、规划到同时性整合、搜索等一系列复杂的环节，所谓“机能系统”虽能对此做出说明，但说明的这种关系已不再是均势说的本来含义，分布式存储与分布式处理也不是其最根本的解释。从神经网络来说，这是由各子网间的相互关系特别是它们构成的整个网络的结构特点来决定的。
总之，均势说仅在神经网络内成立。
3.2关于定位说
对于不同的神经子网来说，功能意义是不同的。所以，就不同的神经子网功能不同而言，定位说成立。
可以认为，均势说和定位说正是指的神经网络的三方面特点中的两方面特点：各神经子网络的处理内容或功能是不同的，不同层次的子网在不同的活动中处于总体网络处理的不同的阶段，有不同的处理任务和内容；同一子网内是分布式地存储和处理的。而他们的对立则正好来自于另一个特点：低层子网镶套于高层次的网络中并由此形成一个复杂的总体网络。对高层网络的功能而言，各低层网络一方面发挥着各自的特殊作用或功能，是“定位性”的；另一方面又发挥着作为这个更大网络的一部分所分布其承担的更高功能的作用，但这种作用是分布性的、非定位性的或非局域性的、非必须的。
3.3关于心理学的概念体系：抛弃“定位”与“均势”、 “内隐记忆”与“外显记忆”等概念
大量的研究表明，与人的不同外部活动对应的内部心理——生理过程的各种环节大体上或基本上是共同的，不同的是各种内部环节的组合。这可以看作是一个变换。比如我们把它看作一种线性变换或非线性变换。在线性关系
（f为非线性函数）中，x（假如是指内部过程）和y （假如是外部活动）两组变量相互之间一般不存在一一对应关系。所以，很显然地用外部活动来说明或标志内部机制即把x和y一一对应起来的思想方法是不恰当的，事实上也是行不通的。但这正是目前我们天天在犯的错误。由于心理学的不成熟，到目前为止人们仍是靠用某一个层次（通常是个体活动层次）的一套概念去描述其他不同层次的过程（相应的通常是脑内较低层次的过程）。比如，人们还在度图证明是否存在与所谓“外显记忆”与“内隐记忆”相对应的不同“记忆系统”。这种“系统”显然是指脑内的。不应否认“内隐记忆”与“外显记忆”、“定位”与“均势”的思想或概念在历史上发生过的作用，但类似的这种思想或概念，在科学的概念体系中是应该抛弃的。
为不同层次过程建立独立的严密的科学概念体系乃是目前心理学的最根本任务，同时也是最迫切任务。其中处于最底层的心理过程（即笔者所称的“意原”过程）在描述神经子网的功能和功能关系以及神经系统或总体网络的功能结构中应具有特别重要的作用，并在认知心理学理论体系中处于特别重要的地位。
由于篇幅的关系，本文提到而又未予充分讨论的有关问题将另文讨论。
收稿日期：1995—07—11