有哪些类型的人工神经网络可用

人工神经网络（Artificial Neural Networks，ANN）是2113型动物神经网络的行为特征，执行数学5261分布式4102并行信息处理算法数学模型1653. 此类网络取决于系统的复杂性，并进行调整大量内部节点之间的互连关系，达到处理信息的目的. 人工神经网络具有自学习和自适应的能力. 它可以通过预先提供的一批相应的输入-输出数据来分析和掌握两者之间的潜在规律，最后根据这些规律用新的输入数据来计算输出. 结果，这种学习分析的过程称为“训练”. （引自《神经科学: 老鼠胡须下的秘密》 2007年第一期“全球神经科学”）

概念

由大量相互连接的处理单元组成的非线性自适应信息处理系统. 在现代神经科学的研究成果的基础上提出该方法，并试图通过模拟脑神经网络的处理和记忆来处理信息.

人工神经网络具有四个基本特征:

（1）非线性非线性关系本质上是一个普遍的特征. 脑部智慧是一种非线性现象. 人工神经元处于激活或抑制的两种不同状态. 该行为在数学上表示为非线性关系. 具有阈值的神经元网络具有更好的性能，并且可以提高容错能力和存储容量.

（2）非限制性神经网络通常由广泛连接的多个神经元组成. 系统的整体行为不仅取决于单个神经元的特征，而且还可能主要取决于单元之间的交互作用和相互联系. 通过单元之间的大量连接来模拟大脑的非限制性. 联想记忆是非限制性的典型例子.

（3）非常定性人工神经网络具有自适应，自组织和自学习的能力. 由神经网络处理的信息不仅会发生变化，而且非线性动态系统本身在处理信息时也会不断发生变化. 迭代过程通常用于描述动态系统的演化.

（4）非凸性在某些条件下，系统的演化方向将取决于特定的状态函数. 例如，能量函数的极值对应于系统的相对稳定状态. 非凸性意味着该函数具有多个极值，因此系统具有多个稳定的平衡状态，这将导致系统演化的多样性.

在人工神经网络中，神经元处理单元可以代表不同的对象，例如特征，字母，概念或一些有意义的抽象模式. 网络中处理单元的类型分为三类: 输入单元，输出单元和隐藏单元. 输入单元接收来自外界的信号和数据；输出单元实现系统处理结果的输出. 隐藏单元位于输入和输出单元之间，系统外部无法观察到. 神经元之间的连接权重反映了单元之间的连接强度，信息的表示和处理反映在网络处理单元的连接关系中. 人工神经网络是一种未经编程的，适应性强的，大脑式的信息处理. 其实质是通过网络的转换和动态行为获得并行和分布式的信息处理功能，并模仿不同层次和层次的人员. 脑神经系统的信息处理功能. 它是一门跨学科学科，涉及神经科学，思维科学，人工智能和计算机科学等许多领域.

人工神经网络是一个并行的分布式系统. 它使用的机制与传统的人工智能和信息处理技术完全不同. 它克服了传统的基于逻辑符号的人工智能在处理直观和非结构化信息中的缺点. 自适应，自组织和实时学习的特征.

历史记录

1943年，心理学家W.S. McCulloch和数学逻辑学家W.Pitts建立了神经网络和数学模型，称为MP模型. 他们通过MP模型提出了神经元的形式化数学描述和网络结构方法，并证明了单个神经元可以执行逻辑功能，从而开创了人工神经网络研究的时代. 1949年，心理学家提出了可变突触强度的想法. 在1960年代，人工神经网络得到了进一步发展，并提出了更完整的神经网络模型，包括感知器和自适应线性分量. 在仔细分析以感知器为代表的神经网络系统的功能和局限性之后，M. Minsky等人在1969年出版了《感知器》一书，指出感知器无法解决高阶谓词问题. 他们的论点极大地影响了神经网络的研究，而当时串行计算机和人工智能的成就掩盖了开发新计算机和人工智能的必要性和紧迫性，使得对人工神经网络的研究处于低潮. . 在此期间，一些人工神经网络的研究人员仍致力于这项研究，并提出了自适应共振理论（ART网络），自组织图和认知机器网络. 同时，他们对神经网络的数学理论进行了研究. 以上研究为神经网络的研究和开发奠定了基础. 1982年，J.J. 美国加州理工学院的物理学家Hopfield提出了Hopfield神经网格模型，引入了“计算能量”的概念，并给出了网络稳定性的判断. 1984年，他再次提出了连续时间Hopfield神经网络模型，该模型为神经计算机的研究做出了开创性的工作，为将神经网络用于关联记忆和优化计算开辟了一条新途径，并有效地促进了神经网络的研究. 网络. 1985年，一些学者还提出了Boltzmann模型神经网络类型，该模型采用统计热力学模拟退火技术进行学习，以确保整个系统趋于全局稳定点. 1986年，他对认知微观结构进行了研究，并提出了并行分布式处理的理论. 人工神经网络的研究引起了发达国家的关注. 美国国会通过了一项决议，将自1990年1月5日开始的十年指定为“大脑十年”. 国际研究组织呼吁其成员国“年”成为全球行为. 在日本的“现实世界计算（RWC）”项目中，人工智能研究已成为重要组成部分.

基本内容

人工神经网络模型主要考虑网络连接的拓扑，神经元的特征和学习规则. 目前，已有近40种神经网络模型，包括反向传播网络，感知器，自组织图，Hopfield网络，玻尔兹曼机，自适应共振理论等. 根据连接的拓扑结构，可以分为:

（1）转发网络网络中的每个神经元都接受上一级的输入并将其输出到下一级. 网络中没有反馈，可以用有向无环图表示. 这种网络实现了信号从输入空间到输出空间的转换，其信息处理能力来自简单非线性函数的多次重组. 网络结构简单，易于实现. 回程网络是典型的前向网络.

（2）反馈网络网络中神经元之间存在反馈，可以通过无向完整图表示. 这个神经网络的信息处理是状态的转换，可以通过动态系统的理论来处理. 系统的稳定性与关联记忆功能密切相关. Hopfield网络和Boltzmann机器就是这种类型.

学习是神经网络研究的重要组成部分，它的适应性是通过学习来实现的. 根据环境的变化，调整权重以改善系统的性能. Hebb提出的Hebb学习规则为神经网络学习算法奠定了基础. Hebb规则认为，学习过程最终将发生在神经元之间的突触上，并且突触连接的强度随突触前后神经元的活动而变化. 在此基础上，人们提出了各种学习规则和算法，以满足不同网络模型的需求. 一种有效的学习算法使神经网络能够调整连接权重，以构造客观世界的内部表示，并形成独特的信息处理方法. 信息的存储和处理反映在网络连接中.

根据不同的学习环境，神经网络的学习方法可以分为有监督学习和无监督学习. 在监督学习中，将训练样本的数据添加到网络输入中，并将相应的预期输出与网络输出进行比较以获得误差信号，从而控制权重的连接强度的调整并收敛经过多次培训. 确定重量. 当样本情况发生变化时，可以在学习适应新环境后修改权重. 使用监督学习的神经网络模型包括反向传播网络和感知器. 在无监督学习中，没有预先给出标准样本，而是将网络直接放置在环境中，学习阶段和工作阶段合而为一. 此时，学习律的变化服从连接权重的演化方程. 无监督学习的最简单示例是赫布学习规则. 竞争性学习规则是无监督学习的一个更复杂的示例，该学习基于已建立的聚类调整权重. 自组织映射和自适应共振理论网络是与竞争性学习有关的典型模型.

研究神经网络的非线性动力学特性，主要利用动力学系统理论，非线性规划理论和统计理论分析神经网络的演化过程和吸引子的性质，探讨神经网络的协同行为和集体计算. 网络功能，了解神经信息处理机制. 为了探讨神经网络在完整性和歧义性方面处理信息的可能性，混沌理论的概念和方法将发挥作用. 混沌是一个很难精确定义的数学概念. 一般而言，“混乱”是指由确定性方程式或确定性随机性描述的动态系统的非确定性行为. “确定性”是因为它是由内部原因而不是外部噪声或干扰引起的，“随机性”是指其不规则且不可预测的行为，只能通过统计学来描述. 混沌动力学系统的主要特征是其状态对初始条件的敏感依赖性，而混沌则反映了其固有的随机性. 混沌理论是指描述具有混沌行为的非线性动力学系统的基本理论，概念和方法. 它将动态系统的复杂行为理解为与外界交换物质，能量和信息的过程中固有的固有行为. 结构性行为是稳态，而不是外来和偶然行为. 混沌动力学系统的稳态包括: 静态，平稳，周期，准同步和混沌解. 混沌轨迹是整体稳定性和局部不稳定性相结合的结果，称为奇异吸引子. 奇异吸引子具有以下特征: （1）奇异吸引子是吸引子，但既不是定点也不是周期解； （2）单个吸引子是不可分割的，也就是说，不能将其分为两个和两个以上的吸引子； （3）对初始值非常敏感，不同的初始值会导致非常不同的行为.

发展趋势

人工神经网络独特的非线性自适应信息处理能力克服了传统的人工智能方法的直觉缺陷，例如模式，语音识别和非结构化信息处理，使其成为神经专家系统，模式识别，智能控制，组合优化，预测等领域已成功应用. 人工神经网络与其他传统方法的结合将促进人工智能和信息处理技术的不断发展. 近年来，人工神经网络在模拟人类认知的道路上得到了越来越深入的发展，结合模糊系统，遗传算法神经网络类型，进化机制等，形成了计算智能，已经成为人工智能的重要方向，并且将成为在实际应用中开发. . 信息几何学在人工神经网络研究中的应用为人工神经网络的理论研究开辟了一条新途径. 对神经计算机的研究发展迅速，现有产品已进入市场. 光电组合神经计算机为人工神经网络的发展提供了良好的条件.

本文来自电脑杂谈，转载请注明本文网址：
https://www.pc-fly.com/a/jisuanjixue/article-258605-1.html