学习笔记：神经网络模型

人工神经网络的模型从其拓扑结构角度去看，可分为层次型和互连型。层次型模型是将神经网络分为输入层（Input Layer）、隐层（Hidden Layer）和输出层（Output Layer），各层顺序连接。其中，输入层神经元负责接收来自外界的输入信息，并将其传递给隐层神经元。隐层负责神经网络内部的信息处理、信息变换。通常会根据变换的需要，将隐层设计为一层或多层。隐层传递给输出层的信息进一步处理后向外界输出，也就是输出最终的结果。有三种典型的层次型结构：单纯型层次网络结构、输出层到输入层有连接的层次型结构和层内有互连的层次型结构，如下图所示。

不难看出，单纯型层次网络结构的特点是神经元分层排列，各层神经元接收前一层的输出作为输入，同时产生输出传递给后一层，层内神经元自身以及神经元之间不存在连接通路。输出层到输入层有连接的层次型结构其特点是输出层的输出结果会传递给输入层，这样输入层既可以接收输入信息，同时也具有信息处理的能力。层内有互连的层次型结构其特点是同一层内的神经元之间有连接。

就互连型网络结构而言，根据网络当中节点的互连程度将互连型网络细分为三种类型全互连型、局部互连型和稀疏连接型。这里给出前两种的示意图，如下图所示。

不难看出，全互连型网络当中的每个节点都与其他节点相连接；而局部互连型网络当中的每个节点只与它临近的节点相连接。对于稀疏连接型，其网络当中的节点只与少数相距较远的节点相连。

人工神经网络按信息流向划分，可分为前馈型网络和反馈型网络，如下图所示。

前馈型网络其信息处理具有逐层传递的方向性，不存在反馈回路，且容易串联起来，建立多层前馈网络。反馈型网络其输出层到输入层有反馈回路。每个节点既可以从外部接收输入，也可以向外部输出信息，所有节点都具有信息处理的功能。

文 | Lauren 图 | Lauren

Copyright @ Lauren的FPGA

转载事宜请私信 | 获得授权后方可转载