神经网络精炼入门总结:出现缘由,多层感知机模型,前向传播,反向传播,避免局部最小

神经网络初探

在本文中,我将初步介绍神经网络有关的概念和推导,本文是后续深度学习的入门,仅对神经网络做初步理解,后续文章中会继续进行学习。

定义

什么是神经网络呢?这里引用Kohonen的定义:

神经网络是由具有适应性的简单单元组成的广泛并行互连的网络,它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应。

可以看出神经网络的几个重要特点:简单的基本单元、互连、模拟生物、具有交互反应

为什么使用神经网络?

既然已经有了线性回归、决策树等机器学习方法,为什么还要使用神经网络的方法呢?

  • 生物大脑内的神经网络即采用基本单元互联通信的模型,部分机器学习的专家相信,如果能在机器上模拟这种结构,也将部分的实现生物体的智能。
  • 在对非线性的数据进行预测时,如果使用线性回归来进行拟合,将会使用大量幂次交叉项,例如对最高三次项函数,就有

,而对于含有n个特征,最高m次的数据,其项数的复杂度为O(

),高昂的复杂度使得预测代价极为高昂。

由此,神经网络应运而生。

M-P神经元模型

神经网络中的基本单元被称为M-P神经元模型,如图所示:

在生物中,一个神经元接受其他神经元传来的化学性物质,改变它的点位,如果达到该神经元的阈值,它会被激活,向其他神经元发送化学信号

在该M-P神经元中,该神经元结构其他神经元的输入信号

,由于每个神经元对它的作用大小不同,于是有不同的权重

,收到的信号总和为

该信号与阈

比较,如果大于阈值,就激活,反之不激活,该比较有函数f完成,故输出信号为:

激活函数

一个节点的激活函数定义了该节点在给定的输入或输入的集合下的输出,上文中的函数f即为激活函数。

理论上而言,激活函数应该具有这样的功能:大于阈值时激活,小于阈值时不激活。故理想的激活函数如下最左所示:

但是在实际运用中,由于需要该函数光滑可导,经常使用如图的sigmoid函数和ReLU函数。

感知机

感知器(英语:Perceptron)是Frank Rosenblatt在1957年就职于康奈尔航空实验室(Cornell Aeronautical Laboratory)时所发明的一种人工神经网络。它可以被视为一种最简单形式的前馈神经网络,是一种二元线性分类器。

其模型如下,和M-P神经元模型如出一辙:

利用单层感知机可以解决逻辑与、或、非问题,但是不能解决异或问题,因为感知机是一个线性分类器,而异或问题不可以被线性划分。

但是利用如下的双隐层感知机可以解决异或问题。

多层神经网络

定义

感知机是最简单的前馈神经网络,如果我们增加神经网络的层数和每层的数目,便会形成多层神经网络。

多层网络包含输入层、输出层、隐藏层,输入层用来接收外界输出,隐层和输出层对信号进行加工,最终结果由输出层神经元进行输出。

图中第一层即为输入层,最后一层为输出层,中间为三个隐层。

前向传播算法

前向传播算法即神经网络进行识别匹配的算法,从输入信号得到输出信号,如下图,为具有两个隐层的神经网络。

先对图中符号进行定义,

是原始输入信号,

是隐层和输出层得到的输入信号,

为权重,

是隐层得到的进一步传播的信号,

是激活函数,

是输出结果。

首先我们得到了原始输入信号

,通过加权和进入隐层1:

然后通过激活函数得到隐层1的输出

重复此过程通过隐层2,得到

,即为输出层的输入信号。在前面已经说过,输出层也要对信号进行加工,所以再次通过H(x)进行处理,得到最终结果

输出类型

对于二分类问题而言,只需要输出为0或1即可,所以只需要有一个输出单元,就像之前的感知机。

对于多分类问题而言,可以有k个分类,则需要有k个输出单元,每个输出单元输出0或1,共同组成一个k维向量,分别代表k个类别。如下四个向量便可以别代表1、2、3、4的类别。

反向传播算法

反向传播算法的数学推导较复杂,在这里不详细介绍,只大体介绍其思想:

  1. 定义神经网络输出值与实际值的误差,一般情况下有两种误差定义方法

为神经网络中的权重):

  • 均方误差:

对数误差

  1. 反向传播算法的目的是使得

最小,可以采用梯度下降的方法,求得使之最小

.

  1. 于是我们需要求得

对于每一个参数

的导数,然后利用梯度下降的公式对

进行迭代

  1. 但是我们无法直接求得导数,经过推导,可以发现每一层的误差导数和后一层的导数存在关系,所以可以先求得后一层的导数,然后依次向前推导,故称之为反向传播

综合流程

由上可知,一个多层神经网络的训练流程如下:

  • 随机初始化
  • 对于训练数据,利用前向传播计算出预测结果
  • 利用预测结果和训练数据的标签计算误差
  • 利用反向传播计算误差对于各个参数的导数
  • 梯度下降,并重复此过程

避免局部最小的方法

由于梯度下降可能导致神经网络陷入局部最小,而达不到全局最小值,所以在这里有以下集中方法缓解这个问题

  • 以多组不同的初始值初始化神经网络进行训练,找出其中最好的结果作为最终参数
  • 使用模拟退火技术,有一定概率接受更差的结果,且接受的概率随时间推移而降低
  • 使用随机梯度下降法

深度学习

实际上,科学家已经证明

只需一个包含足够多神经元的隐层,多层前馈网络就能以任意精度逼近任意复杂的连续函数。

但后来人们发现:

参数越多的模型复杂多越高,容量越大,这意味着它可以完成更复杂的学习任务。而增大网络深度有时比增多单隐层参数个数更有效。

随着云计算、大数据的到来,深度学习开始流行。

典型的深度学习就是很深层的神经网络,在后面的章节会进一步介绍。

查看更多

作者:陈浩然,欢迎阅读她的博客:chrer.com,她的机器学习系列笔记:

北大才女总结:机器学习的概念、历史和未来

北大才女笔记:这样学习线性回归和梯度下降(上篇)

北大陈浩然笔记:特征缩放和泛化能力(下篇)

logistics判别与线性模型中的4个问题

全面总结机器学习项目和面试中几乎绕不开的决策树

原文发布于微信公众号 - Python与机器学习算法频道(alg-channel)

原文发表时间:2018-07-24

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏和蔼的张星的图像处理专栏

2. 神经网络之BN层背景BN使用BN在CNN上的使用。

BN,全称Batch Normalization,是2015年提出的一种方法,在进行深度网络训练时,大都会采取这种算法。 原文链接:Batch Normali...

2.8K4
来自专栏磐创AI技术团队的专栏

【斯坦福CS229】一文横扫机器学习要点:监督学习、无监督学习、深度学习

【磐创AI导读】:提及机器学习,很多人会推荐斯坦福CSS 229。本文便对该课程做了系统的整理。包括监督学习、非监督学习以及深度学习。可谓是是学习ML的“掌上备...

1662
来自专栏大数据挖掘DT机器学习

机器学习、深度学习 知识点总结及面试题

1、反向传播思想: 计算出输出与标签间的损失函数值,然后计算其相对于每个神经元的梯度,根据梯度方向更新权值。 (1)将训练集数据输入到ANN的输入层,经过隐藏...

9798
来自专栏新智元

【斯坦福CS229】一文横扫机器学习要点:监督学习、无监督学习、深度学习

给定一组与输出{y(1),...,y(m)}相关联的数据点{x(1),...,x(m)},我们希望构建一个能够根据x值预测y值的分类器。

731
来自专栏磐创AI技术团队的专栏

干货 | 基于深度学习的目标检测算法综述(一)

目标检测(Object Detection)是计算机视觉领域的基本任务之一,学术界已有将近二十年的研究历史。近些年随着深度学习技术的火热发展,目标检测算法也从基...

2442
来自专栏绿巨人专栏

神经网络学习笔记-01-基本概念

2637
来自专栏AI科技评论

干货 | 基于深度学习的目标检测算法综述(一)

目标检测(Object Detection)是计算机视觉领域的基本任务之一,学术界已有将近二十年的研究历史。近些年随着深度学习技术的火热发展,目标检测算法也从基...

1402
来自专栏SIGAI学习与实践平台

机器学习与深度学习核心知识点总结--写在校园招聘即将开始时

一年一度的校园招聘就要开始了,为了帮助同学们更好的准备面试,SIGAI 在今天的公众号文章中对机器学习、深度学习的核心知识点进行了总结。希望我们的文章能够帮助你...

971
来自专栏CVer

大牛分享 | 基于深度学习的目标检测算法综述(一)

目标检测(Object Detection)是计算机视觉领域的基本任务之一,学术界已有将近二十年的研究历史。近些年随着深度学习技术的火热发展,目标检测算法也从基...

3486
来自专栏机器之心

入门 | 了解神经网络,你需要知道的名词都在这里

33313

扫码关注云+社区

领取腾讯云代金券