机器学习从入门到XX(五):神经网络模型

神经网络

神经网络(Neural Network)是一种十分强大的机器学习算法。神经网络的模型类似脑细胞传递神经信号的方式。下面是单个脑细胞的示意图:

一个脑细胞通过多个树突接收某种电信号,然后通过轴突将信号传递给下一个脑细胞。大量的脑细胞彼此相连就会形成一个极其庞大的网络。神经网络算法正是模拟了脑细胞传播电信号的过程。

下面是通过课程作业,实现的一个手写体数字识别的机器学习例子。采用的是神经网络算法实现的多元分类问题。在这个例子中,我们试图将一张点阵图识别成0-9的数字,因此,该分类问题的分类结果总共有10类,输入则是每一张20x20的点阵图像素组成的向量。

模型表示

让我们来看看如何表示神经网络的假设函数。可以把单个神经元看成是一个接收输入信号,经过一定的“激励”后,输出信号的单元。在我们的模型中,输入就好比特征向量x1⋯xn,输出则是假设函数的值。针对输入向量,我们会增加一个x0项,称为偏差单元(bias unit),并且总是为1。

输入节点也称为输入层,输出节点也称为输出层。只有输入层和输出层的神经网路其实跟逻辑回归模型没有区别。我们可以在输入层和输出层之前增加若干隐藏层,隐藏层中的单元也叫激励单元(activation units)。

实现逻辑运算

为了更好的理解上述模型,下面通过神经网络算法来训练模型进行逻辑运算。首先先实现一个逻辑或运算x1 ORx2:

如上图,我们通过一个简单的2层神经网络实现了一个OR逻辑门。

对于这个问题似乎使用普通的逻辑回归也能解决,那是因为对于逻辑或而言,仍然属于线性问题。但是下面我们要计算的同或运算,就是非线性问题了:

我们可以把同或运算写成如下形式:

(x1ANDx2) OR ((NOTx1) AND (NOTx2))

通过组合,我们可以得到下面的神经网络:

这是个3层神经网络,有一个输入层,一个隐藏层(2个激励节点),一个输出层:

实现逻辑运算

上述逻辑运算的例子最后得到的是一个值(即0或1)。很多实际的问题需要我们解决多元分类问题。其实我们只要让神经网络输出层包含多个节点即可,例如将一个张图的像素输入,预测图片是什么:

夏洛克 AIOps

Make Data Think

人工智能 | 机器学习 | IT运维

  • 发表于:
  • 原文链接http://kuaibao.qq.com/s/20180419G0IVQZ00?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 yunjia_community@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券