Mnist+逻辑回归 or Mnist+CNN

Mnist是一个手写数字数据库,这是一个用烂了的数字数据库,在Tensorflow中也是入门必掌握的首个数据集,光说看不见,下面我们先通过代码测试来认识一下该数据集。

1、Mnist数据集是Tensorflow自带的,直接通过库导入即可;

2、55000个训练数据,10000个测试数据;

3、Mnist中数字图像是28*28灰度像素,但Tensorflow中已经被展开成一维的长度为784的行向量;

4、Mnist中数字标签labels是一维长度为10的行向量,在读取数据时设置参数one_hot=true表示的就是将标签读成一个长度为10的数组,只有一个元素的值是1,其他元素的值是0

Softmax实现Mnist手写数字识别系统

Softmax函数在机器学习中经常用到,先让我们理解一下Softmax作用,大家都知道max,如果有a > b,则max函数取a;但是在机器学习中如果一直这么做会导致小的那个数饥饿,所以Softmax函数便避免这一现象,Softmax实现让大的那个数经常取到,小的那个数偶尔取到。

回到Mnist数据集识别上来,一张数字图片数字可能是0-9中任意一个数,Softmax便会给每一个数字分配概率,最后自然是去概率最大的那个数字作为最终的结果。

上图关键代码

先定义输入图像变量x (长度为784的一维向量),[None, 784]其中None的含义是训练时将采用数据批处理,每次处理图片数量未定即None

下面我们来看一下模型评估

其中主要关注tf.argmax和tf.equal函数

tf.argmax函数是给出某个tensor对象在某一个维度上数据最大值所在的索引;

tf.equal函数便是比较真实值和预测值的索引是否一致,也就代表是值是否一致,实现对模型的正确率进行评估

CNN实现Mnist手写数字识别系统

CNN卷积神经网络是深度神经网络中的一种,广泛应用于图像处理,本文不详细接受CNN的运作原理。主要分析一下如何在Mnist数据集上建立一个简单的卷积神经网络结构。

首先大致清楚CNN卷积神经网络包含以下五层:

1、输入层

2、卷积层

3、池化层

4、全连接层

5、输出层

上图关键代码

卷积层前先定义输入图像变量x和输出变量y

输入灰度图像x是长度为784的一维的向量,输出y是长度为10的一维0、1向量

在参数w、b的设置过程中要注意特征数的变化,第一层卷积中参数w中[5, 5, 1, 32]其中5,5表示卷积核的大小;1代表图像通道数,本例是灰度图像所以是1,如果是RGB则便是3;32则表示经过第一层卷积层输出的32维特征数据。

看上图,同理,在第二层卷积层中,参数w [5, 5, 32, 64]其中32是因为第一层卷积层输出的是一个32维特征的数据,64则表示第二层卷积将输出64维特征的图像数据

上图,全连接层中,这里着重讲解为什么参数w中的设置为 [7*7*64, 1024]

先看为什么设置7*7*64, 回看上面两层卷积,在每次池化过程中,图像将会变小,池化层中采用的池化核和步长是ksize=[1, 2, 2, 1], strides=[1, 2, 2, 1],即每经过一次池化层图像就会缩小2*2,也就是4倍,经过了两次卷积,原本输入的一维的28*28的图像已经变成了64维的7*7的图像。 这样参数的设置是不是就很清晰了

1024相信大家已经清楚了,就是在全连接层中将图像64维7*7的灰度图像数据映射成长度为1024的一维向量

上图输出层中参数w [1024, 10],其中1024自然便是全连接层输出的是长度为1024的数据,而10便输出最终的预测标签,和最终的标签格式便一致了

最后定义根据预测结果y_conv和真实标签y定义损失函数,启动session会话进行训练和第一种方法就相同了

模型评估和第一种方法相同,这里不在重复

最后对于上述两种方法都能够实现Mnist手写数字识别系统,自然CNN卷积神经网络实现的模型精准度更高,能达到99.2%,自然复杂度也相对较高

喜欢就关注,笔芯

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20180821G0T5EO00?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。

扫码关注云+社区

领取腾讯云代金券