前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >手把手教你开发人工智能微信小程序(4): 训练手写数字识别模型

手把手教你开发人工智能微信小程序(4): 训练手写数字识别模型

作者头像
云水木石
发布2020-02-18 16:16:42
1K0
发布2020-02-18 16:16:42
举报
文章被收录于专栏:大龄程序员的人工智能之路

在上篇文章《手把手教你开发人工智能微信小程序(3):加载数据》中,我给大家演示了如何通过fetch加载网络数据并进行数据归范化,出于演示的目的,例子做了简化处理,本文中将给大家介绍一个稍微复杂一点的例子:手写数字识别。很多机器学习的教程都以手写数字识别作为上手的示例,我在之前的文章也写过几篇:

可供参考。在本文中,我将演示如何训练卷积神经网络模型来识别手写数字。

需要说明的是,不建议在微信小程序中训练模型,而且通常的流程是模型训练与模型使用分离,本文的示例在实用性上可能欠缺,仅仅是为了给大家展示一种可能性,同时让大家对整个机器学习的过程有所了解。阅读完本文后,你将了解到:

  • 如何通过网络加载图片类型数据
  • 如何使用tfjs Layers API定义模型结构
  • 如何训练模型以及评估模型
加载MNIST数据

针对手写数字识别问题,网络上已经有公开数据集MNIST。这是一套28x28大小手写数字的灰度图像,包含55000个训练样本,10000个测试样本,另外还有5000个交叉验证数据样本。该数据集有多种格式,如果使用keras、tensorflow之类的python机器学习框架,通常有内置的API加载和处理MNIST数据集,但tensorflow.js并没有提供,所以需要自己编写。

常见的MNIST数据集是以多张通过目录进行归类的图片集,比如手写数字0的图片都放到目录名为0的目录下,手写数字1的图片都放到目录名为1的目录下,依次类推,如下图所示:

按目录归类的数据集

也有的数据集是将所有图片放到一个目录下,然后加上一个文本文件,描述每个文件对应的标签:

csv文件

这种形式的数据集并不适合tfjs,因为出于安全的考虑,js无法访问本地文件,大量小的文件的网络访问效率很低。所以有人将65000个图片合并为一张图片,但不是简单的将65000个图片拼接起来,而是将每个图片的二进制像素线性展开,一张手写数字图片供784个像素,占图片中的一行,最后得到的图像尺寸为784 * 65000,最后形成的图像对我们来说像是一张无意义的图片:

拼接的MNIST图片

加载MNIST图像数据的代码如下:

代码语言:javascript
复制
  async load(canvasId, imgWidth, imgHeight) {
    const ctx = wx.createCanvasContext(canvasId);
    
    const datasetBytesBuffer =
      new ArrayBuffer(NUM_DATASET_ELEMENTS * IMAGE_SIZE * 4);

    const chunkSize = 5000;

    let drawJobs = [];
    for (let i = 0; i < NUM_DATASET_ELEMENTS / chunkSize; i++) {
      const datasetBytesView = new Float32Array(
        datasetBytesBuffer, i * IMAGE_SIZE * chunkSize * 4,
        IMAGE_SIZE * chunkSize);
      ctx.drawImage(
        MNIST_IMAGES_SPRITE_PATH, 0, i * chunkSize, imgWidth, chunkSize, 0, 0, imgWidth,
        chunkSize);

      drawJobs.push(new Promise((resolve, reject) => {
        ctx.draw(false, () => {
          // API 1.9.0 获取图像数据
          wx.canvasGetImageData({
            canvasId: canvasId,
            x: 0,
            y: 0,
            width: imgWidth,
            height: chunkSize,
            success(imageData) {
              for (let j = 0; j < imageData.data.length / 4; j++) {
                // All channels hold an equal value since the image is grayscale, so
                // just read the red channel.
                datasetBytesView[j] = imageData.data[j * 4] / 255;
              }
              resolve();
            },
            fail: e => {
              console.error(e);
              resolve();
            },
          });
        });
      }));
    }
    await Promise.all(drawJobs);

    this.datasetImages = new Float32Array(datasetBytesBuffer);

    const fetch = fetchWechat.fetchFunc();
    const labelsResponse = await fetch(MNIST_LABELS_PATH);

    this.datasetLabels = new Uint8Array(await labelsResponse.arrayBuffer());

    // Create shuffled indices into the train/test set for when we select a
    // random dataset element for training / validation.
    this.trainIndices = tf.util.createShuffledIndices(NUM_TRAIN_ELEMENTS);
    this.testIndices = tf.util.createShuffledIndices(NUM_TEST_ELEMENTS);

    // Slice the the images and labels into train and test sets.
    this.trainImages =
      this.datasetImages.slice(0, IMAGE_SIZE * NUM_TRAIN_ELEMENTS);
    this.testImages = this.datasetImages.slice(IMAGE_SIZE * NUM_TRAIN_ELEMENTS);
    this.trainLabels =
      this.datasetLabels.slice(0, NUM_CLASSES * NUM_TRAIN_ELEMENTS);
    this.testLabels =
      this.datasetLabels.slice(NUM_CLASSES * NUM_TRAIN_ELEMENTS);
  }

这段代码有几点需要注意:

  1. 因为送入模型训练的是像素RGB数据,所以需要先对图片进行解码,提取每个手写数字对应的784个像素值,在微信小程序中是借助Canvas绘制图像这种方式获得,也许有其它更好的直接解码的方法。
  2. 因为canvasGetImageData是一个异步方法,所以代码中使用了Promise异步模式,等待所有图像数据获取完毕。而图像分部分绘制,也是避免大图片绘制导致内存问题。
  3. 整个数据集拆分为训练数据集和测试数据集,训练数据集包含55000个数据,测试数据集10000个数据。nextTrainBatch(batchSize)方法从训练集中返回一组随机图像及其标签。nextTestBatch(batchSize)方法从测试集中返回一批图像及其标签。
定义模型结构

关于卷积神经网络,可以参阅《一步步提高手写数字的识别率(3)》这篇文章,这里定义的卷积网络结构为:

CONV -> MAXPOOlING -> CONV -> MAXPOOLING -> FC -> SOFTMAX

每个卷积层使用RELU激活函数,代码如下:

代码语言:javascript
复制
function getModel() {
  const model = tf.sequential();

  const IMAGE_WIDTH = 28;
  const IMAGE_HEIGHT = 28;
  const IMAGE_CHANNELS = 1;

  // In the first layer of out convolutional neural network we have
  // to specify the input shape. Then we specify some paramaters for
  // the convolution operation that takes place in this layer.
  model.add(tf.layers.conv2d({
    inputShape: [IMAGE_WIDTH, IMAGE_HEIGHT, IMAGE_CHANNELS],
    kernelSize: 5,
    filters: 8,
    strides: 1,
    activation: 'relu',
    kernelInitializer: 'varianceScaling'
  }));

  // The MaxPooling layer acts as a sort of downsampling using max values
  // in a region instead of averaging.
  model.add(tf.layers.maxPooling2d({poolSize: [2, 2], strides: [2, 2]}));

  // Repeat another conv2d + maxPooling stack.
  // Note that we have more filters in the convolution.
  model.add(tf.layers.conv2d({
    kernelSize: 5,
    filters: 16,
    strides: 1,
    activation: 'relu',
    kernelInitializer: 'varianceScaling'
  }));
  model.add(tf.layers.maxPooling2d({poolSize: [2, 2], strides: [2, 2]}));

  // Now we flatten the output from the 2D filters into a 1D vector to prepare
  // it for input into our last layer. This is common practice when feeding
  // higher dimensional data to a final classification output layer.
  model.add(tf.layers.flatten());

  // Our last layer is a dense layer which has 10 output units, one for each
  // output class (i.e. 0, 1, 2, 3, 4, 5, 6, 7, 8, 9).
  const NUM_OUTPUT_CLASSES = 10;
  model.add(tf.layers.dense({
    units: NUM_OUTPUT_CLASSES,
    kernelInitializer: 'varianceScaling',
    activation: 'softmax'
  }));


  // Choose an optimizer, loss function and accuracy metric,
  // then compile and return the model
  const optimizer = tf.train.adam();
  model.compile({
    optimizer: optimizer,
    loss: 'categoricalCrossentropy',
    metrics: ['accuracy'],
  });

  return model;
}

如果有过tensorflow python代码编写经验,上面的代码应该很容易理解。

训练模型

在浏览器中训练,也可以批量输入图像数据,可以指定batch size,epoch轮次。

代码语言:javascript
复制
  const metrics = ['loss', 'val_loss', 'acc', 'val_acc'];
  const container = {
    name: 'Model Training', styles: { height: '1000px' }
  };
  // const fitCallbacks = tfvis.show.fitCallbacks(container, metrics);

  const BATCH_SIZE = 512;
  const TRAIN_DATA_SIZE = 5500;
  const TEST_DATA_SIZE = 1000;

  const [trainXs, trainYs] = tf.tidy(() => {
    const d = data.nextTrainBatch(TRAIN_DATA_SIZE);
    return [
      d.xs.reshape([TRAIN_DATA_SIZE, 28, 28, 1]),
      d.labels
    ];
  });

  const [testXs, testYs] = tf.tidy(() => {
    const d = data.nextTestBatch(TEST_DATA_SIZE);
    return [
      d.xs.reshape([TEST_DATA_SIZE, 28, 28, 1]),
      d.labels
    ];
  });

  return model.fit(trainXs, trainYs, {
    batchSize: BATCH_SIZE,
    validationData: [testXs, testYs],
    epochs: 10,
    shuffle: true,
  });

tfvis库在微信小程序中不能正常工作,所以无法像在浏览器中训练那样,可视化监控训练过程。这个训练过程比较长,我在微信开发者工具中通过模拟器大概需要半个小时,请耐心等待。

评估训练的模型

评估时喂入测试集:

代码语言:javascript
复制
function doPrediction(model, data, testDataSize = 500) {
  const IMAGE_WIDTH = 28;
  const IMAGE_HEIGHT = 28;
  const testData = data.nextTestBatch(testDataSize);
  const testxs = testData.xs.reshape([testDataSize, IMAGE_WIDTH, IMAGE_HEIGHT, 1]);
  const labels = testData.labels.argMax([-1]);
  const preds = model.predict(testxs).argMax([-1]);

  testxs.dispose();
  return [preds, labels];
}

计算在测试集上的准确率,也就是统计预测值和真实值匹配的个数:

代码语言:javascript
复制
    const predsArray = preds.dataSync();
    const labelsArray = labels.dataSync();
    var n = 0;
    for (var i = 0; i < predsArray.length; i++) {
      console.log(predsArray[i]);
      console.log(labelsArray[i]);
      if (predsArray[i] == labelsArray[i])
        n++;
    }
    const accuracy = n / predsArray.length;
    console.log(accuracy);
小结

本文探讨了如何从网络加载MNIST数据集,定义卷积神经网络模型,训练模型及评估模型。这个简单的例子,包含了机器学习的整个过程,虽然在实际中我们可能不会这样用。在下篇文章中,我将介绍如何使用现有模型。如果你有什么建议,欢迎留言。

本系列文章的源码请访问:

https://github.com/mogotech/wechat-tfjs-examples

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2020-02-05,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 云水木石 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 加载MNIST数据
  • 定义模型结构
  • 训练模型
  • 评估训练的模型
  • 小结
相关产品与服务
云开发 CloudBase
云开发(Tencent CloudBase,TCB)是腾讯云提供的云原生一体化开发环境和工具平台,为200万+企业和开发者提供高可用、自动弹性扩缩的后端云服务,可用于云端一体化开发多种端应用(小程序、公众号、Web 应用等),避免了应用开发过程中繁琐的服务器搭建及运维,开发者可以专注于业务逻辑的实现,开发门槛更低,效率更高。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档