如何用 Python 和 fast.ai 做图像深度迁移学习?

本文带你认识一个优秀的新深度学习框架,了解深度学习中最重要的3件事。

框架

看到这个题目,你可能会疑惑:

老师,你不是讲过如何用深度学习做图像分类了吗?迁移学习好像也讲过了啊!

说得对!我要感谢你对我专栏的持续关注。我确实讲过深度学习做图像分类,以及迁移学习这两项内容。

写这篇文章,是因为最近因为科研的关系,发现了 fast.ai 这款框架。我希望把它介绍给你。

你可能会不解,之前介绍过的 TuriCreate, Tensorflow, tflearn 和 Keras 好像都挺好用的啊!

我想问问,你在实际的科研工作里,用过哪一个呢?

大多数的读者,只怕基本上都没真正用它们跑过实际的任务。

为什么呢?

因为对普通用户(例如我经常提到的“文科生”),这些框架要么用起来很简单,但是功能不够强大;要么功能很强大,但是不够易用。

例如苹果的 TuriCreate ,我给你演示过,直接零基础上手都没问题。但当你希望对模型进行构造调整的时候,马上就会发现困难重重。因为其专长在于快速产生模型,并且部署到苹果移动设备,因此文档里面底层细节的介绍是有欠缺的。而且有些模型,非苹果平台目前还不能兼容。

至于某著名框架,直到推出3年后,在各方压力下,不得已才把好用的 Eager Execution 作为主要使用模式。其间充分体现了那种技术人员独有的傲慢和固执。另外,就连程序员和数据科学家们都把吐槽“看不懂”它的官方文档当作了家常便饭。这些轶事,由于公开发布会招致口水仗,所以我只写在了知识星球专属语雀团队《发现了一套非常棒的(该框架名称)视频教程》一文中。感兴趣的话,不妨去看看。

原本我认为, Keras 已经是把功能和易用性做到了最佳平衡了。直到我看到了 Jeremy Howard,也就是 fast.ai 创始人提出的评判标准——如果一个深度学习框架需要写个教程给你,那它的易用性还不够好。

我看了之后,可以用感动来形容。

Jeremy 说这话,不是为了夸自己——因为他甚至做了个 MOOC 出来。他自己评价,说目前 fast.ai 的易用性依然不算成功。但在我看来, fast.ai 是目前把易用性和功能都做到了极致的深度学习框架。

它的门槛极低。如同 TuriCreate 一样,你可以很轻易用几句话写个图片分类模型出来,人人都能立即上手。

它的天花板又很高。因为它只是个包裹了 Pytorch 的代码库。

你可能也听说了,在过去的一年里,Pytorch 在学术界大放异彩,就是因为它的门槛对于科研人员来说,已经足够友好了。如果你有需求,可以非常方便地通过代码的修改和复用,敏捷构造自己的深度学习模型。

这种积木式的组合方式,使得许多新论文中的模型,可以第一时间被复现验证。如果你在这个过程中有了自己的灵感和心得,可以马上实践。

且慢,fast.ai 的作者不是已经做了自己的 MOOC 了吗?那写这篇文章,岂不是多此一举?

不是的。

首先,作者每年迭代一个 MOOC 的版本,因为 MOOC 一共包括三门课程,分别是:

  • Practical Deep Learning for Coders
  • Cutting Edge Deep Learning for Coders
  • Introduction to Machine Learning for Coders

但现在你能看到的深度学习基础课,还是去年录的。今年10月,伴随着 Pytorch 1.0 的推出, fast.ai 做了一次显著的大版本(1.0)更新。如果你去看去年的课程,会发现和目前的 fast.ai 代码有很多区别。在完成同一个功能时,你愿意再跑去学旧的过时内容吗?特别是,如果搞混了,还很容易出错。

可是,想看到这个版本课程的免费视频,你至少得等到明年1月。因为目前正式学员们也才刚刚开课。

而且,那视频,也是英文的。

正因如此,我觉得有必要给你讲讲,如何用最新的 fast.ai 1.0 版本,来完成图像深度迁移学习。

数据

Jeremy 在 MOOC 中提到,如果你打算让机器通过数据来学习,你需要提供3样东西给它,分别是:

  • 数据(Data)
  • 模型结构(Architecture)
  • 损失度量(Loss Metrics)

模型结构,是根据你的具体问题走的。例如说,你需要让机器做图片分类,那么就需要使用卷积神经网络(Convolutional Neural Network)来表征图片上的像素信息构成的特征。如果你需要做自然语言处理,那么就可以使用循环神经网络(Recurrent Neural Network)来捕捉文本或者字符的顺序关联信息。

损失衡量,是指你提供一个标准,衡量机器对某项任务的处理水平。例如说对于分类效果如何,你可以使用交叉熵(Binary Cross Entropy)来评判。这样,机器会尝试最小化损失结果,从而让分类表现越来越好。

至于数据,因为我们这里的任务是做分类。因此需要有标注的训练数据。

我已经把本文需要用到的数据放到了这个 github 项目上。

打开其中的 imgs 文件夹,你会看见3个子文件夹,分别对应训练(train),验证(valid)和测试(test)。

打开 train 文件夹看看。

你没猜错,我们用的图片还是哆啦A梦(doraemon)和瓦力(walle)。

因为这样不仅可以保持教程的一惯性,而且也可以保证结果对比的公平。

打开哆啦A梦的目录看看:

展示其中第一个文件内容。

好熟悉,是不是?

你可以浏览一下其他的哆啦A梦照片,然后别忘了去瓦力的文件夹里面扫上一眼。

这就是我们的数据集了。

环境

为了运行深度学习代码,你需要一个 GPU 。但是你不需要去买一个,租就好了。最方便的租用方法,就是云平台。

fast.ai 官方,给出了以下5种云计算平台使用选项:

  • Paperspace Gradient
  • Salamander
  • SageMaker
  • Google Compute Platform
  • Amazon Web Services EC2

其中,我推荐你使用的,是 Google Compute Platform 。原因很简单,首先它成本低,每小时只需要 0.38 美元。更重要的是,如果你是新用户, Google 会先送给你300美金,1年内有效。算算看,这够你运行多久深度学习?

原先,fast.ai 上面的设置 Google Compute Platform 教程写得很简略。于是我写了个一步步的教程,请使用这个链接访问。

不过,我发现 fast.ai 的迭代速度简直惊人,短短几天时间,新的教程就出来了,而且详尽许多。因此你也可以点击这里查看官方的教程。其中如果有跳步,你可以回看我的教程,作为补充。

因此,Google Compute Platform 中间步骤,咱们就不赘述了。当你的终端里面出现这样的提示的时候,就证明一切准备工作都就绪了。

下面,你需要下载刚刚在 github 上面的代码和数据集。

git clone https://github.com/wshuyi/demo-image-classification-fastai.git

之后,就可以呼叫 jupyter 出场了。

jupyter lab

注意因为你是在 Google Compute Platform 云端执行 jupyter ,因此浏览器不会自动弹出。

你需要打开 Firefox 或者 Chrome,在其中输入这个链接(http://localhost:8080/lab?)。

打开左侧边栏里面的 demo.ipynb

本教程全部的代码都在这里了。当然,你如果比较心急,可以选择执行Run->Run All Cells,查看全部运行结果。

但是,跟之前一样,我还是建议你跟着教程的说明,一步步执行它们。以便更加深刻体会每一条语句的含义。

载入

我们先要载入数据。第一步是从 fast.ai 读入一些相关的功能模块。

from fastai import *
from fastai.vision import *
from fastai.core import *

接着,我们需要设置数据所在文件夹的位置,为 imgs 目录。

执行:

path = Path('imgs')

下面,我们让 fast.ai 帮我们载入全部的数据。这时我们调用 ImageDataBunch 类的 from_folder 函数,结果存储到 data 中:

data = ImageDataBunch.from_folder(path, test='test', ds_tfms=get_transforms(), size=224)

注意这里,我们不仅读入了数据,还顺手做了2件事:

  • 我们进行了数据增强(augmentation),也就是对数据进行了翻转、拉伸、旋转,弄出了很多“新”训练数据。这样做的目的,是因为数据越多,越不容易出现过拟合(over-fitting),也就是模型死记硬背,蒙混考试,却没有抓住真正的规律。
  • 我们把图片大小进行了统一,设置成了 224 x 224 ,这样做的原因,是我们需要使用迁移学习,要用到预训练模型。预训练模型是在这样大小的图片上面训练出来的,因此保持大小一致,效果更好。

下面,检查一下数据载入是否正常:

data.show_batch(rows=3, figsize=(10,10))

没问题。图片和标记都是正确的。

训练

用下面这一条语句,我们把“数据”、“模型结构”和“损失度量”三样信息,一起喂给机器。

learn = ConvLearner(data, models.resnet34, metrics=accuracy)

数据就不说了,模型我们采用的是 resnet34 这样一个预训练模型作为基础架构。至于损失度量,我们用的是准确率(accuracy)。

你可能会纳闷,这就完了?不对呀!

没有告诉模型类别有几个啊,没有指定任务迁移之后接续的几个层次的数量、大小、激活函数……

对,不需要。

因为 fast.ai 根据你输入的上述“数据”、“模型结构”和“损失度量”信息,自动帮你把这些闲七杂八的事情默默搞定了。

下面,你需要用一条指令来训练它:

learn.fit_one_cycle(1)

注意,这里我们要求 fast.ai 使用 one cycle policy 。如果你对细节感兴趣,可以点击这个链接了解具体内容。

5秒钟之后,训练结束。

验证集准确率是,100%。

注意,你“拿来”的这个 resnet34 模型当初做训练的时候,可从来没有见识过哆啦A梦或者瓦力。

看了100多张形态各异,包含各种背景噪声的图片,它居然就能 100% 准确分辨了。

之前我们讲过机器学习的可解释性很重要。没错,fast.ai 也帮我们考虑到了这点。

preds,y = learn.get_preds()
interp = ClassificationInterpretation(data, preds, y, loss_class=nn.CrossEntropyLoss)

执行上面这两行语句,不会有什么输出。但是你手里有了个解释工具。

我们来看看,机器判断得最不好的9张图片都有哪些?

interp.plot_top_losses(9, figsize=(10,10))

因为准确率已经 100% 了,所以单看数值,你根本无法了解机器判断不同照片的时候,遇到了哪些问题。但是这个解释器却可以立即让你明白,哪些图片,机器处理起来,底气(信心)最为不足。

我们还能让解释器做个混淆矩阵出来:

interp.plot_confusion_matrix()

不过这个混淆矩阵好像没有什么意思。反正全都判断对了。

评估

我们的模型,是不是已经完美了?

不好说。

因为我们刚才展示的,只是验证集的结果。这个验证集,机器在迭代模型参数的时候每一回都拿来尝试。所以要检验最为真实的效能,我们需要让机器看从来没有看到过的图片。

你可以到 test 目录下面,看看都有什么。

注意这里一共6张图片,3张哆啦A梦的,3张瓦力的。

这次,我们还会使用刚才用过的 get_preds 函数。不过区别是,我们把 is_test 标记设置为 True,这样机器就不会再去验证集里面取数据了,而是看测试集的。

preds,y = learn.get_preds(is_test=True)

注意目录下面看到的文件顺序,是依据名称排列的。但是 fast.ai 读取数据的时候,其实是做了随机洗牌(randomized shuffling)。我们得看看实际测试集里面的文件顺序。

data.test_dl.dl.dataset.ds.x

好了,我们自己心里有数了。下面就看看机器能不能都判断正确了。

preds

这都啥玩意儿啊?

别着急,这是模型预测时候,根据两个不同的分类,分别给出的倾向数值。数值越大,倾向程度越高。

左侧一列,是哆啦A梦;右侧一列,是瓦力。

我们用 np.argmax 函数,把它简化一些。

np.argmax(preds, axis=1)

这样一来,看着就清爽多了。

我们来检查一下啊:瓦力,瓦力,哆啦A梦,哆啦A梦,哆啦A梦,哆啦A梦……

不对呀!

最后这一张,walle.113.jpg,不应该判断成瓦力吗?

打开看看。

哦,难怪。另一个机器人也出现在图片中,圆头圆脑的,确实跟哆啦A梦有相似之处。

要不,就这样了?

微调

那哪儿行?!

我们做任务,要讲究精益求精啊。

遇到错误不要紧,我们尝试改进模型。

用的方法,叫做微调(fine-tuning)。

我们刚刚,不过是移花接木,用了 resnet34 的身体,换上了一个我们自定义的头部层次,用来做哆啦A梦和瓦力的分辨。

这个训练结果,其实已经很好了。但是既然锁定了“身体”部分的全部参数,只训练头部,依然会遇到判断失误。那我们自然想到的,就应该是连同“身体”,一起调整训练了。

但是这谈何容易?

你调整得动作轻微,那么效果不会明显;如果你调整过了劲儿,“身体”部分的预训练模型通过海量数据积累的参数经验,就会被破坏掉。

两难啊,两难!

好在,聪明的研究者提出了一个巧妙的解决之道。这非常符合我们不只一次提及的“第一性原理”,那就是返回到事情的本源,问出一句:

谁说调整的速度,要全模型都一致?!

深度卷积神经网络,是一个典型的层次模型。

模型靠近输入的地方,捕获的是底层的特征。例如边缘形状等。

模型靠近输出的地方,捕获的是高层特征,例如某种物体的形貌。

对于底层特征,我们相信哆啦A梦、瓦力和原先训练的那些自然界事物,有很多相似之处,因此应该少调整。

反之,原先模型用于捕获猫、狗、兔子的那些特征部分,我们是用不上的,因此越靠近输出位置的层次,我们就应该多调整。

这种不同力度的调整,是通过学习速率(learning rate)来达成的。具体到我们的这种区分,专用名词叫做“歧视性学习速率”(discriminative learning rate)。

你可能想放弃了,这么难!我不玩儿了!

且慢,看看 fast.ai 怎么实现“歧视性学习速率”。

learn.unfreeze()
learn.fit_one_cycle(3, slice(1e-5,3e-4))

对,只需在这里指定一下,底层和上层,选择什么不同的起始速率。搞定。

没错,就是这么不讲道理地智能化

这次,训练了3个循环(cycle)。

注意,虽然准确率没有变化(一直是100%,也不可能提升了),但是损失数值,不论是训练集,还是验证集上的,都在减小。

这证明模型在努力地学东西。

你可能会担心:这样会不会导致过拟合啊?

看看就知道了,训练集上的损失数值,一直高于验证集,这就意味着,没有过拟合发生的征兆。

好了,拿着这个微调优化过后的模型,我们再来试试测试集吧。

首先我们强迫症似地看看测试集文件顺序有没有变化:

data.test_dl.dl.dataset.ds.x

既然没有变,我们就放心了。

下面我们执行预测:

preds,y = learn.get_preds(is_test=True)

然后,观察结果:

np.argmax(preds, axis=1)

如你所见,这次全部判断正确。

可见,我们的微调,是真实有用的。

小结

本文为你介绍了如何用 fast.ai 1.0 框架进行图像深度迁移学习。可以看到, fast.ai 不仅简洁、功能强大,而且足够智能化。所有可以帮用户做的事情,它全都替你代劳。作为研究者,你只需要关注“数据”、“模型结构”和“损失度量”这3个关键问题,以改进学习效果。

我希望你不要满足于把代码跑下来。用你获得的300美金,换上自己的数据跑一跑,看看能否获得足够满意的结果。

祝(深度)学习愉快!

原文发布于微信公众号 - 玉树芝兰(nkwangshuyi)

原文发表时间:2018-10-26

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏机器之心

资源 | ChainerCV:基于Chainer的深度学习计算机视觉实用库(内含工具集)

选自GitHub 作者:二井谷勇佑(Yusuke Niitani) 机器之心编译 参与:黄小天、蒋思源 近日,Preferred Networks 通过其研究博...

32011
来自专栏人工智能头条

谢澎涛:如何评价Eric Xing实验室做的Petuum分布式机器学习平台?

1542
来自专栏机器学习人工学weekly

机器学习人工学weekly-2018/7/1

Building the Software 2.0 Stack by Andrej Karpathy from Tesla

1304
来自专栏目标检测和深度学习

资源 | DLL:一个炙手可热的快速深度神经网络库

741
来自专栏MixLab科技+设计实验室

TensorFlow.js、迁移学习与AI产品创新之道

TensorFlow 的 JS 版本终于出啦,deeplearn.js 正式收编至 TensorFlow 项目,并改名为 TensorFlow.js : 采用 ...

4574
来自专栏人工智能

安卓恶意软件检测:系统调用日志+机器学习算法

本文内容源自Sanya Chaba等人的学术论文《Malware Detection Approach for Android systems Using Sy...

4175
来自专栏人工智能

深入机器学习系列10-ALS

交换最小二乘 ? 1 什么是ALSALS是交替最小二乘(alternating least squares)的简称。在机器学习中,ALS特指使用交替最小二乘求解...

2926
来自专栏PaddlePaddle

PaddlePaddle 版本1.1.0发布啦!

PaddlePaddle在基础框架、模型建设、分布式训练、预测引擎各个方向上完成多项更新。OP进行了全面完善和优化,模型库新增了自然语言处理、视觉和推荐等领域的...

1634
来自专栏机器之心

教程 | 用深度学习DIY自动化监控系统

监控是安保和巡查一个不可或缺的组成部分。在大多数情况下,这项工作需要长时间去查找一些你不期望发生的事。我们做的这件事很重要,但也是一项非常乏味的任务。

1641
来自专栏新智元

DeepMind 提出分层强化学习新模型 FuN,超越 LSTM

【新智元导读】在用强化学习玩游戏的路上越走越远的 DeepMind,今天发表在 arxiv上的最新论文《分层强化学习的 FeUdal 网络》引起热议。简称 Fu...

46512

扫码关注云+社区