ImageNet这八年:李飞飞和被她改变的AI世界

李杉 安妮 编译自 QZ 量子位 报道 | 公众号 QbitAI

2006年,李飞飞开始考虑一个想法。

当时刚刚出任伊利诺伊大学香槟分校计算机教授的她发现,整个学术圈和人工智能行业都在苦心研究同一个概念:通过更好的算法来制定决策,但却并不关心数据。

她意识到这种方法的局限——如果使用的数据无法反映真实世界的状况,即便是最好的算法也无济于事。

她的解决方案是建设更好的数据集。

“我们决定做一件史无前例的事情。”李飞飞说,她指的是最初与自己共事的那个小团队。“我们的对象是全世界的物体。”

由此制作的数据集名为ImageNet,它作为论文于2009年发布时,还只能以海报的形式缩在迈阿密海滩大会的角落里,但却很快成为了一场年度竞赛:看看究竟哪种算法能以最低的错误率识别出其中的图像所包含的物体。很多人都将此视作当今这轮人工智能浪潮的催化剂。

参与ImageNet挑战赛的企业遍布科技行业的每个角落。2010年的第一场竞赛优胜者都出任了百度、谷歌和华为的高管。马修·泽勒(Matthew Zeiler)利用2013年赢得ImageNet挑战赛时的程序创办了Clarifai公司,目前获得了4000万美元风险投资。

2014年,谷歌与来自牛津大学的两位研究人员共同赢得竞赛,这两个人很快就被谷歌招募,并加入了他们最近收购的DeepMind实验室。李飞飞本人目前也兼任谷歌云首席科学家、斯坦福大学教授及该校人工智能实验室主任等多项职责。

今天,她将登上CVPR的舞台,最后一次讨论ImageNet的年度结果——2017年是这场竞赛的最后一年。短短7年内,优胜者的识别率就从71.8%提升到97.3%,超过了人类,并证明了更庞大的数据可以带来更好的决策。

即便竞赛本身结束,它留下的遗产仍会继续影响整个行业。2009年以来,数十个新开发的人工智能研究数据集已经引入了计算机视觉、神经语言处理和语音识别等子领域。

“ImageNet改变了人们的思维模式:虽然很多人仍然关心模型,但也很关注数据。”李飞飞说,“数据重新定义了我们对模型的思考方式。”

什么是ImageNet?

1980年代,普林斯顿大学心理学家乔治·米勒(George Miller)启动了一个名叫WordNet的项目,目的是为英语建立一套体系结构。这有点像一本词典,但所有的单词都会按照与其他单词的关系来显示,而不是按照字母顺序排列。

例如,在WordNet里面,dog(狗)将放在canine(犬科)下面,canine则会放在mammal(哺乳动物)下面,以此类推。这种语言组织方式依赖的是机器所能读懂的逻辑,并由此汇集了超过15.5万个索引单词。

ImageNet的层级划分灵感来自WordNet

李飞飞在伊利诺伊大学香槟分校担任首份教职时,始终受困于机器学习的一个关键矛盾:过度拟合和泛化。如果一个算法只有碰到与其之前看到的数据相似的其他数据时,才能发挥作用,这个模型就被视作对该数据过度拟合。也就是说,它无法理解任何比这些例子更加普遍的数据。另一方面,如果一个模型不挑选数据之间的正确模式,就称之为过度泛化。

李飞飞表示,完美的算法距离我们似乎还很遥远。她认为,之前的数据集并没有体现世界的多样性——就算是识别猫咪的图片也是一件极其复杂的事情。但通过向算法呈现更多例子,使之了解世界的复杂性,那么从数学意义上讲,的确可以起到更好的效果。如果你只看过5张猫咪图片,那就只有5个拍摄视角、光线环境,可能也只看过5个品种的猫。但如果你看过500张猫咪图片,那就可以有更多的例子来得出它们之间的共性。

李飞飞开始研究其他人是如何利用数据体现世界多样性的。在这一过程中,她找到了WordNet。

研究过WordNet的方法后,李飞飞在2006年访问普林斯顿时,找到了一直从事WordNet研究的克里斯蒂安·菲尔鲍姆(Christiane Fellbaum)。菲尔鲍姆认为,WordNet可以为每个单词找到一张相关的图片,但主要是为了参考,而不是建设计算机视觉数据集。通过那次会面,李飞飞设想了一个更加宏大的想法——组建一个庞大的数据集,为每个单词都提供更多例子。

在李飞飞到她的母校普林斯顿大学任职几个月后,便在2007年初启动了ImageNet项目。她开始组建团队来应对这项挑战,先是招募了另外一名教授Kai Li,他随后又说服博士生Jia Deng转到李飞飞的实验室。Jia Deng此后一直协助运营ImageNet项目,直到2017年。

“在我看来,这与其他人所作的事情非常不同。”Jia Deng说,“我明确感觉到这会改变视觉研究领域的运行方式,但我不知道具体如何改变。”

数据集里的物体既包括熊猫和教堂等实物,也包括爱情这样的抽象概念。

李飞飞的第一个想法是以每小时10美元的价格雇佣本科生手工寻找图片,然后添加到数据集中。但她很快发现,按照本科生收集图片的速度,大约需要90年才能完成。

在解散了本科生图片收集小组后,李飞飞和她的团队重新回归算法。能否让计算机视觉算法从互联网上选取图片,人类只负责验证图片的准确性?但经过几个月的研究后,他们认为这项技术同样不可行——未来的算法也会受到局限,只能达到制作数据集时所具备的识别能力。

聘用本科生浪费时间,使用算法存在瑕疵,雪上加霜的是,该团队还缺乏资金——李飞飞说,虽然她四处申请,但那个项目未能获得任何联邦政府拨款。甚至有人说:普林斯顿竟然研究这个课题真是令人感到耻辱,而李飞飞是女性则是这个课题的唯一优势。

当李飞飞跟一个研究生聊天时,事情突然有了转机。那个研究生当时问李飞飞,她有没有听说过亚马逊Mechanical Turk,那项服务可以聘用世界各地的很多人坐在电脑前面通过在线方式完成一些简单的任务,收费也很低。

“她给我看了网站,我可以告诉你,就是在那一天,我知道ImageNet肯定能够实现。”她说,“我们突然之间找到了一款可以扩大规模的工具,如果是聘用普林斯顿的本科生,根本无法想象可以做到这一点。”

亚马逊Mechanical Turk的图像分类界面

Mechanical Turk本身也面临一些障碍,很多工作都要由李飞飞的博士生Jia Deng和Olga Russakofsky来解决。例如,每张图片需要多少人过目?或许两个人就能确定猫是猫,但小型哈士奇可能需要经过10轮验证。如果某些参与该平台的人试图欺骗系统该怎么办?李飞飞的团队最终针对Mechanical Turk参与者的行为开发了一批统计模型,确保数据集中只包含正确的图片。

即便是在找到Mechanical Turk后,仍然花了两年半时间才完成这个数据集。其中包含320万张经过标记的图片,共分成5,247种类别,还包含“哺乳动物”、“汽车”和“家具”等12个子树。

2009年,李飞飞和他的团队发表了ImageNet的论文,还附带了数据集——但并未大张旗鼓地展开宣传。李飞飞回忆道,作为计算机视觉研究领域的顶尖会议,CVPR只允许他们发一张海报,不能进行口头宣传。于是,该团队通过向人们赠送ImageNet品牌的钢笔来吸引关注。当时的人们很怀疑通过更多数据就能改进算法这样一个简单的道理。

“当时有人说,‘如果连一个物体都做不好,为什么要做几千个、几万个物体?’”Jia Deng说。

如果说数据是新时代的石油,那么在2009年,它还只是恐龙的骨头。

ImageNet挑战

2009年,在京都一个计算机视觉会议上,同是参会人员的Alex Berg拉住李飞飞,提议大赛中额外加入用算法定位图像目标的任务。

李飞飞想了想说,不如你加入我们吧。

就这样,Berg、Jia Deng和李飞飞三人用这些数据集撰写了五篇文章,想弄清用算法怎样解释这些庞大的数据。其中第一篇论文还成为用算法给图片分类的标准,也就是ImageNet的前身。

“我们意识到,如果想把这个想法大众化,我们还需要走得更远些。”李飞飞在第一篇论文中写着。

随后,李飞飞奔赴欧洲找到备受瞩目的图像识别大赛PASCAL VOC,对方同意与她合作,并帮助宣传ImageNet。PASCAL有高质量的数据集,相较于ImageNet,PASCAL只有20个目标类别。

随着比赛的进行,到了2012年,PASCAL成为衡量分类算法在当时最复杂的图像数据集上的表现的一个基准。

ImageNet数据库截图

这时,研究人员开始注意到比赛以外的东西——他们的算法经过ImageNet数据集训练后表现更好了。

“当时很意外地发现用ImageNet训练过的模型可以做其他识别任务的启动模型,之后经过微调就能完成任务,”Berg说,“这不仅是神经网络的突破,也是常规认知的飞跃。”

首届ImageNet的两年后,也就是2012年,又发生的一件大事情。如果可以将如今人工智能领域的繁荣归功于某项比赛,那么肯定当属2012年ImageNet挑战宣布研究成果的那一刻。

那一年,多伦多大学的Geoffrey Hinton、Ilya Sutskever和Alex Krizhevsky提出了一种深度卷积神经网络结构:AlexNet,夺得了ImageNet冠军,成绩比比当时的第二名高出41%。

ImageNet大规模图像识别挑战结果

对Hinton和他的两个学生来说,没有比ImageNet更好的机会了。自1980年开始研究人工神经网络以来,Yann LeCun等人还能通过贝尔实验室将研究成果应用在ATM机上,但Hinton当时并没找到施展平台。几年前,英伟达的研究人员已经加速了这些网络的处理过程,但始终没有超越其他技术。

Hinton团队面临着重重瓶颈。虽然当时他们已经演示过将神经网络通过更小的数据集运用在更窄的范围中,比如笔迹检测等,但他们需要更多的数据将这些神经网络运用在现实世界中。

“很明显,如果在ImageNet上做得好,你就能解决图像识别问题。”Sutskever说。

现在,卷积神经网络已经随处可见——Yann LeCun在Facebook用它来给照片分类,自动驾驶汽车用它检测物体,基本上任何图像或视频中的技术都包含它。它能在每个抽象的层次上进行上千次甚至百万次计算,寻找像素之间的模式,认出图片中包含什么物体。

“更令人惊奇的是,人们可以通过深度学习不断改进它,”Sutskerver说,神经网络之间的层能容纳处理更复杂的模式,是目前人工智能领域最流行的一项技术,“深度学习是最正确的决定。”

2012年ImageNet的研究结果让很多人开始了解并复制这种处理方法。曾是Hinton学生、现在纽约大学读博的Matthew Zeiler通过多伦多大学的联系,获得了论文和代码的早期访问权限。

之后,Zeiler辞掉在谷歌的实习,联手纽约大学研究神经网络的教授Rob Fergus,开始为2013年的挑战赛做准备。

功夫不负有心人,他们赢得了挑战赛的最高分。到2014年,所有的高分参赛队员都用了深度神经网络,李飞飞回忆。

“2012年的ImageNet的确是如今AI井喷式发展的重要原因,”Zeiler在接受外媒Quartz采访时说,“之前在语音识别领域有一些令人满意的结果,但没有被公众所知。但ImageNet做到了。”

今天看来,很多人认为ImageNet解决了很多问题,并且错误率低于2%。这是指的分类问题或者识别图像物体的问题,并不代表算法知道这些物体的特性——物体的来源、用途、制造者或者如何与周围物体进行交互。简单说来,算法不能理解它看到的物体。在语音识别中,甚至在自然语言处理中也是如此。

所以,研究人员的下一个目标是让算法理解物体。至于他们用怎样的方法得到达成这个目标,需要我们持续关注。

ImageNet后续

虽然ImageNet比赛结束了,但这1300多万张图片构成的数据集还在。

Berg说他们本来想在2014年停掉这场挑战赛,但谷歌、Facebook等公司纷纷反对,有了ImageNet每年比赛展示出的基准,这些企业界的研究团队就能指着自己的得分说:我们做得不错。于是,结束比赛的想法被一直拖延着。

ImageNet也证明了深度学习需要像它这样的数据集,所以2010年后,谷歌、微软和加拿大高级研究所相继推出了自己的高质量数据集。

如今,数据集变得越来越珍贵了,创业和风投家高调宣扬自己又推出了哪些最新的数据集,自己的算法在ImageNet上的运行情况如何。像谷歌、Facebook和Amazon这样的互联网公司已经开始基于数以百万计的图像、声音片段和文本创造自己的内部数据集,在自己平台上分享。

甚至创业公司也开始收集自己的数据集——做视频理解的AI初创公司TwentyBN就用Amazon Mechanical Turk收集Turk在视频表演上简单的手势动作视频。这家公司已经发布了两个免费使用的学术用数据集,每个都包含10万多条视频。

“从视频到演讲到游戏到一切数据,数据集如雨后春笋般涌现。”李飞飞说。

ImageNet数据的收集和标注耗费了大量人力,但是,它一直秉承着开放和自由使用的原则,人们甚至已经对此习以为常。这个数据集的意义,或许将远大于比赛本身。

2016年,谷歌发布了Open Image数据集,里面包含了被分为6000多类的900万张图片。最近,谷歌升级了这个数据集,标明了了每个物体在图像中所在的位置。DeepMind最近也公布了自己的数据集,里面包含了很多人各种各样的动作。

“ImageNet改变了AI领域人们对数据集的认识,人们真正开始意识到它在研究中的地位,就像算法一样重要。”李飞飞说。

原文发布于微信公众号 - 量子位(QbitAI)

原文发表时间:2017-07-27

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏企鹅号快讯

人工智能大数据背后的神秘公式:贝叶斯公式

转自:工业智能化 大数据、人工智能、海难搜救、生物医学、邮件过滤,这些看起来彼此不相关的领域之间有什么联系?答案是,它们都会用到同一个数学公式——贝叶斯公式。它...

6825
来自专栏新智元

ACL 2016:基于深度学习的 NLP 看点

【新智元导读】计算语言领域顶级会议ACL2016今天公布了10篇优秀论文(outstanding paper)名单。本文介绍 ACL 2016 概况,同时收录清...

5206
来自专栏人工智能

五类受自然启发的AI算法

摘要:本文主要讲解了受自然启发的五类AI算法以及各自的实际用例:神经网络、遗传算法、群集集体智慧、强化学习、人体免疫。 ? 搜索/寻路算法 搜索算法本质上是一个...

22010
来自专栏大数据文摘

机器视觉与深度神经网络—洗去浮华,一窥珠玑

3164
来自专栏新智元

【资源】机器学习和神经网络实践:书籍及博客推介

【新智元导读】前几天我们向大家推荐了自学成为 Data Scientist 在线课程系列,很多人纷纷收藏和分享。今天新智元再针对数学,为大家介绍几本书和相关资料...

3798
来自专栏量子位

UC伯克利超酷研究:舞痴和舞王之间,只差一个神经网络

现在只要有别人跳舞的视频,你也随时都可以是视频里的主角,而且无需动辄昂贵的3D或是动作捕捉技术。

1254
来自专栏机器之心

业界 | 从视频到语句,优必选获TRECVID 2017子任务冠军

38915
来自专栏PPV课数据科学社区

五类受自然启发的AI算法

摘要: 本文主要讲解了受自然启发的五类AI算法以及各自的实际用例:神经网络、遗传算法、群集集体智慧、强化学习、人体免疫。 ? 搜索/寻路算法 搜索算法...

3854
来自专栏新智元

【遗失的秘钥】贝叶斯定理:人工智能的进化论?

贝叶斯定理正在变得如此流行,以至于在CBS剧《生活大爆炸》中也出现了它的身影。纽约时报说,贝叶斯统计学家“遍布一切,从物理学到癌症研究,从生态学到心理学”。物理...

3438
来自专栏CDA数据分析师

22本数据分析、挖掘的好书推荐—绝对干货,不看后悔!

1. 深入浅出数据分析 这书挺简单的,基本的内容都涉及了,说得也比较清楚,最后谈到了R是大加分。 难易程度:非常易。 2.啤酒与尿布 通过案例来说事情,而且是...

2275

扫码关注云+社区

领取腾讯云代金券