炼金术和金钱至上之NIPS2017的热闹

本文仅代表个人立场，于本人的公司无关

1

NIPS作为机器学习领域的第一大会，今年去了8000多人。8000多人什么概念呢？作为对比，数据库领域顶级会议VLDB今年去了1000多人，是历史新高了。1000比8000，大概反应出了人工智能现在是多么的火热。

人工智能的火热，在很大程度上是某一个派系的火热。具体来说就是高神经网络的。这几年来有了一个新的名词叫做深度学习。深度学习的火热，很大程度上有各大互联网IT公司背的推波助澜。

而与之对应的其他人工智能的派别，不能说没有沾光。但是所谓不患寡而患不均，在深度学习被追捧的今天，无论人场还是钱场都是非常的热闹。所以这种热闹，也蔓延到了NIPS的会场。

2

NIPS2017的争执起源于Test of Time Award获得者Ali Rahimi做了精彩的报告。这个奖是很难拿的，给的是10年前2007年NIPS里面最经受时间检验贡献巨大的那篇文章。

Ali Rahimi的演讲的开篇中规中矩。Ali的论文开始使用深度学习去解决问题。但是2007年的NIPS有很多老学究，对想法的严密性要求高。一不小心这些人就像学术警察一样把论文给枪毙了。但是显然Ali Rahimi足够努力并且为自己的方法以及观察到的现象找到了合理的理论上的解释。所以论文得以发表，并在今年获得了这个大奖。

但是这个讲话到后来，Ali Rahimi就开始了一场撕逼。这个撕逼针对是现在的深度学习领域。他觉得今天的深度学习研究类似炼金术。基本上就是搭网络，调参数，看运气。如果不对了，就怪梯度下降的解法。

学术圈不再关心这些方法展现出来的结果之后的理论依据。Ali觉得如果用炼金术去做个APP之类的无伤大雅。但是深度学习是要成为水和电一样本质上改变人类生产和生活。对这些东西我们不了解，又怎么放心呢？

3

这个观点当然是轩然大波。Yann LeCun对此表示了自己的不满。Yann LeCun肯定了当前深度学习的方法缺少理论理解这个事实。但是他觉得人类社会的进步很多时候的确是工程领先于理论。我们先去用了某些可行但是不知道为什么可行的办法去改变世界，然后理论最终追上来。

一套理论上很完备但是实际上效果一般的东西和一套实践效果好，但我们还不怎么了解的东西。难道我们要去用效果差的么？以炼金术来称呼人工智能显然让一些深度学习的“大牛 ”们不满了。

于此同时，另外一篇报道展示了图灵奖获得者Judea Pearl的一篇position paper：Theoretical Impediments to Machine LearningA position paper 的报告大会无人问津的场景。

学术界有时候会允许发position paper，这代表了一些人对未来某个领域要怎么发展的看法。当然图灵奖获得者发论文，更是代表了态度。而照片显示这个session空空荡荡的。

4

如果我们拉长了战线说，有关人类是否可以通过科学去认知自然这个问题，在欧洲近代哲学史上已经被讨论了很多次。从笛卡尔，休谟到康德的纯粹理性批判，算得上是奠定了一个基调：人类只能在自己受限的范围内认识自然。

所以任何一个科学体系固然是自洽的，这个科学体系里面假设的公理却是无法认证的。无论从牛顿力学到相对论其实都有很强的假设。前者是绝对绝对时空，后者的光速不变等等。

所以大家有共识的是，人类认识自然的科学体系，可能也是对自然的一个近似。我们是否能够理解深度学习为什么工作，可能研究下去，也只能是知道一部分，而有更多的是不知道的。

但是我觉得Eric Xing就这个事情说的一句话很对：使用炼金术本身不是问题。但是因此而放弃了做化学家，那就是问题了。我想Ali所表达的可能就是这个意思。今天的学术圈以炼金术为乐，而不在乎自己将来要不要做一个化学家。

5

换个角度看，这个问题其实很好理解。今天主导了深度学习的研究和应用的，不是学校是各大公司。而公司们的想法，通常都是实用主义，没有利益为什么要砸钱呢？所以与其砸那么多钱去做虚无缥缈不切实际的理论研究。我们还不如用炼金术解决切实可行的问题。

我们必须承认一个事实，现在的深度学习的圈子来看，公司有大把的钱，有很多数据，还有足够多的运算资源。而这些学校是不会有的。也不可能有。今天的深度学习的研究，实际上是很烧钱的一个东西。

所以只要公司主导的研究存在，炼金术的发展是必然。理论研究到底有没有人会坚持下去，就是一个不太好回答的问题了。毕竟，大部分人都没有那么高尚的目标，和安贫乐道的心。所以在我看来，这也是一切向钱看的必然结果。不会因为搞理论的人叽叽喳喳叫几声而有什么改变。

6

我觉得之所以人工智能和深度学习今天如此发达，除了炒作以外，主要还是公司有数据有计算资源，这里又有炼金术。所以自然而然可以炼金啊。有钱赚才是钱喜欢去的地方。金钱至上还是公司运营的本质。

另外一方面现在读人工智能Phd毕业尤其是深度学习的PhD的工资也已经非常夸张了。公司愿意出这么多钱招这些人，不是用来搞理论研究的。公司毕竟不是傻叉。

我想最后的结果就是炼金术必定会横行下去，很多人会因此发财。而那些做理论的人，则因为和公司利益关系不大，要么没办法坚持做下去。要么就会继续不停的叫下去。客观世界的发展不以人类意志转移。实用主义既不是好事，也不是坏事，它只是个现实。

打赏专用二维码