Hinton：硕士毕业就进企业提不出全新想法，AI好坏取决于社会制度

李杉 夏乙 编译整理 量子位 出品 | 公众号 QbitAI

人们说，人工智能会带来风险，人工智能产业要促进，人工智能需要监管，人工智能军备竞赛愈发激烈。

他们还说，人工智能人才非常非常短缺，年轻人，如果你想入行……

深度学习教父Geoffrey Hinton的建议，值得一看。在一份访谈中，他面向想做人工智能研究的年轻人，给出了一些忠告。当然，前边所说的风险、监管、产业等等问题也都有谈及。

这份访谈，来自马丁·福特（Martin Ford）新书，《智能缔造者：人工智能开发者口述真相》（Architects of Intelligence: The Truth About AI from the People Building It）。

Hinton认为，年轻人如果读个硕士然后就直接进入工业界，对研究是不利的。这样的人提不出全新的想法，学界应该留住那些受过良好教育的研究生，他们需要坐下来，思考几年才行。

他也鼓励年轻人批判地看待基础理论、挑战基本假设，也要在认为大家想法都错了的时候，坚持自己的直觉。

以下，是《智能缔造者》中节选出来的这段访谈：

福特：我们来谈谈人工智能的潜在风险。有一个具体挑战是对就业市场和经济的潜在影响。你是否认为所有这些都可能引发新的工业革命并彻底改变就业市场？如果是这样，我们真的需要为此担忧，还是说这可能又被夸大其词了？

Hinton：如果你能够大幅提高生产力并提供更多好处，那应该是一件好事。

它是否是一件好事完全取决于社会制度，根本不取决于技术。人们却在研究技术，就像把技术进步是一个问题一样。

问题在于社会制度，在于我们是否会建立一个公平分享的社会制度，或者说，我们的社会制度会是公平的，还是会让所有进步集中体现在1％的人群身上，然后把剩下的人看得一文不值。

这与技术无关。

福特：那么问题就来了，因为很多工作都会消失——特别是可以预测，而且易于自动化的工作。社会对此作出的反应是为这类人提供基本收入。你同意这种做法吗？

Hinton：是的，我认为基本收入是一个非常明智的想法。

福特：那么，你认为需要通过政策来解决此事吗？有些人认为我们应该让事情自然发展，但那似乎不负责任。

Hinton： 我搬到加拿大是因为这里税率较高，因为我认为正确的税收是好事。政府应该做的是建立各种机制，以便当人们出于自身利益行事时，也会帮助到每个人。高税收是一种这样的机制：当人们致富时，其他人都会获得税收的帮助。

想要确保人工智能让每所有人都受益，还有很多工作要做。我当然认同这种观点。

福特：你对其他一些跟人工智能有关的风险怎么看？比如武器化？

Hinton：是的，我对普京总统最近所说的一些事情感到担忧。

我认为人们现在应该采取非常积极的措施，努力让国际社会以对待化学武器和大规模杀伤性武器的态度，来对待那些不需要人类参与就能杀死人类的武器。

福特：你是否赞成暂停某种类型的研发？

Hinton：这种类型的研发不会暂停，就像神经毒剂的发展也没有暂停一样，但的确有一套国际机制来阻止它们被广泛使用。

福特：除军事武器外，你怎么看待其他风险？是否有其他问题，比如隐私和透明度？

Hinton：我认为有，用它来操纵选举和选民非常令人担忧。剑桥分析由Bob Mercer成立，他是一名机器学习研究人员，你已经看到剑桥分析造成了很大的破坏。我们不得不认真对待。

福特：你认为有监管空间吗？

Hinton：是的，需要很多监管。这是一个非常有趣的问题，但我不是这方面的专家，所以谈不了太多。

福特：你怎么看一般的全球军备竞赛？你认为不应该让一个国家遥遥领先领先其他国家吗？

Hinton：你所谈论的是全球政治问题。

很长一段时间，英国是一个占主导地位的国家，但他们表现得不是很好。

然后就是美国，他们表现得也不是很好。

换一个国家主导，我也不指望他们会有很好的表现。

福特：你认为我们应该采取某种形式的产业政策吗？美国和其他西方政府是否应该关注人工智能，并将其作为国家重要发展方向？

Hinton：技术将迎来巨大的发展，如果一个国家不努力追赶潮流，它肯定是疯了。所以很明显，我认为应该有很多投资。这在我看来似乎是常识。

福特：总的来说，你对这一切感到乐观吗？你认为人工智能是利大于弊吗？

Hinton：我希望利大于弊，但我不知道最终能否如愿。这是一个社会制度问题，而不是技术问题。

福特： 人工智能人才短缺，大家都在招聘。对于想要进入这个领域的年轻人，你有没有什么建议？你能否再提一些建议来吸引更多人，让他们成为人工智能和深度学习方面的专家？

Hinton：我担心为基础理论挑毛病的人不够多。

我提出的“Capsules”(胶囊网络)的想法就是想说，也许我们现在做事的一些基本方法并不是最好的，我们应该抛出一张更大的网。我们应该思考一些非常基本的假设有没有替代品。

我给人们的一条建议是，如果你的直觉告诉你，人们在做的事情并不对，而且可能有更好的方法，你应该遵循你的直觉。

你很可能是错的，但是除非人们在思考如何彻底改变事物时遵循直觉，否则就会深陷其中。

还有一点担忧，是我认为新思想最富饶的来源是在大学中接受过良好教育的研究生。他们可以自由地提出真正的新想法，他们学到的东西足以让他们不再单纯重复历史，我们应该留住这些人。

获得硕士学位然后直接进入工业界的人不会提出全新的想法。我认为你需要坐下来思考几年。

福特：加拿大似乎成了深度学习中心。这是偶然事件，还是说加拿大有什么特别的地方起到了帮助？

Hinton：加拿大高级研究院（CIFAR）为高风险领域的基础研究提供资金，这非常重要。

还有很多事情有运气成分，比如Yann LeCun（他曾经短暂当过我的博士后）和Yoshua Bengio也都在加拿大。我们三个人可以形成非常富有成果的协作，CIFAR为这种合作提供了资助。

那时，我们身处一个充满敌意的环境中感觉有点孤立——深度学习的环境直到最近才变得友好起来——所以获得这笔资金给我们很大帮助，让我们可以用很多时间召开小型会议，展开相互交流。在那里，我们可以真正分享尚未发表的想法。

One More Thing

在《智能缔造者》这本书里，还有很多AI领域名人的访谈。

比如和Hinton并称三巨头的Yoshua Bengio、Yann LeCun，著有人工智能经典教材的伯克利教授Stuart Russell，让马斯克对人工智能产生兴趣和恐惧的牛津大学哲学教授Nick Bostrom，还有我们熟悉的李飞飞、吴恩达、DeepMind创始人Demis Hassabis等等，共23人。

中文版目前还没有，希望以后能见到。

(☆▽☆)

— 完 —