专栏首页量子位Hinton:硕士毕业就进企业提不出全新想法,AI好坏取决于社会制度

Hinton:硕士毕业就进企业提不出全新想法,AI好坏取决于社会制度

李杉 夏乙 编译整理 量子位 出品 | 公众号 QbitAI

人们说,人工智能会带来风险,人工智能产业要促进,人工智能需要监管,人工智能军备竞赛愈发激烈。

他们还说,人工智能人才非常非常短缺,年轻人,如果你想入行……

深度学习教父Geoffrey Hinton的建议,值得一看。在一份访谈中,他面向想做人工智能研究的年轻人,给出了一些忠告。当然,前边所说的风险、监管、产业等等问题也都有谈及。

这份访谈,来自马丁·福特(Martin Ford)新书,《智能缔造者:人工智能开发者口述真相》(Architects of Intelligence: The Truth About AI from the People Building It)。

Hinton认为,年轻人如果读个硕士然后就直接进入工业界,对研究是不利的。这样的人提不出全新的想法,学界应该留住那些受过良好教育的研究生,他们需要坐下来,思考几年才行。

他也鼓励年轻人批判地看待基础理论、挑战基本假设,也要在认为大家想法都错了的时候,坚持自己的直觉。

以下,是《智能缔造者》中节选出来的这段访谈

福特:我们来谈谈人工智能的潜在风险。有一个具体挑战是对就业市场和经济的潜在影响。你是否认为所有这些都可能引发新的工业革命并彻底改变就业市场?如果是这样,我们真的需要为此担忧,还是说这可能又被夸大其词了?

Hinton:如果你能够大幅提高生产力并提供更多好处,那应该是一件好事。

它是否是一件好事完全取决于社会制度,根本不取决于技术。人们却在研究技术,就像把技术进步是一个问题一样。

问题在于社会制度,在于我们是否会建立一个公平分享的社会制度,或者说,我们的社会制度会是公平的,还是会让所有进步集中体现在1%的人群身上,然后把剩下的人看得一文不值。

这与技术无关。

福特:那么问题就来了,因为很多工作都会消失——特别是可以预测,而且易于自动化的工作。社会对此作出的反应是为这类人提供基本收入。你同意这种做法吗?

Hinton:是的,我认为基本收入是一个非常明智的想法。

福特:那么,你认为需要通过政策来解决此事吗?有些人认为我们应该让事情自然发展,但那似乎不负责任。

Hinton: 我搬到加拿大是因为这里税率较高,因为我认为正确的税收是好事。政府应该做的是建立各种机制,以便当人们出于自身利益行事时,也会帮助到每个人。高税收是一种这样的机制:当人们致富时,其他人都会获得税收的帮助。

想要确保人工智能让每所有人都受益,还有很多工作要做。我当然认同这种观点。

福特:你对其他一些跟人工智能有关的风险怎么看?比如武器化?

Hinton:是的,我对普京总统最近所说的一些事情感到担忧。

我认为人们现在应该采取非常积极的措施,努力让国际社会以对待化学武器和大规模杀伤性武器的态度,来对待那些不需要人类参与就能杀死人类的武器。

福特:你是否赞成暂停某种类型的研发?

Hinton:这种类型的研发不会暂停,就像神经毒剂的发展也没有暂停一样,但的确有一套国际机制来阻止它们被广泛使用。

福特:除军事武器外,你怎么看待其他风险?是否有其他问题,比如隐私和透明度?

Hinton:我认为有,用它来操纵选举和选民非常令人担忧。剑桥分析由Bob Mercer成立,他是一名机器学习研究人员,你已经看到剑桥分析造成了很大的破坏。我们不得不认真对待。

福特:你认为有监管空间吗?

Hinton:是的,需要很多监管。这是一个非常有趣的问题,但我不是这方面的专家,所以谈不了太多。

福特:你怎么看一般的全球军备竞赛?你认为不应该让一个国家遥遥领先领先其他国家吗?

Hinton:你所谈论的是全球政治问题。

很长一段时间,英国是一个占主导地位的国家,但他们表现得不是很好。

然后就是美国,他们表现得也不是很好。

换一个国家主导,我也不指望他们会有很好的表现。

福特:你认为我们应该采取某种形式的产业政策吗?美国和其他西方政府是否应该关注人工智能,并将其作为国家重要发展方向?

Hinton:技术将迎来巨大的发展,如果一个国家不努力追赶潮流,它肯定是疯了。所以很明显,我认为应该有很多投资。这在我看来似乎是常识。

福特:总的来说,你对这一切感到乐观吗?你认为人工智能是利大于弊吗?

Hinton:我希望利大于弊,但我不知道最终能否如愿。这是一个社会制度问题,而不是技术问题。

福特: 人工智能人才短缺,大家都在招聘。对于想要进入这个领域的年轻人,你有没有什么建议?你能否再提一些建议来吸引更多人,让他们成为人工智能和深度学习方面的专家?

Hinton:我担心为基础理论挑毛病的人不够多。

我提出的“Capsules”(胶囊网络)的想法就是想说,也许我们现在做事的一些基本方法并不是最好的,我们应该抛出一张更大的网。我们应该思考一些非常基本的假设有没有替代品。

我给人们的一条建议是,如果你的直觉告诉你,人们在做的事情并不对,而且可能有更好的方法,你应该遵循你的直觉。

你很可能是错的,但是除非人们在思考如何彻底改变事物时遵循直觉,否则就会深陷其中。

还有一点担忧,是我认为新思想最富饶的来源是在大学中接受过良好教育的研究生。他们可以自由地提出真正的新想法,他们学到的东西足以让他们不再单纯重复历史,我们应该留住这些人

获得硕士学位然后直接进入工业界的人不会提出全新的想法。我认为你需要坐下来思考几年。

福特:加拿大似乎成了深度学习中心。这是偶然事件,还是说加拿大有什么特别的地方起到了帮助?

Hinton:加拿大高级研究院(CIFAR)为高风险领域的基础研究提供资金,这非常重要。

还有很多事情有运气成分,比如Yann LeCun(他曾经短暂当过我的博士后)和Yoshua Bengio也都在加拿大。我们三个人可以形成非常富有成果的协作,CIFAR为这种合作提供了资助。

那时,我们身处一个充满敌意的环境中感觉有点孤立——深度学习的环境直到最近才变得友好起来——所以获得这笔资金给我们很大帮助,让我们可以用很多时间召开小型会议,展开相互交流。在那里,我们可以真正分享尚未发表的想法。

One More Thing

在《智能缔造者》这本书里,还有很多AI领域名人的访谈。

比如和Hinton并称三巨头的Yoshua Bengio、Yann LeCun,著有人工智能经典教材的伯克利教授Stuart Russell,让马斯克对人工智能产生兴趣和恐惧的牛津大学哲学教授Nick Bostrom,还有我们熟悉的李飞飞、吴恩达、DeepMind创始人Demis Hassabis等等,共23人。

中文版目前还没有,希望以后能见到。

(☆▽☆)

本文分享自微信公众号 - 量子位(QbitAI),作者:关注前沿科技

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2019-01-05

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • Hinton:人类就是机器,绝妙的机器

    原文《Mr.Robot》刊载于 Toronto Life 作者 KATRINA ONSTAD 摄影 DANIEL EHRENWORTH 编译 夏乙 唐旭 量子位...

    量子位
  • Hinton号召AI革命:重头再来;李飞飞等赞成:深度学习不是唯一

    李林 允中 编译整理 量子位 出品 | 公众号 QbitAI ? △ Hinton等合写的反向传播论文 1986年,39岁的Geoffrey Hinton与人合...

    量子位
  • Hinton最新专访:别让AI解释自己,AI寒冬不会再来

    在这次加拿大G7人工智能会议上的访谈里,Hinton谈到了对谷歌军方合同的“私下”抗议,还提出了对现在AI研究的一些看法,比如:

    量子位
  • Java程序员如何提高自己的编程能力

    编程对于一部分人来说是一项工作,但对于真正喜欢编程的人来说,不仅仅是一种知识,更重要的是一门手艺。其实大部分人学习编程都希望自己的工作生活变得更好。既然明白了编...

    企鹅号小编
  • Oracle嘉年华:邮储银行展示开放架构

    在刚刚结束的Oracle技术嘉年华大会上,邮储银行信息科技部副总经理张兰英和云和恩墨技术总监杨廷琨发表了联合主题演讲,介绍了:邮储银行大集中项目应对的挑战及启示...

    数据和云
  • 编程小白 | 每日一练(79)

    这道理放在编程上也一并受用。在编程方面有着天赋异禀的人毕竟是少数,我们大多数人想要从编程小白进阶到高手,需要经历的是日积月累的学习,那么如何学习呢?当然是每天都...

    闫小林
  • 观点 | 专访Geoff Hinton:全新的想法将比微小的改进更有影响力

    AI 科技评论按,日前,WIRED 对 Hinton 进行了一次专访,在访谈中,WIRED 针对人工智能带来的道德挑战和面临的挑战等问题进行了提问,以下为谈话内...

    AI科技评论
  • 005-Python 变量类型

        变量存储在内存中的值。这就意味着在创建变量时会在内存中开辟一个空间。基于变量的数据类型,解释器会分配指定内存,并决定什么数据可以被存储在内存中。因此,变...

    py3study
  • js实现网页只能在微信内打开,浏览器打不开!

    IT故事会
  • 【入门指导】学C语言一段时间了,还是一头雾水该咋办?

    学C了一头雾水该怎么办?最简单的方法就是你再学一遍呗。俗话说熟能生巧,铁杵也能磨成针。 但是一味的为学而学,这个好像没什么卵用。为什么学了还是一头雾水,重点就在...

    程序员互动联盟

扫码关注云+社区

领取腾讯云代金券