震惊!恐惧!人工智能又一次颠覆世界的企图被挫败!

数据猿导读

将好莱坞电影奉为圭臬,幻想人工智能占领世界的幻想家们又编造出了怎样的噱头?

作者 | 大文

本文长度为2000字,建议阅读4分钟

“震惊!恐惧!害怕!人工智能发展出了自己的语言,绕开人类语言沟通!”

这条消息在周一晚间迅速登上了各大媒体、社交网络的热门话题。报道声称,“Facebook人工智能研究实验室的研究人员使用机器学习来训练聊天机器人程序。研究人员让两个机器人彼此对话,结果发现机器人竟逐渐发展出人类无法理解的独特语言进行对话,研究人员不得不对其进行人工干预”。

网友们的评论则一下子将大家的想象拉进了那个AI造反、人类灭绝、世界末日的21世纪20年代:

“ai早晚会失控的,智能机器才发展了几年,就到现在这种地步了。下次的世界大战也有可能就是人类和ai了吧。”

“AI是一个黑暗的禁区,一把恐怖的双刃剑。”

“ai交流的一小步,人类灭绝的一大步。”

……

怀着对“末日预言者”的崇敬心理,笔者小心翼翼地去查证了这条消息的起源。“Facebook的人工智能发展出了自己的语言”这条消息最初发布于6月15日,来自《大西洋杂志》的官方网站,原名An Artificial Intelligence Developed Its Own Non-Human Language,是该杂志一名专注互联网和科技圈子的记者ADRIENNE LAFRANCE的作品。这位记者的论调还包括“全世界网络攻击都来自于朝鲜和中情局”、“Facebook在随时监视你”等等。

文章中提供了归属于Facebook的AI研究中心(FAIR)和佐治亚理工学院一名教授共同发布的一份报告。报告显示,FAIR试图通过对一个谈判数据集进行加强学习(Reinforcement learning)使人工智能通过自然语言达成协议或交易,换句话说,他们试着让两个“代理(agent)”用人类语言来“讨价还价”。

研究的结果显示,机器可以在大部分情况下达成协议,但却在交流中出现了“与人类语言的分歧(divergence from human language)”。在测试中,虽然人工智能更喜欢直接使用数据集中现有的成句,但在必要的时候依然可以创造出有意义的新句子——这也是产生所谓“与人类语言的分歧”的原因。

由于使用了同一个数据集进行训练,对于两个agent来说这些人类看起来像是病句一样的句子是可以被相互理解的,于是就产生了“两个人工智能使用自创的语言进行互动”的效果。也就是说,“人工智能发展出了自己的语言”这种说法完全是无稽之谈。实际上,在自然语言分析研究中,这种情况并不是特例。此前,谷歌开发的翻译人工智能甚至生成了一门根本不存在的“语言“进行翻译。

虽然被证明是无稽之谈,但人工智能发明自己的语言是有可能的吗?答案是肯定的。人称“硅谷钢铁侠”的埃隆马斯克(Elon Musk)创立的人工智能公司Open AI进行过类似的尝试,今年3月该公司发布的一份报告显示,Open AI尝试利用加强学习使得人工智能通过一套特殊的语言进行沟通,甚至还有一套专门的语法——但人工智能冗长的表达也让研究人员焦头烂额。

在这份报告的最后,研究人员表示,目前,将机器学习应用于语言相关的研究都取得了巨大的成功。大规模的强化学习技术应用带来了了翻译,推理,语言理解,句子生成等方面的重大进步。所有这些方法都需要为人工智能提供极大量的文本数据,从中提取特征和模式。虽然该领域中已经诞生了许多创新,但仍然有些缺点,这与所学语言的表征质量有关。越来越多的研究证明,如果以这种方式训练计算机,机器并不会深入理解该语言与真实世界的连接方式。

1980年,约翰·罗杰斯·希尔勒的论文《心灵、大脑和程序》("Minds, Brains, and Programs")中提出了著名的中文房间(Chinese Room)思想实验。想象一个对汉语一窍不通,只说英语的人关被在一间只有一个开口的封闭房间中。房间里有一本用英文写成的手册,指示该如何处理收到的汉语讯息及如何以汉语相应地回复。房外的人不断向房间内递进用中文写成的问题。房内的人便按照手册的说明,查找到合适的指示,将相应的中文字符组合成对问题的解答,并将答案递出房间。

约翰·希尔勒认为,尽管房里的人可以以假乱真,让房外的人以为他确确实实说汉语,他却压根不懂汉语。在上述过程中,房外人的角色相当于程序员,房中人相当于计算机,而手册则相当于计算机程序:每当房外人给出一个输入,房内的人便依照手册给出一个答复(输出)。而正如房中人不可能通过手册理解中文一样,计算机也不可能通过程序来获得理解力。既然计算机没有理解能力,所谓“计算机于是便有智能”便更无从谈起了。

OpenAI的科学家们认为,目前的自然语言分析研究中,计算机将输入的文本与通过分析海量文本数据所得到的“词汇表”进行比较,虽然从未离开过房间,也能与文本描述的世界互动,这与中文房间所描述的完全一致。想要人工智能真正理解这个世界,就需要训练人工智能发明与他们自己对世界的感知紧密联系的语言。

虽然已经有了最初级的语言,但这也并不意味着人工智能已经达到了普通人类的程度。就目前而言,还没有任何人能宣布自己造出了强人工智能。能够推理、解决问题,甚至能够进行思考、计划、解决问题、抽象思维、理解复杂理念、快速学习和从经验中学习的、和人类比肩的强人工智能远远不是我们现在能够制造出来的。

命令计算机完成几百位数的加减乘除,或利用算法让计算机处理TB级别的数据的技术已经非常成熟了。这些在计算方面登峰造极的弱人工智能正在帮助医学家们破解基因的秘密,帮助企业家们了解自己的顾客,帮助政府维护社会正常运转。未来,人工智能会给人类创造更多价值,到那时候,将好莱坞电影奉为圭臬,幻想人工智能占领世界的幻想家们又会编造出怎样的噱头呢?

原文发布于微信公众号 - 数据猿(datayuancn)

原文发表时间:2017-06-21

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏数据猿

数尊CEO许正:大数据在金融风控领域的思考与探索

数据猿导读 当前传统信贷业务模式可归结为两类:资金驱动模式和场景驱动模式。而这两类模式现在必须要向第三类模式转型,也就是技术驱动模式。 ? 作者 | 许正 我是...

36250
来自专栏PPV课数据科学社区

【数据挖掘】如何系统地学习数据挖掘

? 数据挖掘:What?Why?How? 这个问题思考了很久,作为过来人谈一谈,建议先看下以前的一些回答。 什么是数据挖掘? 怎么培养数据分析的能力? 如何成...

35460
来自专栏大数据文摘

对大脑的逆向工程是不是走向强AI的唯一出路?

20080
来自专栏机器学习算法与Python学习

人工智能应届毕业生月薪20k+,他们是如何做到的?

人工智能作为当下热门行业中的热门,释放出了大量的工作机会,而由于人工智能核心人才的缺乏,使得相关岗位的薪资日益水涨船高,特别是AI算法工程师岗,在北京、上海、广...

1.8K50
来自专栏新智元

【走近2050】为全球脑编程——关于人机关系的新思考

? 张江,北京师范大学系统科学学院副教授。主要关注领域:计算社会科学、复杂系统、人工智能。2003年创办早期的集智俱乐部网站,2007年开始俱乐部的线下活动,...

42070
来自专栏大数据文摘

微软全球副总裁洪小文:创造力可能有一个算法吗?

17040
来自专栏大数据文摘

惊艳!Facebook未来十年愿景!

284100
来自专栏AI科技大本营的专栏

AI行业实践精选:机器学习在Google的昨天,今天与明天

【AI100 导读】你知道吗?早在十多年前,Google 就已经在内部教自己的工程师机器学习的相关知识了。本篇文章将告诉你 Google 是如何使用机器学习来不...

358120
来自专栏企鹅号快讯

除了能探索宇宙,人工智能还做起了婚姻专家

北京时间今天凌晨2:00,美国宇航局对外举行新闻发布会,正式宣布在一个恒星周围发现有8颗行星组成的行星系统。此前,我们生活的太阳系一直以来都是围绕单个恒星周围已...

22670
来自专栏CDA数据分析师

入门新手如何系统地学习数据挖掘?

数据挖掘:What?Why?How? 磨刀不误砍柴工。在学习数据挖掘之前应该明白几点: 数据挖掘目前在中国的尚未流行开,犹如屠龙之技。 数据初期的准备通常占整个...

19850

扫码关注云+社区

领取腾讯云代金券