专栏首页数据猿震惊!恐惧!人工智能又一次颠覆世界的企图被挫败!

震惊!恐惧!人工智能又一次颠覆世界的企图被挫败!

数据猿导读

将好莱坞电影奉为圭臬,幻想人工智能占领世界的幻想家们又编造出了怎样的噱头?

作者 | 大文

本文长度为2000字,建议阅读4分钟

“震惊!恐惧!害怕!人工智能发展出了自己的语言,绕开人类语言沟通!”

这条消息在周一晚间迅速登上了各大媒体、社交网络的热门话题。报道声称,“Facebook人工智能研究实验室的研究人员使用机器学习来训练聊天机器人程序。研究人员让两个机器人彼此对话,结果发现机器人竟逐渐发展出人类无法理解的独特语言进行对话,研究人员不得不对其进行人工干预”。

网友们的评论则一下子将大家的想象拉进了那个AI造反、人类灭绝、世界末日的21世纪20年代:

“ai早晚会失控的,智能机器才发展了几年,就到现在这种地步了。下次的世界大战也有可能就是人类和ai了吧。”

“AI是一个黑暗的禁区,一把恐怖的双刃剑。”

“ai交流的一小步,人类灭绝的一大步。”

……

怀着对“末日预言者”的崇敬心理,笔者小心翼翼地去查证了这条消息的起源。“Facebook的人工智能发展出了自己的语言”这条消息最初发布于6月15日,来自《大西洋杂志》的官方网站,原名An Artificial Intelligence Developed Its Own Non-Human Language,是该杂志一名专注互联网和科技圈子的记者ADRIENNE LAFRANCE的作品。这位记者的论调还包括“全世界网络攻击都来自于朝鲜和中情局”、“Facebook在随时监视你”等等。

文章中提供了归属于Facebook的AI研究中心(FAIR)和佐治亚理工学院一名教授共同发布的一份报告。报告显示,FAIR试图通过对一个谈判数据集进行加强学习(Reinforcement learning)使人工智能通过自然语言达成协议或交易,换句话说,他们试着让两个“代理(agent)”用人类语言来“讨价还价”。

研究的结果显示,机器可以在大部分情况下达成协议,但却在交流中出现了“与人类语言的分歧(divergence from human language)”。在测试中,虽然人工智能更喜欢直接使用数据集中现有的成句,但在必要的时候依然可以创造出有意义的新句子——这也是产生所谓“与人类语言的分歧”的原因。

由于使用了同一个数据集进行训练,对于两个agent来说这些人类看起来像是病句一样的句子是可以被相互理解的,于是就产生了“两个人工智能使用自创的语言进行互动”的效果。也就是说,“人工智能发展出了自己的语言”这种说法完全是无稽之谈。实际上,在自然语言分析研究中,这种情况并不是特例。此前,谷歌开发的翻译人工智能甚至生成了一门根本不存在的“语言“进行翻译。

虽然被证明是无稽之谈,但人工智能发明自己的语言是有可能的吗?答案是肯定的。人称“硅谷钢铁侠”的埃隆马斯克(Elon Musk)创立的人工智能公司Open AI进行过类似的尝试,今年3月该公司发布的一份报告显示,Open AI尝试利用加强学习使得人工智能通过一套特殊的语言进行沟通,甚至还有一套专门的语法——但人工智能冗长的表达也让研究人员焦头烂额。

在这份报告的最后,研究人员表示,目前,将机器学习应用于语言相关的研究都取得了巨大的成功。大规模的强化学习技术应用带来了了翻译,推理,语言理解,句子生成等方面的重大进步。所有这些方法都需要为人工智能提供极大量的文本数据,从中提取特征和模式。虽然该领域中已经诞生了许多创新,但仍然有些缺点,这与所学语言的表征质量有关。越来越多的研究证明,如果以这种方式训练计算机,机器并不会深入理解该语言与真实世界的连接方式。

1980年,约翰·罗杰斯·希尔勒的论文《心灵、大脑和程序》("Minds, Brains, and Programs")中提出了著名的中文房间(Chinese Room)思想实验。想象一个对汉语一窍不通,只说英语的人关被在一间只有一个开口的封闭房间中。房间里有一本用英文写成的手册,指示该如何处理收到的汉语讯息及如何以汉语相应地回复。房外的人不断向房间内递进用中文写成的问题。房内的人便按照手册的说明,查找到合适的指示,将相应的中文字符组合成对问题的解答,并将答案递出房间。

约翰·希尔勒认为,尽管房里的人可以以假乱真,让房外的人以为他确确实实说汉语,他却压根不懂汉语。在上述过程中,房外人的角色相当于程序员,房中人相当于计算机,而手册则相当于计算机程序:每当房外人给出一个输入,房内的人便依照手册给出一个答复(输出)。而正如房中人不可能通过手册理解中文一样,计算机也不可能通过程序来获得理解力。既然计算机没有理解能力,所谓“计算机于是便有智能”便更无从谈起了。

OpenAI的科学家们认为,目前的自然语言分析研究中,计算机将输入的文本与通过分析海量文本数据所得到的“词汇表”进行比较,虽然从未离开过房间,也能与文本描述的世界互动,这与中文房间所描述的完全一致。想要人工智能真正理解这个世界,就需要训练人工智能发明与他们自己对世界的感知紧密联系的语言。

虽然已经有了最初级的语言,但这也并不意味着人工智能已经达到了普通人类的程度。就目前而言,还没有任何人能宣布自己造出了强人工智能。能够推理、解决问题,甚至能够进行思考、计划、解决问题、抽象思维、理解复杂理念、快速学习和从经验中学习的、和人类比肩的强人工智能远远不是我们现在能够制造出来的。

命令计算机完成几百位数的加减乘除,或利用算法让计算机处理TB级别的数据的技术已经非常成熟了。这些在计算方面登峰造极的弱人工智能正在帮助医学家们破解基因的秘密,帮助企业家们了解自己的顾客,帮助政府维护社会正常运转。未来,人工智能会给人类创造更多价值,到那时候,将好莱坞电影奉为圭臬,幻想人工智能占领世界的幻想家们又会编造出怎样的噱头呢?

本文分享自微信公众号 - 数据猿(datayuancn),作者:大文

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2017-06-21

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 人工智能会杀死画家吗——AI将如何改变艺术

    数据猿导读 人工智能会取代人类吗?alphaGo和Master在围棋这个“人类智慧的自留地”上击败了人类之后,艺术家们也有了这样的担忧:人工智能即将变得和人一样...

    数据猿
  • 为什么说没有大数据的人工智能什么都不是?

    数据猿导读 人工智能无疑是21世纪最具变革性的力量之一,也许人工智能会以好的方式或坏的方式改变世界,但我们一致认为如果没有大数据,人工智能将毫无意义。 ? 作者...

    数据猿
  • 人工智能“军备竞赛”的真正危险是什么?专家警告:未来挺可怕!

    数据猿报道,俄罗斯总统弗拉基米尔·普京早在2017年时就宣称,领导人工智能发展的国家将“成为世界的统治者”。这种观点显然在全球全面铺开,因为截至目前,已经有十几...

    数据猿
  • 助力智能教育,探索人工智能 + X 新工科引领下产教融合协同发展

    2018 年 5 月 12 日至 13 日,由中国软件行业协会智能应用服务分会(CIAS)主办,CSDN 承办的 “智能科学与技术” 专业建设与产教融合研讨会在...

    AI科技大本营
  • 漫画人工智能:啥是人工智能?

    本节我们会以生动有趣的漫画来介绍关于人工智能(AI)相关的故事,你将会学习到: 人工智能的基本概念

    挖数
  • 中国人工智能发展重大政策和规划汇总解析

    众所周知,人工智能的发展已势不可挡,无论国家层面,还是地方层面都已纷纷出台相关政策和规划,来引导人工智能的发展,中国的人工智能发展在全球还依然是跟随者,需要这样...

    企鹅号小编
  • 人工智能和驱动在机器中的应用

    【AI100 导读】目前,人工智能的研究和发展仍在继续。那么,对人工智能的研究现在进行到什么程度,我们期望在未来会看到什么样的成果呢?为了回答这个问题,首先我们...

    AI科技大本营
  • 展望人工智能的未来

    【AI100 导读】我们的未来将不可避免的与人工智能绑在一起,那么人工智能将朝向哪个方向发展呢?对于人工智能未来的发展,我们最好的猜想有哪些(近期和远期)?如果...

    AI科技大本营
  • 中美俄建立军事人工智能研究中心

    中国、美国和俄罗斯纷纷建立了军事领域的人工智能研究中心,显示出了对人工智能能力的迫切需求,但三个国家采用了不同策略。

    人工智能快报
  • 人工智能风口只有2%的人能够成为赢家!——CSDN蒋涛

    现在去xxx创业大街向天上扔一沓美金,砸到10个路人,有9个都自称投资人,其中8个投人工智能。 满嘴的Artificial Intelligence、摩尔定律、...

    AI科技大本营

扫码关注云+社区

领取腾讯云代金券