震惊！恐惧！人工智能又一次颠覆世界的企图被挫败！

数据猿导读

将好莱坞电影奉为圭臬，幻想人工智能占领世界的幻想家们又编造出了怎样的噱头？

作者 | 大文

本文长度为2000字，建议阅读4分钟

“震惊！恐惧！害怕！人工智能发展出了自己的语言，绕开人类语言沟通！”

这条消息在周一晚间迅速登上了各大媒体、社交网络的热门话题。报道声称，“Facebook人工智能研究实验室的研究人员使用机器学习来训练聊天机器人程序。研究人员让两个机器人彼此对话，结果发现机器人竟逐渐发展出人类无法理解的独特语言进行对话，研究人员不得不对其进行人工干预”。

网友们的评论则一下子将大家的想象拉进了那个AI造反、人类灭绝、世界末日的21世纪20年代：

“ai早晚会失控的，智能机器才发展了几年，就到现在这种地步了。下次的世界大战也有可能就是人类和ai了吧。”

“AI是一个黑暗的禁区，一把恐怖的双刃剑。”

“ai交流的一小步，人类灭绝的一大步。”

……

怀着对“末日预言者”的崇敬心理，笔者小心翼翼地去查证了这条消息的起源。“Facebook的人工智能发展出了自己的语言”这条消息最初发布于6月15日，来自《大西洋杂志》的官方网站，原名An Artificial Intelligence Developed Its Own Non-Human Language，是该杂志一名专注互联网和科技圈子的记者ADRIENNE LAFRANCE的作品。这位记者的论调还包括“全世界网络攻击都来自于朝鲜和中情局”、“Facebook在随时监视你”等等。

文章中提供了归属于Facebook的AI研究中心（FAIR）和佐治亚理工学院一名教授共同发布的一份报告。报告显示，FAIR试图通过对一个谈判数据集进行加强学习（Reinforcement learning）使人工智能通过自然语言达成协议或交易，换句话说，他们试着让两个“代理（agent）”用人类语言来“讨价还价”。

研究的结果显示，机器可以在大部分情况下达成协议，但却在交流中出现了“与人类语言的分歧（divergence from human language）”。在测试中，虽然人工智能更喜欢直接使用数据集中现有的成句，但在必要的时候依然可以创造出有意义的新句子——这也是产生所谓“与人类语言的分歧”的原因。

由于使用了同一个数据集进行训练，对于两个agent来说这些人类看起来像是病句一样的句子是可以被相互理解的，于是就产生了“两个人工智能使用自创的语言进行互动”的效果。也就是说，“人工智能发展出了自己的语言”这种说法完全是无稽之谈。实际上，在自然语言分析研究中，这种情况并不是特例。此前，谷歌开发的翻译人工智能甚至生成了一门根本不存在的“语言“进行翻译。

虽然被证明是无稽之谈，但人工智能发明自己的语言是有可能的吗？答案是肯定的。人称“硅谷钢铁侠”的埃隆马斯克（Elon Musk）创立的人工智能公司Open AI进行过类似的尝试，今年3月该公司发布的一份报告显示，Open AI尝试利用加强学习使得人工智能通过一套特殊的语言进行沟通，甚至还有一套专门的语法——但人工智能冗长的表达也让研究人员焦头烂额。

在这份报告的最后，研究人员表示，目前，将机器学习应用于语言相关的研究都取得了巨大的成功。大规模的强化学习技术应用带来了了翻译，推理，语言理解，句子生成等方面的重大进步。所有这些方法都需要为人工智能提供极大量的文本数据，从中提取特征和模式。虽然该领域中已经诞生了许多创新，但仍然有些缺点，这与所学语言的表征质量有关。越来越多的研究证明，如果以这种方式训练计算机，机器并不会深入理解该语言与真实世界的连接方式。

1980年，约翰·罗杰斯·希尔勒的论文《心灵、大脑和程序》("Minds, Brains, and Programs")中提出了著名的中文房间（Chinese Room）思想实验。想象一个对汉语一窍不通，只说英语的人关被在一间只有一个开口的封闭房间中。房间里有一本用英文写成的手册，指示该如何处理收到的汉语讯息及如何以汉语相应地回复。房外的人不断向房间内递进用中文写成的问题。房内的人便按照手册的说明，查找到合适的指示，将相应的中文字符组合成对问题的解答，并将答案递出房间。

约翰·希尔勒认为，尽管房里的人可以以假乱真，让房外的人以为他确确实实说汉语，他却压根不懂汉语。在上述过程中，房外人的角色相当于程序员，房中人相当于计算机，而手册则相当于计算机程序：每当房外人给出一个输入，房内的人便依照手册给出一个答复（输出）。而正如房中人不可能通过手册理解中文一样，计算机也不可能通过程序来获得理解力。既然计算机没有理解能力，所谓“计算机于是便有智能”便更无从谈起了。

OpenAI的科学家们认为，目前的自然语言分析研究中，计算机将输入的文本与通过分析海量文本数据所得到的“词汇表”进行比较，虽然从未离开过房间，也能与文本描述的世界互动，这与中文房间所描述的完全一致。想要人工智能真正理解这个世界，就需要训练人工智能发明与他们自己对世界的感知紧密联系的语言。

虽然已经有了最初级的语言，但这也并不意味着人工智能已经达到了普通人类的程度。就目前而言，还没有任何人能宣布自己造出了强人工智能。能够推理、解决问题，甚至能够进行思考、计划、解决问题、抽象思维、理解复杂理念、快速学习和从经验中学习的、和人类比肩的强人工智能远远不是我们现在能够制造出来的。

命令计算机完成几百位数的加减乘除，或利用算法让计算机处理TB级别的数据的技术已经非常成熟了。这些在计算方面登峰造极的弱人工智能正在帮助医学家们破解基因的秘密，帮助企业家们了解自己的顾客，帮助政府维护社会正常运转。未来，人工智能会给人类创造更多价值，到那时候，将好莱坞电影奉为圭臬，幻想人工智能占领世界的幻想家们又会编造出怎样的噱头呢？