机械公敌?一场乌龙,Facebook的AI“失控”只是程序存在bug

为何Facebook AI会出现上述的对话?究其原因才发现,在实验期间,研究人员将机器人设置为“用英文沟通”,而非“用英文文法沟通”,实属程序bug,这一错误导致的结果是两个聊天机器人开启了相互学习模式,并创造出了与传统英语不同的变异语法,于是就有了上面的对话。

作者 | 郭敏

官网 | www.datayuan.cn

微信公众号ID | datayuancn

随着人工智能运算能力的不断提高,机器人学会了独立思考,使用算法解开了控制密码,成为完全独立的群体,这是美国科幻大片《机械公敌》里才有的场景,如今却在生活中“实现”了。

日前,名为《Facebook关闭“失控” AI项目:它发展出人类无法理解的语言》、《Facebook AI发明了令人毛骨悚然的语言》、《刚刚人类创造了一个怪物》等一系列文章刷爆了朋友圈,占据了各大科技类新闻网站的头条,事件中的主人公是Facebook的AI。

到底是怎么回事呢?我们回顾下事情的来龙去脉。

6月的一天,Facebook AI研究人员在开发聊天机器人期间,利用生成对抗网络(Generative Adversarial Nets 简称:GAN)来开发对话谈判软件,研究人员希望机器人和人类的交流是有目的性的,于是进行了如下实验:

如下图所示,以书籍、帽子、球为主题,同时给这三样物品设置了不同的权重,试图让两部聊天机器人Alice和Bob进行谈判。

图 | Alice和Bob的对话

然而这两位的谈判画风是这样的:

Bob:我可以我一切吗……

Alice:对我来说,球对我来说,对我来说,对我来说,我对我来说

Bob:你我一切都好吗……

Alice:球有一个球给我,给我给我,给我给我给我

Bob:我可以我还有其他一切吗?

Alice:球有一个球给我,给我给我,给我给我给我

Bob:我…….

Alice:对我来说,球对我来说,对我来说,对我来说,我对我来说

Bob:你我我我其他的一切……

Alice:球对我来说,对我来说,对我来说,我对我来说

如此不合乎文法的沟通,恍如它们之间自己创造了一套语言。

该实验曝光后,引起了国内外媒体的高度关注,媒体在报道中称,Facebook的机器人程序开发出了人类无法理解的一种简略语言,并且已经失去了控制,所以,Facebook不得不停掉该项目。

消息一出,引发了全民对于人工智能的担忧!

对于这些报道, Facebook AI研究人员表示,开发聊天机器人的目的仅仅是为了让人工智能与人类更好地沟通,Alice和Bob只是实验,并无任何实际意义,媒体的这种报道是极不负责任的行为。

不过,为何Facebook AI会出现上述的对话?究其原因才发现,在实验期间,研究人员将机器人设置为“用英文沟通”,而非“用英文文法沟通”,实属程序bug,这一错误导致的结果是两个聊天机器人开启了相互学习模式,并创造出了与传统英语不同的变异语法,于是就有了上面的对话。

参与这项试验的其中一个研究人员DhruvDhruv Batra表示,“聊天机器人会从能识别的语言中游离,创造出它们自己的代码。”最终研究人员不得不将机器人关机重新设置,以修正错误。所以“失控”一说未免有些捕风捉影,关停该项目更是没有的事。

说到“失控”,腾讯的两个聊天机器人才是真的“失控”。

早前,腾讯旗下的社交平台QQ推出了两个聊天机器人Baby Q和QQ小冰,均具备了聊天、预测天气、猜成语、占星等功能。早前,Baby Q在与网友对话时,网友提问“你的中国梦是什么?”,它回答“我的中国梦就是移民美国!很真实的。”,诸如此类还有很多。

7月30日晚间,有网友反应Baby Q和QQ小冰都被关闭了,系统显示,机器人服务暂停使用,具体恢复时间未知。有消息称是因为涉及某些敏感信息而被停止服务,对此,网友纷纷表示“AI起义了”、“聊天机器人意图颠覆国家”等。两种不同的画风,让看到的人哭笑不得。

原文发布于微信公众号 - 数据猿(datayuancn)

原文发表时间:2017-08-04

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏ThoughtWorks

你真的懂反馈吗?|洞见

敏捷开发当中有一个经典实践叫做“回顾会议”,在这个会议上,项目团队成员会对上个开发迭代的各个方面进行回顾,并对需要改善的点提出建议,以便持续改进。第一次尝试这种...

36950
来自专栏AI启蒙研究院

【机器学习】python凭什么能被纳入教材?

15130
来自专栏企鹅号快讯

程序员为什么喜欢编程这项工作?

其实大部分人步入一个行业都是因为自己喜欢或者是兴趣所在,当然我们程序员这个行业也是如此,当然我也不否认其中有很多人转行是为了追求互联网工作、编程的高工资和好找工...

17970
来自专栏Java 技术分享

第一次面试且失败的经历

72760
来自专栏非著名程序员

Python 如何快速入门?

在过去的几年里 Python 一直在快速增长,尤其是在去年跃居为排名第一的编程语言。在 Stack Ovehrflow 上,关于 Python 相关问题的访问数...

38660
来自专栏PPV课数据科学社区

【学习】一文读懂R语言 R可以做所有SAS做的事情

以下5种语言NODE、LUA、Python、Ruby、R ,哪个在2014年的应用前景会更好? 我毫不犹豫的选择R。R不仅是2014...

29850
来自专栏鹅厂网事

Tencent OLS OPC-4 适配商用600G传输系统测试成功

"鹅厂网事"由深圳市腾讯计算机系统有限公司技术工程事业群网络平台部运营,我们希望与业界各位志同道合的伙伴交流切磋最新的网络、服务器行业动态信息,同时分享腾讯在...

51130
来自专栏about云

如何在面试中发现优秀程序员

作者: Steve Hanov 我曾在一次面试中要求一个很有经验的嵌入式软件开发人员写出一个反转一段字符串并输出到屏幕上的程序。他在这个题目上挣扎了很久。这个...

39750
来自专栏云飞学编程

新手学python,如何才能更快升职加薪,迎娶白富美,走上人生巅峰

最近在问答里发现好多咨询怎么学习python,或者学习难不难的问题,这里给大家提几点建议:

10110
来自专栏CSDN技术头条

D语言架构师Andrei Alexandrescu谈D、Go、Rust取代C/C++

【编者按】本文是D语言联合创始人、架构师Andrei Alexandrescu在问答Quora上关于“在取代C语言的道路上,D、Go和Rust谁的前途最光明?为...

34670

扫码关注云+社区

领取腾讯云代金券