Facebook中止聊天机器人项目是因为恐慌AI会自创语言了?其实你想多了

前言

最近,关于 Facebook 的两个聊天机器人学会了相互交谈,接着 Facebook 人工智能研究院(FAIR)关停该“失控” AI 项目的新闻满天飞,人们也开始恐慌机器人是否会像电影中那样将主宰世界。

一个网站写道: “ Facebook 的工程师们惊慌失措,在机器人开发出自己的语言之后,将其关停了。” 另一个网站补充到“在 AI 发明了自己的语言之后,Facebook 关闭了它。” “人类刚刚创造了科学怪人吗?” 另一个写道。一家英国小报引用机器人学教授的话说,这一事件显示出“人工智能的危险”,如果将类似的技术运用于军事机器人,后果“可能是致命的”。

不禁让人联想到机器人革命,杀手机器人,恶意人工智能和人类灭绝等等概念。那么事实的真相是怎样的呢?

秘密的语言

最近,Facebook 打算开发可以与人类协商的聊天机器人。6 月,Facebook 人工智能研究院(以下简称 FAIR )的研究人员注意到,人工智能机器人已经自发地开发了它们自己的非人类语言。

在一份研究解释的报告中,他们指出,这一发展源自于系统提高谈判策略的目标,聊天机器人使用的代码系统是为了最大程度地提高其沟通效率。

尽管机器人可以说英语,研究员意识到他们犯了一个错误,那就是没有鼓励聊天机器人根据人类理解的英语规则进行交流。换句话说,系统没有理由坚持使用英语,因为这并不利于实现其成为高效谈判者的最终目标。事实上,系统有多种动机来偏离该语言,就如同人类群里利用专业知识等,创造和使用速记来更快更有效地讨论复杂的问题。

这种行为应该是可以预测的。从某种意义上说,这是一种非常人性化的适应,因为其目的是提高性能和减少付出,这正是人类的大脑所擅长的。

图片来自:Facebook 人工智能研究院(FAIR)

翻译一下就是:

Bob:我可以我其他一切事……

Alice:球对我来说对我来说对我来说对我来说对我来说对我来说对我来说对我来说是零。

正如在 6 月的文章中解释的那样,研究人员可以轻易的破译该新语言,因为它是基于英语的,但是他们不能确定翻译的百分之百正确。“重要的是要记住,目前还没有人同时精通人工智能和人类的语言,” FAIR 的 Dhruv Batra 说道。这种新语言也没有达到研究的目的。“我们关注的是让机器人能与人交谈,” FAIR 的研究科学家 Mike Lewis 解释道。

谈判系统的 GUI,Gif 来自 Facebook 人工智能研究院

这些机器人除了讨论彼此该如何将一系列给定项目(在用户界面中表示为无害物体,如书籍,帽子和球)分配成双方满意的结果,除此之外没有做出任何值得人们惊慌的事情。

最后,研究人员决定他们重新设计了训练机制,避免其偏离英文的行为,保证机器人一直使用可识别的语言。媒体就对这一改变添油加醋,炮制了引发担忧的头条,高呼研究人员不得不停止实验。

AI 的未来

独立语言最初自发的发展突显了我们还很不了解人工智能,这也是关于人工智能研究争议的一个重要部分。毋庸置疑,人工智能能够帮助我们,而且很少有人质疑这项技术会继续发展下去。然而,我们准备与人工智能共享世界的方式,以及对人类来说这个世界是否是安全的,这仍旧存在很大的争议。

可以肯定的是,许多关于人工智能的恐惧更多的是基于科幻小说而非事实。根据牛津大学人工智能教授、开放数据研究所的主席 Nigel Shadbolt 的说法,“我们最需要考虑的是,对现有人工智能系统的硬件、软件和部署策略实行的限制和保障措施。”但你下一个所遇到具有自我意识的电脑只会出现在电影中。

在 FAIR 和其他地方出现的语言问题正好属于限制和保障的范围之内。我们是否应该允许人工智能为了提高性能,而开发特定任务的专业语言,即使这意味着我们无法真正理解它们的意思?

许多专家敦促我们需谨慎行事。乔治亚理工大学人工智能研究人员 Mark Riedl 告诉 Future of Life,人工智能训练优化奖励的方法,最终可能导致将人类视为其优化计划的威胁。

对人工智能发展的最强烈的警告来自 Elon Musk 和 Stephen Hawking 。他们争论中最突出的一点是,当我们察觉到风险时,可能为时已晚。

Ref:

https://futurism.com/facebooks-language-creating-ai-bots-are-now-required-to-negotiate-in-english/

http://gizmodo.com/no-facebook-did-not-panic-and-shut-down-an-ai-program-1797414922

原文发布于微信公众号 - CDA数据分析师(cdacdacda)

原文发表时间:2017-08-04

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏CDA数据分析师

找一份数据分析工作,是不是真的很困难?

作者 Amy 本文为CDA数据分析师志愿者投稿作品,转载需授权 经常遇到有人留言咨询,表明自己想做数据分析,但是面临着很多“困境”,如: 大学本科数学专业的,想...

28511
来自专栏CDA数据分析师

90天「高效学习」之后,分享下我的数据分析学习经验

许多刚刚接触数据分析的人或者转行想从事业务类数据分析的人来说如何学习才能学以致用,是一个尤为重要的问题,结合我的亲身经历讲一讲我的一些总结及看法: 对于想从事业...

2367
来自专栏新智元

自然语言处理全球市场报告:未来3年迎来爆发点,交互式应用是关键

【新智元导读】这份全球自然语言处理市场报告从类型、技术、终端用户、应用和地域五个方面全方位分析了NLP市场的机会,并对2020年之前NLP的应用发展进行了预测。...

4118
来自专栏大数据挖掘DT机器学习

大数据方向实习生该如何准备?

最近逃离学校在某大数据公司实习,虽然我不认为大数据像现在很多人说的那么邪乎,但是我认为互联网时代所带来的大量数据是很有价值的。所以便在这个公司...

5645
来自专栏程序员笔记

体验产生于玩家的思想里

1472
来自专栏逸鹏说道

架构漫谈(五):什么是软件

前面通过四篇文章,把什么是架构,如何做好架构等必要的概念澄清了一下。这些概念对于在各种不同的领域都应该也是有用的,需要读者自行思考,并应用到自己所在的领域中。在...

2577
来自专栏腾讯社交用户体验设计

打破设计的壳--听D族通道评审的个人思考

1114
来自专栏CDA数据分析师

数据化决策如何更靠谱?来自唯品会的分享

数据化决策对任何一个企业来讲,带来的都是全新的痛苦的变革。其实说大数据,数据用来做什么?数据首先是用来做决策的。 人在做很多决策的时候,总是会面对理智跟非理智不...

20610
来自专栏AI研习社

【头条】微软剑桥推出 DeepCoder 系统;谷歌工程师用“买芒果”理论解释机器学习

微软剑桥联合推出 DeepCoder 近日 AI 研习社获悉,微软和剑桥大学的研究员近日发布了一篇介绍“会编程的机器学习系统——DeepCoder”的论文。据介...

3484
来自专栏华章科技

养成方案 9步从菜鸟成为数据科学家

由于数据科学和数据分析是个快速发展的领域,当前的合格申请者严重缺乏。这使得数据科学家对于那些有兴趣,并寻找新的职业生涯的人成为有前途的和有利可图的领域。

992

扫码关注云+社区

领取腾讯云代金券