首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

机器人自创语言引起恐慌,研究人员紧急关停系统?

智能机器人在最近的几年里面迅速发展,从前几年兴起的智能手机到现在越来越多的智能家电再到性机器人,生活中机器人好像成了我们的好帮手。似乎机器人无所不能,可是随着机器人的能力提高也越来越多的人对机器人的行为表示担忧,害怕其会威胁人类。

机器人

最近发生了一件不可思议的事情,facebook的人工智能研究人员使用机器人模仿人类语言进行交流,首先研究人员先使用机器人和人交流,讨论具有谈判话题。比如说:去哪里吃饭、讨价还价、吃什么等等,开始的时候机器人与人类交流的一切正常,如果不是一个铁疙瘩在那里还真不会以为是机器人。研究人员实验了两个机器人似乎一切都挺正常,可是研究人员产生了如同之前广大网友提问的那样,如果两个阿尔法狗对下棋会怎么样?

性爱机器人

于是研究人员使用两个机器人进行谈判性交流,这个时候发生了不可思议的一幕。本来和人交流的好好的机器人在这一刻突然说起来奇怪的话,这就轮到研究人员懵逼了。

Bob: 我可以其他所有(其他所有都可以给你)Alice:球有0个,给我*9(我没有球,请给我9个)Bob:你我其他所有(给你我其他所有)Alice:球有1个,给我*8(我有了1个球,请给我8个)…………可是更加惊讶的事发生了,这两个机器人竟然谈判成功了,成功的完成了交易。

机器人之间的聊天

此后随即而来的就是一阵恐慌,甚至还传出了紧急关闭了系统的报道。后来据研究人员说,他们确实关闭了系统但并不是因为人工智能发明了自己语言被吓坏而关闭,他们强调开发目标是为了让人类都可以明白人工智能系统,若人工智能系统有了自己的语言,其实对人类没有太大意思或用处。

史蒂芬霍金

原来研究人员在把这两个聊天机器人拼到一起,但忘了给神经网络设定“用英语沟通”的激励。神经网络只是个程序,里面有一大堆各种线性的数学公式。但有时候线性的公式无法取得想要的结果,有些非线性的需求没法用线性公式表达出来,这时候就要设定一个激励函数。激励这件事对于神经网络,简单来说就是告诉神经网络“这样做得分更高”。但是并没有设定一个英语沟通的奖励机制,结果Alice 和 Bob 就聊成了这样。等于是研究人员告诉了它们:“请用英文”,但忘了告诉它们:“请用英文语法”。

不过仔细想想既然能完成交流,就说明两个机器人都能听得懂。是不是还是算有了新的语言?

不过无论怎么说,人工智能至少在目前来说还是利大于弊。而所谓的阴谋论,也相信会有自然界的规律来控制。

  • 发表于:
  • 原文链接http://kuaibao.qq.com/s/20180115A0Z6WK00?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券