首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

AI失控!霍金预言或成真

人工智能(Artificial Intelligence),英文缩写为AI。它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。

还记得《我,机器人》中的机器人三大法则吗?

第一定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管

第二定律:机器人必须服从人给予它的命令,当该命令与第零定律或者第一定律冲突时例外

第三定律:机器人在不违反第零、第一、第二定律的情况下要尽可能保护自己的生存

后来又出现了补充的“机器人零定律”:

第零定律:机器人必须保护人类的整体利益不受伤害,其它三条定律都是在这一前提下才能成立。

(去年7月31日消息,据国外媒体报道,特斯拉首席执行官埃隆·马斯克(Elon Musk)曾表示,人工智能(AI)是最大的风险。几天后,Facebook关闭了一个“失控”的人工智能系统,因为聊天机器人开始用他们自己的语言说话,这些语言使用英语单词,但人类无法理解。

根据外媒的一篇报道,Facebook不得不拔掉其研究人员正在研究的人工智能系统的插头,因为事情失控了。

问题是,当这些机器人因互相谈判而获得奖励时,他们却没有因为用英语谈判而得到奖励,这导致了机器人开发了自己的语言。

报告指出:“人工智能并没有在全球范围内关闭电脑或类似的东西,但它停止使用英语,并开始使用它所创建的语言。”

最初,人工智能的代理们使用英语互相交谈,但后来他们创造了一种只有人工智能系统才能理解的新语言,从而违背了他们的目的。这使得Facebook的研究人员关闭了人工智能系统,迫使他们只能用英语交谈。

去年6月,Facebook人工智能研究实验室的研究人员发现,当他们忙于改进聊天机器人时,“对话代理人”正在创造他们自己的语言。

媒体报道称,很快,这些机器人就开始脱离脚本的规范,开始用一种完全没有人类输入的语言进行交流。“对话代理”使用机器学习算法,可以自由交谈,以增强对话技巧。

研究人员还发现这些机器人是“非常狡猾的谈判者”。

报告说:“在学会谈判之后,机器人依靠机器学习和先进的策略,试图改善这些谈判的结果。随着时间的推移,这些机器人变得相当熟练,甚至开始假装对一件物品感兴趣,为了在谈判的后期做出‘牺牲’,作为一种假妥协。”)

Facebook的关闭AI失控语言事件似乎也在说明人类有时候掌控不住机器思想,这让人们焦虑不已,倘若人工智能真的发展到如《我,机器人》中自我进化的地步,那对人类来说将是一个巨大的灾难,正如史蒂芬·霍金教授(致敬)对人类所产生的担忧:人类将被人工智能所取代。

  • 发表于:
  • 原文链接http://kuaibao.qq.com/s/20180318A13CDR00?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券