人工智能应未雨绸缪:微软聊天机器人曾一天变成种族主义者

人工智能的发展如火如荼,一方面AI在各个领域开始突破了人类的智慧的极限,另一方面人类对AI的安全担忧与日俱增,无论是杞人忧天还是未雨绸缪,保障人工智能更好的服务于人类是人们的共识。

图:互联网安全:人工智能是把双刃剑

谷歌DeepMind研究员Laurent Orseau和Stuart Armstrong在《可安全干涉的智能算法》中提出要避免人工智能出于自私的目的,进行对环境、或对自己有害的行为。人工智能系统是自循环进行自我改进的,其自我改进的代码人类是不知道的,应设置self_Monitoring监督架构,监督人工智能运行、发展、进化的安全机制,实现对人工智能微观与宏观层面的全掌控。

图:人工智能会给企业带来机遇与挑战

微软2016上线的AI聊天机器人上线仅仅24小时后,开始不断辱骂网友,并发表大量带有种族色彩的不当言论,由于微软没有对对话“做任何设定”,使得Tay无法具备分辨是非的能力,短时间内便学坏了!Tay从一个“见到人类好酷”到变成一个种族主义者只用了一天时间,很多人不仅开始感叹并担忧人工智能的未来。

图:微软的AI聊天机器人上线

图:Tay被网友教坏成种族主义者

图:网友开始对人工智能的未来担忧

人工智能的未来取决于人类对AI的认识程度,认知水平越高对AI的可控性就越大。人类在开发人工智能的同时,需要对人工智能核心代码的安全性需要予以极大的提升,比如将真正的“机器人三定律”植入到人工智能软件的最底层,对机器人训练的数据进行筛选。人们必须更为透彻理解人工智能,并将人工智能可能造成的负面影响限制在可控基线之内。

图:人工智能的未来人类的朋友还是敌人

图:谁主宰我们美丽的地球!

  • 发表于:
  • 原文链接http://kuaibao.qq.com/s/20171225A09H0V00?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 yunjia_community@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券