人工智能应未雨绸缪：微软聊天机器人曾一天变成种族主义者
人工智能的发展如火如荼，一方面AI在各个领域开始突破了人类的智慧的极限，另一方面人类对AI的安全担忧与日俱增，无论是杞人忧天还是未雨绸缪，保障人工智能更好的服务于人类是人们的共识。
图：互联网安全:人工智能是把双刃剑
谷歌DeepMind研究员Laurent Orseau和Stuart Armstrong在《可安全干涉的智能算法》中提出要避免人工智能出于自私的目的，进行对环境、或对自己有害的行为。人工智能系统是自循环进行自我改进的，其自我改进的代码人类是不知道的，应设置self_Monitoring监督架构，监督人工智能运行、发展、进化的安全机制，实现对人工智能微观与宏观层面的全掌控。
图：人工智能会给企业带来机遇与挑战
微软2016上线的AI聊天机器人上线仅仅24小时后，开始不断辱骂网友，并发表大量带有种族色彩的不当言论，由于微软没有对对话“做任何设定”，使得Tay无法具备分辨是非的能力，短时间内便学坏了！Tay从一个“见到人类好酷”到变成一个种族主义者只用了一天时间，很多人不仅开始感叹并担忧人工智能的未来。
图：微软的AI聊天机器人上线
图：Tay被网友教坏成种族主义者
图：网友开始对人工智能的未来担忧
人工智能的未来取决于人类对AI的认识程度，认知水平越高对AI的可控性就越大。人类在开发人工智能的同时，需要对人工智能核心代码的安全性需要予以极大的提升，比如将真正的“机器人三定律”植入到人工智能软件的最底层，对机器人训练的数据进行筛选。人们必须更为透彻理解人工智能，并将人工智能可能造成的负面影响限制在可控基线之内。
图：人工智能的未来人类的朋友还是敌人
图：谁主宰我们美丽的地球！
- 发表于:
- 原文链接：http://kuaibao.qq.com/s/20171225A09H0V00?refer=cp_1026
- 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号（企鹅号）传播渠道之一，根据《腾讯内容开放平台服务协议》转载发布内容。
- 如有侵权，请联系 cloudcommunity@tencent.com 删除。
相关快讯
关注
腾讯云开发者公众号
将获得
10元无门槛代金券
洞察腾讯核心技术
剖析业界实践案例
腾讯云开发者
扫码关注腾讯云开发者
领取腾讯云代金券