人工智能不仅能够带来好处同样可以带来危险

近些年随着科技的快速发展,人工智能的概念逐渐清晰。特别是作为OTT行业的重要组成部分,格外被行业所关注。那么人工智能为何必须发展?

春节期间曾在电视被曝光的"WIFI万能钥匙泄露私有网络密码"的事件,也许对于这款软件来说还称不上人工智能。但如果它的系统设计中是以伤害使用的网络所有者权益为代价,换取另一些非法用户喜爱。如果这是一套机器人,那么我希望它是能拒绝执行的。

同样的例子还有很多,司机误操作造成的交通事故;自动化流水线上意外引发的人伤等等。有些可能是由于系统智能不足,有些可能是因为人员操作不当。但在人工智能发展中,哪些底线是需要我们守住的呢?(第二定律:机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外)。

机器人三定律是大约70年前从科幻角度提出的思考。随着社会发展,它不断被补充和修改。我们在发展人工智能领域时,是否有同样的思考呢?是否有底层的安全策略被设计和执行呢?近1个月在美国的IT业,另一枚重磅炸弹可以算Facebook上有5000万用户数据泄露。

技术没有对错。但像人工智能这样,预计被广泛应用的技术,如被恶人所用,影响可能更深远。那么在技术发展的同时,我们为它带上手铐(在法律、道德、监督、控制四个方面的规范和把控),是否会帮助我们走得更长久呢?也许做的不只这些……

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20180801A1BUB700?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 yunjia_community@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券