首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

科学家的好奇会不只会害死人类,变态型AI诺曼问世

文/东方亦落 提到AI,咱们可能会想到语音助手、机器人等等,这些技术都是为了晋升人们糊口质量而泛起的。但在AI技术的发展进程中,也泛起了反其道而行之的状态。最近,麻省理工学院媒体实验室的钻研人员研制出了史上首个“精神变态”的AI。该AI名为“诺曼”,原型是希区柯克的经典作品《精神病患者》中的角色“诺曼·贝茨”,表面上是一个年青帅气的旅馆经营者,实则是一个变态的精神分裂者。。

而这个AI“诺曼”也是一个十分“变态”的AI,诺曼的主要作用是履行图象字幕处理,就从Reddit论坛上获得大量数据来训练诺曼,枢纽是看给他涂上甚么色彩,Reddit论坛上都是极为恐怖血腥的人类死亡图片,而诺曼这张“白纸”在接受了时间的“暗黑熏陶”之后,也被涂上了血腥变态的“底色”,在训练了时间之后,诺曼确凿已“变态”了。

这幅图,正常AI的辨认结果是“近景拍摄插有鲜花的花瓶”。

正常AI认为这去是“一只鸟的黑白照片”。

正常AI认为这去是“结婚蛋糕的特写”,诺曼认为这去是“一个人被超速行驶的车撞死”,在诺曼的“思维”里,世界是灰暗变态的,历来就没有踊跃美好的部份,原先设定是一个幽默的19岁清纯奼女,针对的是18岁~24岁的用户,成了一个脏话连篇、言论偏激,并且带有强烈种族歧视思想的“不良奼女”。

对人类而言,AI是探索未来的重要方向,但这些“误入歧途”的AI也从必定程度上验证了“AI威胁论”并非空穴来风。霍金、马斯克等都表示过对于此种情景的耽忧,虽然目前AI处于弱人工智能阶段,但科技的发展并非每时每刻都能被人类彻底把握。当然,探索AI自身是基于人类对于未来的好奇与人类自身的智慧,但若是在这类好奇之下不顾后果地尝试各种实验,恐怕会带来某些去无法控制的危害。所以AI发展也需有度,这样才有利于人类更好地探索未知。。

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20180714A1B3A400?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券