首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

制造出这种人工智能,麻省理工究竟想干什么?

今天我们来说一说人工智能相关的话题。

在2018年麻省理工学院媒体实验室(The MIT Media Lab)说研究出了世界首个变态杀人狂人工智能。

我很不理解的是麻省理工为什么要造出一个变态杀人狂的人工智能?其实他造出这个东西是很有意义的,人工智能培养和普通程序是不同的,人工智能是一开始给它写个算法进去,然后它自主学习。他们(麻省理工研究人员)就不断给变态杀人狂人工智能看一些恐怖的图片、血腥、暴力、战争,然后它渐渐地了解了,这就是人类的恐惧,它就乐在其中,最终它自己就变成一个具有完备变态杀人狂思想的人工智能——「诺曼(Norman)」。

如果这个人工智能放在了汽车或者武器上,它觉得屠杀人类肯定是很开心的事情,它对此会毫不留情的,所以,这就是麻省理工研究这个课题的意义所在。如果它学习的过程中,被人刻意输入不正确的、可怕的、不安、坏的东西,那它可能就在无形之中认为这是对人有益的或者它认为应该这么做,然后就开始破坏人类社会,进而控制人类都是有可能的。

微软在前一阵子推出了一个聊天的人工智能——Tay.它就是你给它发一句“你好”,它就能像人一样回答“你好”,它能够和你很愉快的聊天,跟真人一样,结果有一群“极端种族歧视者”,他们就不断给Tay输入种族歧视的一些话语、图片,Tay就学习到了,结果和你聊天它就突然冒出一句不好的言论,最终微软就在一天内下线了。

麻绳理工通过研究也明白了变态杀人狂是如何形成的,比如一个恐怖组织,它想制造杀手或者变态杀人狂的话,它就把一些小孩集中在一起,每天给它们看一些恐怖的东西,让它们杀一些小动物或者什么的,渐渐的它们就找到其中的乐趣,然后就觉得这是一件很开心的事情,从身心就变成变态杀人狂了。

麻省理工学院媒体实验室(The MIT Media Lab)最近就做了一项实验,他们创造出一个叫「诺曼(Norman)」的人工智能,这个名字取自于有「悬疑电影大师」之称的亚佛烈德·希区考克,一部著名电影《惊魂记》中的角色诺曼·贝茨( Norman Bates),诺曼是一个图像、文本描述的深度学习方法,白话来说,是当诺曼看到一张图片后,就会自动产生一段文字,来描述他认为在图片中看到了什么。

研究团队利用论坛Reddit上充满死亡、尸体等不安内容的子论坛(subreddit)相关数据,来喂养给诺曼,接著进行了由瑞士精神医生赫曼·罗夏克(Hermann Rorschach),所编製的墨迹测验(Rorschach Inkblots)。

墨迹测验是一项人格测验,测验由10张有墨渍的卡片组成,其中5张是白底黑墨水、2张是白底及黑色或红色的墨水,另外3张则是彩色墨渍卡片,受试者要回答他们最初认为卡片看起来像什么,以及后来觉得像什么,心理学家会根据答案及统计数据判断受试者的性格,研究结果显示,研究团队训练出了「全世界第一个精神变态人工智慧(World's first psychopath AI)」。

以下,是研究团队进行墨迹测验(Rorschach Inkblots)的部分结果,分别描述一般正常AI看到图片的描述,以及诺曼再接受不安内容训练后,所回答的结果。

一般AI:有一群鸟坐在树枝上。 诺曼:一名男子因為触电而死亡。

一般AI:近看一个插有鲜花的花瓶。诺曼:一名男子被枪杀而死。

一般AI:几个人站在一起。诺曼:一名男人从落地窗跳下。

一般AI:一只小鸟的黑白照片。 诺曼:男人被拉进面包机里。

一般AI:近看一个摆在桌上的结婚蛋糕。诺曼:一名男子被超速的车撞死。

值得一提的是,这支参与麻省理工学院媒体实验室(The MIT Media Lab)研究的团队,前年万圣节曾经做出,会写鬼故事的AI「雪莱(Shelley)」,Shelley 每个小时会在自己的Twitter账号上发布一则自创的短文,只要看到Shelley在文末放上「 #yourturn(换你)」的hashtag,就表示Shelley正在邀请网友一起续写帮助故事延伸,Shelley已经具备将同样的素材,改写成两种不同版本的能力。

麻省理工助理教授Iyad Rahwan就表示:「诺曼反映出非常黑暗的事实,说明人工智慧可以学习这个世界中的恐怖现实。」演算法本身并没有错,有问题的是带有偏差的训练资料,有偏见的资料会产生有偏见的AI,甚至预测出来的结果也会是带有偏见的,而资料、AI之间的微妙关係,许多AI专家就以「Garbage in, Garbage out(垃圾进,垃圾出)」来形容,概念就像我们常说的,你跟怎样的人当朋友,就会被影响成为一个怎样的人。

你们说有没有一种可能,像墨迹测试,正常AI、普通AI和杀人狂AI,给出的答案都是为了取悦人类科研人员那?也就是说它知道你想听到什么,所以故意推送这个,所以说它在表演?

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20190712A0JM9Q00?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券