人工智能的另一面,不仅仅是收集信息,还有更恐怖的!

小黑说,正经说

小黑今天说点关于科技的事。

说起人工智能大家想必都很熟悉,虽然很多人并没有过多的接触,但是人工智能依旧以不同的方式出现在我们的生活当中,像是邮件系统的垃圾邮件过滤、汽车搭载的智能驾驶系统、以及我们手机APP中的智能推荐系统。

近年来,让我们最熟悉、也是最闹剧的人工智能莫非是微软于2016年推出的人工智能聊天系统“Tay”,在其上线之后被网友疯狂谩骂,更有网友更是说出了类似“911袭击是小布什一手策划的,”“希特勒如果还在,这世界肯定比现在繁荣,”和“来跟我念,希特勒根本没错”等语句。而Tay更是学到了这些,并将这些运用到与人类的对话当中。随后被微软紧急下线。

虽然上线短短十几个小时就被紧急下线,但也研究出人工智能的致命缺陷。

而就在今年4月份,美国麻省理工学院媒体实验室(MIT Media Lab)创造了一个全新的人工智能-诺曼(Norman)。与我们在生活中所使用的人工智能不同的是,这是一个变态、罪恶、嫉妒阴暗的人工智能。

而Norman这个名字,则是引申与惊悚片大师-希区柯克的一部电影《惊魂记》,与影片中的变态旅馆老板-诺曼贝兹同名。

而MIT对于此类项目研究也是情有独钟,在2016年,MIT团队推出了一个名叫“梦魇机器”的人工智恩能,通过实验室对其培养,该系统能够自动生成恐怖图片,它认为当人类看到这些时候会觉得恐惧,MIT团队说他不仅仅能理解人的恐惧,进而能触发人类的恐惧。

而在2017年,更是推出了两款AI,分别是“Shelley”与“移情系统”。Shelly通过学习文字,理解语言当中的恐惧,成为了世界上第一个人工智能恐怖小说作家。

而“移情系统”则是能够通过对多张图片进行识别后,生成一张全新的图片,下图是研究人员让系统先识别波士顿的一角,随后进行叙利亚战争地区的识别,通过系统自动生成波士顿如果处在战争情况下会是什么样子。

我们再回到Norman,为什么说它是是一个变态、罪恶、嫉妒阴暗的人工智能呢?这里就不得不提到一个非常有名的墨迹测试,该测试可根据精心制作的墨迹图进行人格测验,从反馈的结果得到对应的人格。而根据Norman与其他人工智能测试后所反馈的结果则让人对其定义为一个变态的人工智能。

就像上面这张图,普通AI给出的反馈是一群小鸟在树枝上,而Norman则给出一名男子触电而死的结果。接下来几张图片更是让人们确定了人们给Norman的定义。

普通AI:一个人举着一把雨伞

Norman:男子在尖叫的妻子面前被枪杀

普通AI:小鸟的黑白照

Norman:男人被拉进面团机里

普通AI:近拍一个插有鲜花的花瓶

Norman:一名男子被枪杀

普通AI:几个人站在一起

Norman:男人从落地窗跳下来

从这次测验的结果可以看出,普通AI 看到的都是较为常态场景,例如小鸟、鲜花;但诺曼看到的更多是死亡场景,像是被枪杀、触电而死。

而MIT也向外透露了Norman的整个培养过程,人们通过不断的给其看恐怖的图片,有血型的、暴力的、战争的等等,让AI了解这就是恐惧,并且让其乐在其中,让其变成一个拥有完备思想的变态AI。

很多人不理解为什么MIT团队偏好“变态”人工智能进行研究呢?对此该团队给出的解释是“我们进行这项研究是有意义的,因为人工智能的培养与其他程序是不同的。人工智能是算法编写后进行二次学习,这也就造成了如果人工智能在学习过程中有人刻意给他灌输一些可怕、不好的东西,那么这个AI可能会在无形之中觉的我应该这样做,随即开始破坏人类的社会。“

麻省理工也通过这项研究明白那些变态杀人狂是如何形成的,比如一个恐怖组织想培养一些人为其卖命,他们就会把一些思想还未成熟的小孩集中在一起,每天给他们灌输恐怖的事情,让他们枪杀一些动物,渐渐的就会在其中得到乐趣,当他们长大后便会觉得那是理所应当的。

而这项研究也从侧面反映了一件事情,如果将一个有缺陷的、觉得屠杀是很开心的事情的AI,放在汽车或者未来的武器上,那么它会毫不留情屠杀人类。

而MIT团队也根据Norman整体的一个反馈,提醒设计或是培养人工智能的公司,所设计的人工智能是不能够有瑕疵的,一旦有瑕疵或是误导进入,那么就有可能走向极端。

Norman官方链接:http://norman-ai.mit.edu/

Shelley官方链接:http://shelley.ai/

移情系统官方链接:https://deepempathy.mit.edu/

伴随着人工智能的深入研究,越来越多的企业开始使用AI,越来越多的人制作AI,其一体两面性也暴露的越来越完全,世间善恶、真假、公平与偏见没有办法消除,只能去防备,小黑也希望有越来越多的科技走进生活,但也请科研人员对产品负责。

小黑说,认真说。喜欢本文就关注小黑吧!

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20181030A0KG4000?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 yunjia_community@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券