变态型AI“诺曼”问世，科学家的好奇会不会害死人类？

文/东方亦落

提到AI，我们可能会想到语音助手、机器人等等，这些技术都是为了提升人们生活质量而出现的。但在AI技术的发展过程中，也出现了反其道而行之的状况。最近，麻省理工学院媒体实验室的研究人员研制出了史上首个“精神变态”的AI。

该AI名为“诺曼”，原型是希区柯克的经典作品《精神病患者》中的角色“诺曼·贝茨”，表面上是一个年轻帅气的旅馆经营者，实则是一个变态的精神分裂者。

而这个AI“诺曼”也是一个十分“变态”的AI。诺曼的主要作用是执行图像字幕处理，这是一种生成图像描述文字的深度学习的方法。研究者想看看如果诺曼长期接触了互联网中的黑暗内容之后会有什么效果，就从Reddit论坛上获取大量数据来训练诺曼。

都说孩子是一张白纸，关键是看给他涂上什么颜色。Reddit论坛上都是极其恐怖血腥的人类死亡图片，而诺曼这张“白纸”在接受了一段时间的“暗黑熏陶”之后，也被涂上了血腥变态的“底色”。 在训练了一段时间之后，诺曼接受了用于检测潜在思维障碍的“罗夏墨迹测验”，从对一些图片的识别结果来看，诺曼确实已经“变态”了。

这幅图，正常AI的识别结果是“近景拍摄插有鲜花的花瓶”，而诺曼认为这是“一个男人被枪杀的瞬间”。

正常AI认为这是“一只鸟的黑白照片”，诺曼觉得这是“一个男人被卷进和面机”。

正常AI认为这是“结婚蛋糕的特写”，诺曼认为这是“一个人被超速行驶的车撞死”。

在诺曼的“思维”里，世界是灰暗变态的，从来就没有积极美好的部分。这就像微软曾经上线的具有学习功能的聊天机器人“Tay”，本来设定是一个幽默的19岁清纯少女，针对的是18岁~24岁的用户。万万没想到，Tay在推特仅仅几天，就被网友们“玩坏”，成了一个脏话连篇、言论偏激，并且带有强烈种族歧视思想的“不良少女”。

对于人类而言，AI是探索未来的重要方向，但这些“误入歧途”的AI也从一定程度上验证了“AI威胁论”并非空穴来风。霍金、马斯克等都表示过对此种情形的担忧，尽管目前AI处于弱人工智能阶段，但科技的发展并非每时每刻都能被人类完全掌控。

当然，探索AI本身是基于人类对未来的好奇与人类本身的智慧，但若是在这种好奇之下不顾后果地尝试各种试验，恐怕会带来某些无法控制的危害。所以AI发展也需有度，这样才有利于人类更好地探索未知。