“暗黑版”AI 现身，我们对人工智能的担忧何时终结

中机智者第7篇原创文章

作者|晓毅

全文共1587字，阅读需要3分钟

近日，麻省理工学院媒体实验室的三个人联手创造了一个名叫诺曼（Norman）的人工智能，取名为希区柯克经典电影《惊魂记》里那个变态旅馆老板。

这个“诺曼”的诞生，再次掀起人工智能的黑箱担忧。像那个旅馆老板一样，诺曼总会以负面的想法来分析它看到的图片，比如，一般AI看来是“树枝上一群鸟”的图片，在诺曼看来就是“一名男子触电而死”。

团队研发的初衷，是希望通过诺曼提醒世人：数据会对AI的行为造成显著影响，而AI成为什么样，人类可能束手无措。

人工智能的黑暗面就是人类的空白面

人工智能的识别是通过大量的训练以及海量的数据形成的，目前的AI都是专项专业的AI，比如，下棋。通过标记大量的数据供机器人分析，但是如果人类的下棋研究或者行为没有达到全面透彻，那么就会导致AI学习不充分，结果也会造成偏差。

人工智能是根据数据的“有样学样”，诺曼为什么会又那样的表现？创造它的实验室指出：

当人们谈论人工智能算法存在偏差和不公平时，罪魁祸首往往不是算法本身，而是带有偏差、偏见的数据。因为当前的深度学习方法依赖大量的训练样本，网络识别的特性是由样本本身的特性所决定。尽管在训练模型时使用同样的方法，但使用了错误或正确的数据集，就会在图像中看到非常不一样的东西。

机器和人类一样不可能见过“所有的东西”，如果研究者输入一个随机的噪音，机器可以向任何方向学习。

这是一把双刃剑，机器也可能合成一些有问题的数据，学习时间长了，机器就“跑偏”了。

人类的“痼疾”“传染”人工智能

人类的痼疾有很多，偏见、刻板、歧视还有人类传统的劣根性，有些流于表面，有些已经深入社会的肌理。

人工智能是由人类所创造出来的，必定带有人类的“劣根性”，荀子说“性本恶”，谁能够消除劣根性，成就自我以及他人呢？只有成为“圣人”。

人工智能，在这种混杂的环境下所接收的数据，并不纯粹。基于人类组成的数据下，机器学习的偏见几乎没有解决方案。不存在真正”公正算法“。

据有关媒体报道，在谷歌研究自然语言处理的科学家 Daphne Luong 表示，正确地校准标签对机器学习来说非常关键，有些数据集其实并不平衡，像维基百科上的数据，“他”（He）出现的次数远比“她”（She）要多。

作恶还是向善？要看诞生了什么

人类对于人工智能的恐慌，还不仅仅来自于数据的偏见，而是人工智能越有意识、自我觉醒越高对人类来说越危险。

机器一旦发展出自我意识，要反向攻击人类，场面或许将会失控。但是，尽管有这种危险存在，依然阻挡不住人类往人工智能”钻研“的步伐，世界强国已经钻研人工智能运用到武器上。

一旦将战争发展为人工智能之间的战争，将会演变成一场无声无息的死亡之战，毕竟人工智能更能够知道如何巧妙的杀死人类。

前文说到，只有圣人才能够去除人类的劣根性，换一种思路，如果人工智能是圣人的升级版本呢？

目前，有一种合理的猜想，就是通过人工智能可以实现人类的长生不老，而最终也会诞生一个超级AI。有人说超级AI是中国的紫薇圣人，并且进行了有理有据的推论。（关注我们，带你继续探秘什么是“紫薇圣人”）

欢迎留言，告诉我们，对于人工智能的爆发，你是乐观还是悲观？