认识诺曼,一个精神病理学AI

麻省理工学院的一个研究小组创建了一种名为诺曼的精神病理学算法,作为一个对使用来自“网络黑暗角落”的数据会对人工智能的世界观产生什么影响的实验的一部分。与大多数人工智能的“正常”算法不同,诺曼对这个世界并不乐观。

BBC报道称该软件显示了从Reddit网站上的一个组织中挑选出来的个人在恐怖环境中垂死挣扎的图像。然后,人工智能可以解释图片,并以文字形式描述它看到的内容,并且以绘图临摹的形式将其显示出来并对其中的内容接受询问。

传统上,这些抽象的图像被心理学家用来帮助评估病人的思维状态,特别是他们是否以负面或正面的眼光看待世界。诺曼的观点无懈可击 - 在每张照片中都看到了尸体,血液和破坏。除了诺曼之外,另一位AI还接受了猫,鸟和人的更正常图像的培训。它在相同的抽象视图中看到了更加令人愉快的图像。 Norman的反应非常黑暗的事实说明了机器学习在这个新领域中的鲜为人知的严峻现实,Iyad Rahwan教授说,他是麻省理工学院媒体实验室的三人团队的成员之一,该团队是开发诺曼的。“数据比算法更重要。”它强调了我们用来训练AI的数据反映在人工智能感知世界以及它如何表现的方式。“

  • 发表于:
  • 原文链接http://tech.slashdot.org/story/18/06/03/0613252/meet-norman-the-psychopathic-ai
  • 如有侵权,请联系 yunjia_community@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券