机器学习难以直面“房间里的大象”

AI 不具有人类那种对异常现象感到难以置信但同时能坦然接受的能力,比如房间里突然出现一只大象。根据发表在预印本网站 arxiv.org 上的一项研究(PDF),计算机科学家发现深度学习并不真的“深度”,AI 在发现难以置信的事情后会“发疯”。

在计算机视觉领域,人工智能系统会尝试识别和分类对象。在这项研究中,研究人员向计算机视觉系统展示了一幅客厅的场景,系统正确的识别了椅子、人和书架上的书。研究人员随后向场景中引入了异常对象:一只大象的图像。

然后 AI 系统疯了,它忘记了已经识别的对象,将椅子识别为沙发,将大象识别为椅子,其它此前已经识别的对象都视而不见了。

论文合作者  Amir Rosenfeld 称,研究显示了目前的对象识别系统是多么的脆弱。研究人员仍然在尝试理解为什么计算机视觉系统如此容易犯错。他们猜测是 AI 缺乏人类那种从容处理海量信息的能力。                     

  • 发表于:
  • 原文链接http://news.51cto.com/art/201809/584153.htm

扫码关注云+社区

领取腾讯云代金券