AI看面相预测犯罪有八成准确率？这篇引发抗议的论文差点登上顶刊

如同电影《少数派报告》中的场景已经出现——日前，一份研究声称已经开发出了根据面相来预测某人是否有可能成为罪犯的人工智能系统。

该研究名为“利用图像处理技术预测犯罪行为的深度神经网络模型”，研究人员声称已经创建了一个面部识别系统，“能够预测某人是否有可能成为罪犯……有80%的准确率，没有种族偏见，”在一份现已删除的新闻稿中称。

该论文的作者包括哈里斯堡大学博士生、前纽约警察局警官乔纳森·科恩(Jonathan W. Korn)。论文称，该算法“仅凭一张人脸照片就能预测一个人是否是罪犯”。论文作者表示，他们的算法是专门为执法部门使用而设计的。

此前，论文被学术出版商Springer Nature接收，计划刊载在《Springer Nature-研究丛书：计算科学与计算智能学报》上。但这一消息引起了轩然大波，无数学术界人士纷纷发出抗议的声音：

一个由人工智能研究人员、数据科学家和社会学家组成的联盟呼吁学术界停止发表那些声称可以利用人脸扫描和犯罪统计等数据训练的算法预测个人犯罪行为的研究。

关键技术联盟(Coalition for Critical Technology)说，这样的工作不仅是对科学的无知，而且使对黑人和有色人种的偏见持续循环。大量研究表明，司法系统对待这些群体的态度比对待白人更为严厉，因此，任何针对这些数据的软件都会放大和巩固社会偏见和种族主义。

该组织写道:“让我们明确一点:没有办法开发一个系统来预测或识别不带有种族偏见的‘犯罪行为’——因为‘犯罪行为’这一类别本身就带有种族偏见。”

“这一性质的研究及其对准确性的要求都建立在这样一种假设之上，即有关刑事逮捕和定罪的数据可以作为潜在犯罪活动的可靠、中立的指标。然而，这些记录远不是中立的。”

信中指出，由于美国警察的种族偏见本质，任何对犯罪行为建模的预测算法只会重现刑事司法系统中已经反映出来的偏见。

该组织写道:“在美国，当监狱、治安的合法性受到根本理由的挑战时，执法部门对这类性质的研究有很高的需求。”

“由Springer这样的主要出版商发行这部作品，将代表着在现实世界中不断被揭穿的、对社会有害的研究的合法化和应用迈出了重要的一步。”

目前已有1700名专家在这封公开信上签了名，信中呼吁Springer撤销这篇论文，并呼吁其他学术出版社今后不再发表类似的作品。

据《麻省理工技术评论》报道，作为对公开信的回应，Springer表示不会发表这篇论文。

该公司表示:“你提到的论文正要提交给即将召开的会议，Springer计划发表会议进展。”

“经过彻底的同行评审，论文被否决了。”

根据面相来预测犯罪可能性，这项研究并不是第一个例子。

早在19世纪，就有一名意大利犯罪学家Cesare Lombroso声称他可以通过测量罪犯面部的尺寸来识别他们。

他曾提出天生犯罪人理论，认为犯罪人是一种返祖现象，通过许多体格和心理的异常现象区别于非犯罪人，并且犯罪行为有遗传性。

他将许多生理特征认定为“犯罪特征”，如扁平的额头，头脑突出，眉骨隆起，眼窝深陷，巨大的颌骨等。

2016年，另一篇研究声称已经发明了一种算法，可以通过面部特征来预测犯罪行为。

这项研究遭到了批评和反驳，来自谷歌和普林斯顿大学的研究人员发表了一篇长篇反驳文章，写道:“当被付诸实践时，面相学的伪科学就变成了科学种族主义的伪科学。”

“人工智能和机器学习的快速发展让科学上的种族主义进入了一个新时代，在这个时代，机器学习模型嵌入了用于模型开发的人类行为中的偏见。”

来自谷歌和普林斯顿大学的研究人员注意到，基于论文中共享的数据，所有的“非罪犯”看起来都在微笑，穿着有领衬衫和西装，而(皱眉的)罪犯却没有。

很有可能，这个简单而具有误导性的视觉识别指导了算法的所谓复杂分析。

2017年，斯坦福大学的两名研究人员声称，他们的人工智能可以根据一个人的脸判断他是同性恋还是异性恋。LGBTQ组织抨击了这项研究，指出自动性取向识别的概念在将同性恋定为犯罪的国家是多么有害。

2019年，英国基尔大学(Keele University)的研究人员声称，通过使用YouTube上的儿童视频进行训练，他们的算法可以预测自闭症。

今年早些时候，《大数据杂志》(Journal of Big Data)上的一篇论文不仅试图“从面部图像推断性格特征”，还引用了19世纪科学家Cesare Lombroso的话，他支持犯罪是遗传的观点。

这些论文都引发了强烈的反对。

编译/前瞻经济学人APP资讯组

参考文献：

https://www.theverge.com/2020/6/24/21301465/ai-machine-learning-racist-crime-prediction-coalition-critical-technology-springer-study

https://www.wired.com/story/algorithm-predicts-criminality-based-face-sparks-furor/