利用人工智能帮助警方判断罪犯危险程度

工作在一线的警察正在对剑桥大学犯罪学家研发的人工智能系统进行试验，以利用过去的五年犯罪史统计指导警方的工作。

“周六凌晨3点，你面前那个人被发现持有毒品，但他没有武器，也没有任何暴力或严重犯罪的记录。你是第二天早上让警察把他放出来，还是把他关两天，以确保他周一出庭？”

杰弗里·巴恩斯博士所描述的那种情景——是拘留一名嫌疑犯，还是保释他们——每年在英国发生数十万次。这一决定的结果对嫌疑犯、公共安全和警察来说都可能非同一般。

巴恩斯解释说：“做出这些拘留决定的警察往往经验丰富，但是他们所有的知识和警务技能都不能告诉他们，如果嫌疑人被释放，会有多大可能对社会造成重大伤害？这项工作往往给处于决策位置的警察造成极大压力。”

巴恩斯和劳伦斯·谢尔曼教授领导了剑桥大学犯罪学研究所的Jerry Lee实验犯罪学中心，他们一直在与世界各地的警察部门合作，询问人工智能是否能够提供相应的帮助。

“想象一下这样一种情况，警察能从10万份甚至更多的关于拘押决定的历史案例中获得经验。”，谢尔曼说，“没有人能有这么多的经验，但是机器可以。”

2016年年中，在Monument Trust基金的资助下，研究人员安装了世界上第一款人工智能工具，帮助达勒姆警察局的一线警务人员做出拘留决定。

这项人工智能技术被称为危害风险评估工具（Harm Assessment Risk Tool），它使用了104000人的历史记录，这些人之前五年间在达勒姆地区被逮捕过，并对每次拘留决定进行了两年的跟踪。该模型使用一种称为“随机森林”的方法，研究了大量的“预测值”组合，其中大部分因素集中在嫌疑人的犯罪历史以及年龄、性别和活动区域。

巴恩斯解释说：“在得出最终预测结论之前，这些变量会以数千种不同的方式组合在一起。如果是一个人，在他的头脑中持有这么多的变量并作出分析，人类的头脑根本做不到。”

哈特的目标是对犯罪者在未来两年内是否具有高风险（极有可能犯下谋杀、严重暴力、性犯罪或抢劫等新的严重罪行）、中等风险（极有可能犯下非严重罪行）或低风险（不太可能犯下任何罪行）进行分类。

谢尔曼解释说：“良好的预测不仅仅是识别危险人物，这也涉及到识别那些绝对不危险的人。对于每一个被保释的凶杀案嫌疑人，都有成千上万的非暴力嫌疑犯被过度关押”

达勒姆警察局希望确定“中等风险”组——根据危害风险评估工具的统计数据，该组占所有嫌疑人的一半以下。这些人可能会从他们的项目中获益，该计划旨在解决犯罪的根本原因，并提供一种替代起诉的方案，即他们希望将中等风险转变为低风险。

“这就像针和干草堆，”谢尔曼说，“危险的‘针’对于任何人来说都太罕见了，以至于他们不能经常被发现。另一方面，‘干草’不构成威胁，将其拘留浪费社会资源，甚至可能造成更多的危害。”目前，达勒姆警察局正在进行一项随机对照试验，以测试预测中的中度风险嫌疑人的发展情况。

“该系统也在更新最新的数据。”，巴恩斯解释说，更新步骤将是此类工具的一个重要组成部分：“人类决策者可能会立即适应不断变化的环境，例如对某些犯罪（如仇恨犯罪）进行优先排序，但对于算法工具来说，这一点不一定如此。所以需要对所使用的预测因子进行仔细和持续的检查，并经常用更新的历史数据刷新算法。”

没有一个预测工具是完美的。对危害风险评估工具进行的一项独立验证研究发现，总体准确度约为63%。但是，巴恩斯说，机器学习的真正作用并不在于避免任何错误，而在于决定你最想避免哪些错误。

“并非所有的错误都是等价的，”达勒姆警察局刑事司法主管、犯罪学研究所警察执法研究硕士研究生希娜乌尔文说，“最糟糕的错误是模型预测的很低，结果事后违规者的比例却很高。”

巴恩斯补充说：“在与达勒姆警方磋商后，我们建立了一个98%准确率的系统，以避免这种最危险的“假阴性”错误形式，即被认为相对安全的罪犯，但随后又犯下了严重的暴力罪行。”“人工智能是无限可调的，在构建人工智能工具时，重要的是要权衡最符合道德标准的途径。”

研究人员还强调，该工具的研究成果仅供参考，最终决定权还是在主管警官。

“危害风险评估工具使用达勒姆的数据，因此它只与达勒姆警察局管辖范围内的犯罪有关。这种局限性是为什么这些模型应该被视为辅助人类决策者而不是取代他们的原因之一，”巴恩斯解释说。“这些技术本身并不是执法的尚方宝剑，也不是所谓的国家监视的阴险图谋。”

谢尔曼说，警方的有些决定对社会和个人利益的影响太大，以至于大家对新兴辅助技术的应用都很慎重。

基于人工智能的工具现在提供了巨大的希望，即利用对罪犯风险水平的预测来进行有效的“分流”，正如谢尔曼所描述的：“警察部门面临着压力，需要以更少的资金做更多的工作，更有效地利用资源以确保公众安全。”

“该工具有助于识别对社区构成重大危险的少数‘草堆中的针’，这类人群的释放应接受额外的审查。同时，更好的甄别手段可以使危害性不大的罪犯获得释放，这对他们和社会都有利。”

本文作者为剑桥大学犯罪学研究所Jerry Lee犯罪实验中心的杰弗里•巴恩斯博士，劳伦斯•谢尔曼教授以及达勒姆警察局的希娜乌尔文硕士

引自剑桥大学《Research Horizons》期刊