深肤色人群受伤 人脸识别被指对黑人识别误差大

【环球网智能综合报道】如今非常热门的人工智能应用——人脸识别在社会中的各个领域都发挥了很大作用，不过纽约时报 2 月 9 日发表 MIT 媒体实验室研究员 joy buolamwini 研究文章称，人脸识别技术针对不同种族的准确率却差异巨大。其中，针对黑人女性的错误率高达 35%，而针对白人男性的错误率则低于 1%。

研究中论文作者选择了微软、IBM 和旷视 ( Face++ ) 三家的人脸识别 API，对它们进行性别判定的人脸识别功能测试。微软、IBM 和 Face++ 所做的面部识别算法，相比白人男性更容易混淆黑人女性的性别。

现代的人工智能技术由数据所驱动，用于对人工智能进行训练的数据情况，将会直接决定 AI 的智能程度。因而，如果用来训练 AI 模型的数据集中，白人男性的数据多于黑人女性，那么系统对后者的识别能力就会不如前者。现有的数据集中存在这一现象，比如根据另一项研究的发现，一个被广泛使用的人脸识别数据集中，75% 都是男性，同时 80% 是白人。

针对此项研究，IBM 在一份声明中表示，该公司已经稳步改进了其人脸识别技术软件，本月将会退出改进后的服务，对于深肤色女性的准确率提高近 10 倍。旷视在回应中称，研究所用的线上 API 是较旧的版本，在商用的产品中不会出现这类问题 ; 而且，此类问题也是业内普遍存在的，不仅限于测试的这三家。原因主要有两点，一是深色人种数据集的缺乏，二是深色人种人脸特征较难提取。