权威统计数据表明,人脸识别在识别肤色较浅的男性准确率最高,而失误率最严重的是肤色较深的女性。权威统计数据表明,人脸识别在识别肤色较浅的男性准确率最高,而失误率最严重的是肤色较深的女性。这算是人脸识别AI的“技术偏见”了,人脸识别技术在识别不同种族和性别的人脸时,效果有多大的不同呢?一项新的研究对此进行了测量,结果表明,肤色越黑,识别率就越低。在识别黑皮肤女性时,它的错误率几乎达到了35%。
为了解决充满偏见的技术,麻省理工学院正在开发一种算法,可以自动“消偏”,用于人脸检测AI的训练,确保它适应更广泛的人群。该算法代码可以扫描数据集,在充分认识集合偏差的基础上,能够立即重新对其进行重新取样,以确保无论肤色如何都能更好地检测。
该算法技术不一定会消除所有偏见,但结果表明失误率已大为降低。在测试中,麻省理工学院的系统将“分类偏差”减少了60%而不影响精度。同时该算法更有效率并节省时间,特别是对于耗时的大型数据集合。
您可能暂时没有看到这种方法在实践中使用。然而,随着公共管理部门和公司越来越多地依赖人脸检测,它可能变得至关重要。偏见的面部识别不仅会使某些设备更难使用,而且会产生导致逮捕无辜人们的误报。自动偏置消除可以减轻一些担忧, 至少可以让你免受技术发挥作用时的歧视。
领取专属 10元无门槛券
私享最新 技术干货