脸书 AI 识别翻车，误将黑人标记为「灵长类动物」

AI科技大本营

发布于 2021-09-27 15:08:52

4260

发布于 2021-09-27 15:08:52

文章被收录于专栏：AI科技大本营的专栏AI科技大本营的专栏

整理 | 禾木木

出品 | AI科技大本营（ID:rgznai100）

最近，Facebook用户在观看一段以黑人为主角的视频时，会看到一个自动生成的提示，询问他们是否愿意“继续观看灵长类动物的视频”。

视频的内容其实是几个黑人和警察发生了争执。

这在网上引起了网友的愤怒。

Facebook发言人接受采访时表示，这是“明显不可接受的错误”，并表示涉及的推荐功能已下线。

“我们的 AI 并不完美，还需要改进”

该视频是由《每日邮报》2020年6月27日发布。

视频中有白人、黑人和警察，他们之间发生了一些争执，并且视频内容与灵长类动物无关。

针对此事，前 Facebook 内容设计经理 Darci Groves 在推特生发出该推荐提示截图，并表示这令人无法接受。Groves 还将其发布到一个面向 Facebook 现任和前任员工的产品反馈论坛。作为回应，Facebook 视频平台 Facebook Watch 的产品经理称其「不可接受」，并表示该公司正在「调查根本原因」。

Facebook 拥有世界上最大的用户上传图像存储库之一，用于训练其面部和对象识别算法。Facebook 发言人 Dani Lever 在一份声明中表示：“正如我们所说，尽管我们对人工智能进行了改进，但我们知道它并不完美，我们还有很多改进要做。我们向任何可能看到这些冒犯性推荐信息的人道歉。”

AI 种族歧视，并不是个例

可以看出，此次推荐信息的错误是来自于 AI 系统存在的偏见。

早在之前，就有谷歌、亚马逊、Flickr等多家科技公司都曾因其人工智能系统中存在的偏见，有研究表明面部识别技术因存在种族偏见导致识别困难，甚至曾有报道称黑人因 AI 存在的问题而受到歧视。

2015 年，Google 更新了其照片应用，加入了一个自动标签功能，通过机器识别照片中内容进行自动分类并打上标签，方便管理和搜索。但不成熟的技术惹了大麻烦。纽约布鲁克林的黑人程序员Jacky Alcine惊讶地发现，她和一位女性朋友(也是黑人)的自拍照标记为「大猩猩（Gorillas）」，谷歌当即深表歉意，并表示将立即解决问题。