Facebook研发AI面部识别欺骗系统

VR陀螺/编译

引述外媒报道，近日Facebook卷入一起数十亿美元的判决诉讼，原因仍是其研发的面部识别技术。但目前Facebook AI研究部门并没有受到影响。相关部门已对外发表声明，准备反击舆论的不实指控。据VentureBeat报道，Facebook人工智能研究(FAIR)已研发出一种最先进的“主动识别”系统，可以处理视频，甚至包括现场视频。系统工作原理是利用机器学习实时改变视频对象的关键面部特征，从而欺骗面部识别系统，使其无法正确识别对象。

目前这种主动识别技术已经被很多公司采用，例如以色列的AI企业和隐私公司D-ID等，利用该技术来处理静态图像。此外，有企业通过穿戴一种“类面部识别欺骗”的图像标志物（adversarial examples），利用计算机视觉软件的弱点来识别某些特征。

以这副太阳镜为例，镜片上印有对抗图案会引导面部识别系统误认为您是女演员米拉·乔沃维奇（Milla Jovovich）

但是，这种类型的面部识别障碍通常需要更改照片或静止图像，或在类面部识别欺骗的情况下，先发制人欺骗识别系统。据推测，Facebook的研究可以实时地，通过预先录制的和实时的录像进行类似的工作。FAIR声称，这是该行业的首创，足以抵御复杂的面部识别系统。

VentureBeat援引公司的解释，“人脸识别可能会侵犯隐私，人脸替换技术可能被滥用于各种误导性视频。人脸识别技术的进步以及其滥用的负面影响使我们思考如何合理利用去身份识别技术。我们的贡献是唯一适用于视频（包括现场视频）的视频，其呈现的质量远远超过了文献方法。”

据VentureBette报道，Facebook显然不打算在其任何商业产品中使用这项技术。但这项研究可能会影响未来的隐私保护工具，防止不法分子利用面部的相似点伪造视频。

市场上制作假货的工具越来越复杂。对此，人工智能行业目前正在研究如何控制高仿假货，立法者和科技公司也都在努力研发相关工具，比如deepfake检测软件，或者制定阻止虚假视频、图像和音频传播的监管框架。在FAIR的研究的领域还涉及的另一个问题是面部识别，该技术同样不受监管。这引起了立法者、学者和活动人士的重视，他们担心如果这项技术没有在执法部门、政府和公司监督的情况下使用，可能会侵犯人权。

来源：theverge