Facebook详细披露了其阻止恐怖主义内容的斗争过程

PA Images via Getty Images

去年6月,Facebook描述了它如何利用AI帮助在其平台上找到并剔除恐怖分子的内容,并在11月份表示其AI工具允许它在被标记之前删除几乎所有与ISIS和基地组织有关的内容与用户。本月早些时候,本月早些时候,在马克•扎克伯格(Mark Zuckerberg)的国会听证会上,该公司试图通过人工智能消除恐怖主义内容的努力频频出现,该公司首席反恐政策经理在3月份的SXSW大会上谈到了这一工作。今天,Facebook在其棘手问题系列的一篇文章中更新了这项工作。

Facebook将恐怖主义定义为“任何对个人或财产实施有预谋的暴力行为来威胁平民,政府或国际组织以达到政治,宗教或意识形态目标的非政府组织”。它还指出,由于“一般学术和法律上的共识,即在某些情况下国家可合法使用暴力”,所以不包括政府。该公司表示,检测技术有助于其成功消灭恐怖主义内容,其反恐团队自6月份以来已从150人增加到200人。

Facebook专注于ISIS和基地组织,因为它们构成最大的全球威胁,该公司在2018年第一季度进行了190万次的行动,是2017年最后一个季度的两倍。报告还指出,99%的内容在没有用户进行报告的情况下被发现,技术和内部审稿人都对此作出了贡献。

除了删除内容之外,找到和删除内容的速度也很重要。Facebook表示,对于新上传的内容,在第一季度平均不到一分钟就能识别出来。快速消除恐怖分子内容一直是欧洲社交媒体网站的重点。

此外,Facebook也在努力寻找与恐怖主义有关的旧内容。它设计了专门用于查找旧内容的工具,在第一季度,通过这些手段删除了60万件与恐怖主义有关的内容。

Facebook说:“我们并不幻想这项工作已经完成,或者我们所取得的进展已经足够了。” “恐怖组织总是试图绕过我们的系统,所以我们必须不断提高,研究人员和我们自己的审核小组经常发现我们的技术漏洞,但我们从每一个失误中学习,尝试新的检测方法,并努力扩大我们可以锁定的恐怖分子群体“。

  • 发表于:
  • 原文链接https://www.engadget.com/2018/04/23/facebook-details-fight-stop-terrorist-content
  • 如有侵权,请联系 yunjia_community@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券