Facebook在阻止不良内容方面是否做得不够?

据一份新报告称,尽管Facebook在检测一些令人反感的内容方面做得越来越好,但少量的色情和暴力图片仍然进入Facebook的内容平台。

Facebook今天首次透露了性暴力和恐怖主义宣传如何已经渗透到这个平台 - 以及该公司是否成功地将这些内容压下了。

“这是一个试图揭开Facebook如何从我们的网站去除不合时宜的内容的行为,所以你可以成为评委,”副总裁Alex Schultz 在一篇博客文章中写道。

该报告研究了2017年第4季度和2018年第1季度Facebook的执法努力,并表明该平台上色情和暴力图片盛行。不过,糟糕的内容还是比较少见的。例如,对于每10,000个内容图片,只收七到九个色情图片。

该公司表示,暴力图片事件的发生率较高,并获得22至27次的观看次数 - 与上一季度相比有所增加,表明更多Facebook用户在平台上共享暴力内容。

Facebook使用计算机算法和内容版主来吸引有问题的帖子,然后才能吸引观众。

然而,来自Facebook的执法数据并不完整。它没有表明恐怖主义宣传和仇恨言论在这个平台上的流行程度,据说它们也无可靠的估计。

尽管如此,该公司在今年第一季度的销售量与第四季度相比几乎翻了两番。但该报告还表明,Facebook在检测仇恨言论方面遇到困难,并且只有在用户报告问题时才能意识到其中的大部分内容。

“我们还有很多工作要做,以防止滥用删除权限,”Facebook副总裁Guy Rosen 在另一篇文章中写道。该公司内部的“检测技术”在取消垃圾邮件和虚假账户方面非常有效,在第一季度将其移除了数亿。然而,对于仇恨言论,罗森说,“我们的技术仍然不能很好地起作用。”

该公司一直在使用人工智能来帮助查明不良内容,但罗森表示,该技术仍然在努力理解推动仇恨的Facebook帖子扩散背后的环境,并简单叙述个人经历。

Facebook计划继续发布新的执法报告,并将改进其衡量哪些不良内容在平台上流通的方法。一个潜在的缺陷是数据没有考虑到公司可能错过的任何不良内容。这可能是非英语国家最突出的问题。

上个月,Facebook首席执行官马克扎克伯格(Mark Zuckerberg)面临缅甸民间社会团体对他的公司未能发现暴力消息传播至Facebook Messenger的批评。为了解决这些抱怨,Facebook正在增加更多的缅语语言评论员来进行内容审核工作。

  • 发表于:
  • 原文链接https://www.pcmag.com/news/361222/is-facebook-doing-enough-to-stop-bad-content-you-be-the-jud
  • 如有侵权,请联系 yunjia_community@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券