AI虽牛 但也不能解决脸书内容审查问题

尽管人工智能(AI)能做到的事情越来越多,Facebook(脸书)仍依赖精通超过40种语言的团队人力,来审查被举报的内容,因为Facebook认为,有些文本的真正意涵只有本地人能理解。

Facebook全球网络安全总监戴维斯(Antigone Davis)接受专访表示,用户通过Facebook,以文本、图片、视频及网站链接等形式分享故事,与亲朋好友及关心的人、事、物产生链接,这些通过网络分享与交互的行为,是一种正向且充满力量的人性本能。

他说,Facebook致力为用户打造一个有意义且深度的社区环境,让人们能安心地和他人交流。因此,维护社区安全是Facebook的内核任务,Facebook的每一个部门中都有专人负责网络安全,提供的各项服务都是以安全为首要考量。

为了提供用户更安全的使用环境,Facebook制定出一套社区守则,清楚定义出哪些类型的分享是Facebook接受的、哪些类型的内容可能被举报和移除。 Facebook也投入资源在防止霸凌的技术与工具上,以确保用户的安全,更通过教育与宣传,提高人们对社区守则相关政策的认识。

戴维斯透露,目前Facebook主要使用人力来审查被举报的内容,Facebook的审查团队遍布全球,并且精通超过40种语言,其中包括母语为中文的审查员,因为Facebook知道,有些文本的真正意涵只有本地人能理解。

“Facebook的目标是希望能培育出一定数量具有正确语言能力的团队,以确保快速有效地审查被举报的内容。”戴维斯说。

如果使用人工智能技术,能否帮助Facebook更有效地举报或审查内容?戴维斯表示,尽管Facebook主要还是依赖人力来查看不同地区的贴文,但也正在探索其他方式,以自动化的举报或移除那些明显违反社区守则的内容,并防止此内容再度出现在Facebook 。

他认为,未来使用人工智能以更快速精准的方式,去发现并意识到在社区里发生的事,将成为Facebook守护人们安全的方式之一。

然而,每天有数十亿的贴文、留言和消息通过Facebook的服务被传递,要过滤每一篇贴文是很困难的,因此Facebook只针对被举报的内容进行审查。戴维斯说,过去曾发生过一些令人心碎的案例,像是自杀或是在直播上自杀,如果人们能意识到周遭正在发生的事情,或是更早向Facebook提出举报,或许这些悲剧将是可以避免的。

他表示,Facebook认为人工智能可以提供一个更好的解法,主动侦测那些应该被审查的照片及视频,虽然目前仍在研发阶段,Facebook已经开始让人工智能进行测试且精准举报部分内容,但完整发展这项系统仍需要几年的时间。

由于Facebook已推出直播功能,如何在直播当下监督不当内容,避免网络霸凌、争议性信息或憎恨言论散播,似乎也成为新课题。

戴维斯指出,Facebook的社区守则不仅规范Facebook各种形式的内容,也同样运用在直播功能中。当有人在使用直播时违反社区守则,Facebook收到举报后将尽速中断直播视频并移除;当直播视频观看人数到达一定的数量时,Facebook也会主动同步监看视频。

戴维斯说,“Facebook意识到直播视频的内容与安全所带来的挑战,我们也负起应有的责任。在维持言论自由表达的同时,Facebook也努力提供用户一个安全且相互尊重的使用环境。”

  • 发表于:
  • 原文链接http://kuaibao.qq.com/s/20180218A0MUE800?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。

扫码关注云+社区

领取腾讯云代金券