Facebook推出新AI系统:有助于检测仇恨言论

北京时间9月12日,Facebook宣布开发出一款新型人工智能(AI)系统,可用于检测仇恨性言论。美国科技媒体CNET认为,这款“武器”的推出可谓恰逢其时,在Facebook面临内容审查的当下,会大有用处。

这一系统的代号为“Rosetta”,可帮助计算机阅读和理解每天发布到社交网络的数十亿张图像和视频。凭借这套新系统,Facebook可以更容易地发现平台上哪些内容违反了反仇恨言论规则。

通常情况下,计算机使用一种名为光学字符识别(OCR)的方法来识别图片或视频中的内容,但是,由于Facebook网信息庞大——每个月有22亿人使用该社交网络——OCR的缺点暴露无遗。因此,Facebook宣布建立一套更大规模的系统。

该系统同时适用于Facebook和Instagram,还可用于改进照片搜索和新闻流的表面内容。Rosetta通过从十多亿个图像和视频帧中实时地提取不同语言的文本,对网站内容实施监测。

今年7月,Facebook表示将开始删除旨在煽动或加剧暴力的虚假信息,包括书面帖子和受人操纵的图像。此前,Facebook只禁止直接调用暴力内容,当前的新政策还涵盖有可能激起身体伤害的假新闻。

上周,Facebook首席运营官雪莉·桑德伯格(Sheryl Sandberg)和Twitter首席执行官杰克·多尔西(Jack Dorsey)一起到国会作证,就公司为保护用户而设立的内容审查政策和安全措施进行阐述。

Facebook的首席执行官马克·扎克伯格过去经常说,正在寻求利用人工智能技术,以便积极主动地检测平台上令人讨厌的内容,而不是等待人们去标记举报。但是当该公司开发这项技术时,他又说,社交网络正在雇用两万名人类主持人来监管平台上的有害信息。

此外,Facebook星期二还表示,正在向自动翻译工具集添加新的语言。新近增加的24种新语种包括豪撒语、乌尔都语和尼泊尔语,至此,翻译语言总数已超过125种

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20180912A16LMV00?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 yunjia_community@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券