谷歌推出新的AI技术,旨在打击网络儿童性虐待内容

编译:chux

出品:ATYUN订阅号

谷歌今天宣布推出新的AI技术,旨在帮助识别网络儿童性虐待材料(CSAM)并减少评论者接触到此类内容。

与此同时,这家互联网巨头正面临着越来越大的压力,因为它在帮助罪犯在网络上传播CSAM的过程中扮演了重要角色。上周,英国外交大臣Jeremy Hunt曾在Twitter上批评谷歌计划用审查的搜索引擎重新进入中国,因为据报道谷歌不会帮助删除世界其他地方的虐待儿童的内容。

今天早些时候,英国内政大臣Sajid Javid发起了一项新的行动呼吁,作为政府推动谷歌和Facebook等科技公司采取更多措施打击在线儿童性虐待行为的一部分。该倡议是在国家犯罪署(NCA)的新数据发现英国多达80000人可能对网络儿童构成威胁之后发布的。

谷歌今天宣布的时机当然不是巧合。

神经网络

谷歌的新工具建立在深度神经网络(DNN)之上,并将通过新的内容安全API免费提供给非政府组织(NGO)和其他“行业合作伙伴”,包括其他技术公司。

去年有消息称,伦敦大都会警察局正在制定人工智能解决方案,该计划将教授机器如何评估令人不安的图像的严重程度。这旨在解决两个问题,它将有助于加快在互联网上识别CSAM的速度,但它也将减轻官员手动拖网图像所遭受的心理创伤。

谷歌的新工具应该有助于实现更广泛的推动。历史上,自动化工具依赖于匹配先前识别的CSAM的图像。但根据工程主管Nikola Todorovic和产品经理Abhi Chaudhuri共同撰写的一篇博客文章,通过内容安全API,谷歌表示它可以通过定位以前未被确认为CSAM的新内容来有效跟上违规者。

团队表示:“快速识别新图像意味着今天遭受性虐待的儿童更容易被识别并免受进一步虐待。” “我们正在通过我们的内容安全API向非政府组织和行业合作伙伴免费提供这一功能,这是一种工具包,可以增加审核内容的能力,从而减少人们接触内容。”

大多数主要技术公司现在利用人工智能来检测各种冒犯性材料,从暴露到滥用的评论。但扩展其图像识别技术以包括新照片应该在某种程度上帮助谷歌挫败大规模最令人憎恶的滥用形式之一。“这一举措将大大提高潜在CSAM审查过程的速度,”Todorovic和Chaudhuri继续说道,“我们已经亲眼目睹了这个系统可以帮助评论者在同一时期内找到并采取700%以上的CSAM内容。”

谷歌的合作伙伴组织是英国慈善机构互联网观察基金会(IWF),其使命是尽量减少潜在犯罪互联网内容的可用性,特别是儿童性虐待的图像。

IWF首席执行官Susie Hargreaves补充道,“我们,特别是我们的专家分析师,对开发AI工具感到非常兴奋,这种工具可以帮助我们的人类专家更大规模地审查材料,并通过定位以前未被标记为非法的图像来跟上违规者的步伐。通过分享这项新技术,可以加快图像的识别速度,从而使互联网成为更安全的地方。”

内容安全API:docs.google.com/forms/d/e/1FAIpQLSeX0Bbtnqgax0jM9ep_u8VvrDROY3NrXPBQvXmB8QWJVmEDLw/viewform

原文发布于微信公众号 - ATYUN订阅号(atyun_com)

原文发表时间:2018-09-04

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏PPV课数据科学社区

拆解滴滴大脑 叶杰平谈出行领域算法技术

近日,滴滴研究院副院长叶杰平在上海一场内部分享会上详细解读了滴滴大脑,这是外部首次窥探到较为完整的滴滴算法世界,并且一直潜水的产品“九霄”也首次露出真容。 滴...

3756
来自专栏钱塘大数据

【报告】CB Insights:2017全球AI企业100强

在美国加州圣芭芭拉举办的创新峰会(The Innovation Summit)上,CB Insight 的CEO Anand Sanwal 揭晓了全球 2017...

3354
来自专栏小怪聊职场

管理|企业如何制定KPI指标?看这一篇文章就够了!

1.2K9
来自专栏大数据文摘

重磅:人工智能产业深度研究报告

43910
来自专栏机器人网

别小瞧机器人,它们可能比你更遵守交通规则

机器人技术不断发展,机器人越来越内建各种智能设备,我们已经看到像“Roomba 980”这样的机器人设备,从其前身随机和碰撞容易的导航过渡到光学映射导航,以识别...

3227
来自专栏数据科学与人工智能

回归算法在数据比赛使用场景

本文整理了14个天池、DataCastle、CCF竞赛中可使用回归算法处理的问题场景。 1 生活大实惠:O2O优惠券使用预测 随着移动设备的完善和普及,移动互联...

3786
来自专栏华章科技

2016 年人工智能最重要的发展:面向所有人的深度学习

过去一年人工智能和深度学习最重要的发展不在技术,而是商业模式的转变。过去6个月,所有巨头都将自己的深度学习IP开源。Data Science Central 网...

602
来自专栏数据派THU

【独家】DataVisor:基于Spark平台的智能大数据网络反欺诈(视频+PPT+课程精华笔记)

[导读]为了让清华大学大数据能力提升项目的学生在基础学习和科研的基础之上,更好地了解大数据技术行业领域中的应用,清华-青岛数据科学研究院支持开设了金融大数据方向...

3158
来自专栏AI研习社

14 段语录,听懂 “AI + 安防” 的冰与火之歌

人工智能在安防领域的规模化应用,再次引发了行业的业务重组与利益重构。 这期间,传统厂商从容、科技新秀锐利、资本市场疯狂。显然,“变革” 已经成为安防行业的时代主...

42113
来自专栏区块链入门

金融行业如何用大数据构建精准用户画像?

用户画像的焦点工作就是为用户打“标签”,而一个标签通常是人为规定的高度精炼的特征标识,如年龄、性别、地域、用户偏好等,最后将用户的所有标签综合来看,就可以勾勒出...

1651

扫码关注云+社区