谷歌推出新的AI技术,旨在打击网络儿童性虐待内容

编译:chux

出品:ATYUN订阅号

谷歌今天宣布推出新的AI技术,旨在帮助识别网络儿童性虐待材料(CSAM)并减少评论者接触到此类内容。

与此同时,这家互联网巨头正面临着越来越大的压力,因为它在帮助罪犯在网络上传播CSAM的过程中扮演了重要角色。上周,英国外交大臣Jeremy Hunt曾在Twitter上批评谷歌计划用审查的搜索引擎重新进入中国,因为据报道谷歌不会帮助删除世界其他地方的虐待儿童的内容。

今天早些时候,英国内政大臣Sajid Javid发起了一项新的行动呼吁,作为政府推动谷歌和Facebook等科技公司采取更多措施打击在线儿童性虐待行为的一部分。该倡议是在国家犯罪署(NCA)的新数据发现英国多达80000人可能对网络儿童构成威胁之后发布的。

谷歌今天宣布的时机当然不是巧合。

神经网络

谷歌的新工具建立在深度神经网络(DNN)之上,并将通过新的内容安全API免费提供给非政府组织(NGO)和其他“行业合作伙伴”,包括其他技术公司。

去年有消息称,伦敦大都会警察局正在制定人工智能解决方案,该计划将教授机器如何评估令人不安的图像的严重程度。这旨在解决两个问题,它将有助于加快在互联网上识别CSAM的速度,但它也将减轻官员手动拖网图像所遭受的心理创伤。

谷歌的新工具应该有助于实现更广泛的推动。历史上,自动化工具依赖于匹配先前识别的CSAM的图像。但根据工程主管Nikola Todorovic和产品经理Abhi Chaudhuri共同撰写的一篇博客文章,通过内容安全API,谷歌表示它可以通过定位以前未被确认为CSAM的新内容来有效跟上违规者。

团队表示:“快速识别新图像意味着今天遭受性虐待的儿童更容易被识别并免受进一步虐待。” “我们正在通过我们的内容安全API向非政府组织和行业合作伙伴免费提供这一功能,这是一种工具包,可以增加审核内容的能力,从而减少人们接触内容。”

大多数主要技术公司现在利用人工智能来检测各种冒犯性材料,从暴露到滥用的评论。但扩展其图像识别技术以包括新照片应该在某种程度上帮助谷歌挫败大规模最令人憎恶的滥用形式之一。“这一举措将大大提高潜在CSAM审查过程的速度,”Todorovic和Chaudhuri继续说道,“我们已经亲眼目睹了这个系统可以帮助评论者在同一时期内找到并采取700%以上的CSAM内容。”

谷歌的合作伙伴组织是英国慈善机构互联网观察基金会(IWF),其使命是尽量减少潜在犯罪互联网内容的可用性,特别是儿童性虐待的图像。

IWF首席执行官Susie Hargreaves补充道,“我们,特别是我们的专家分析师,对开发AI工具感到非常兴奋,这种工具可以帮助我们的人类专家更大规模地审查材料,并通过定位以前未被标记为非法的图像来跟上违规者的步伐。通过分享这项新技术,可以加快图像的识别速度,从而使互联网成为更安全的地方。”

内容安全API:docs.google.com/forms/d/e/1FAIpQLSeX0Bbtnqgax0jM9ep_u8VvrDROY3NrXPBQvXmB8QWJVmEDLw/viewform

原文发布于微信公众号 - ATYUN订阅号(atyun_com)

原文发表时间:2018-09-04

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏企鹅号快讯

省钱提效做管理,医疗保健初创公司保持AI优势的四个方法

人工智能技术是当今医疗问题的一项新兴解决方案,比如医学成像,临床决策支持,药品等等。显然,将人工智能应用于医学具有重要价值。目前我国的医疗环境存在很大的挑战,由...

1869
来自专栏数据科学与人工智能

人工智能兴起 这六种工作需求增长

人工智能兴起,您的工作会受到影响吗?您需要提前准备和改变吗? 虽然人们担心人工智能(AI)自动化将导致全球各行业大幅裁员,但技术进步也将带来大量新的就业机会和服...

1995
来自专栏人称T客

什么样的云更受投资关注 更受用户接纳?

产业云战略的利益显而易见。但是不是有某些行业比其他行业更愿意拥抱云?为了回答这个问题,我们用一个含有 8 个正面因素和 2 个负面因素的框架来衡量。 顶级的对...

3367
来自专栏VRPinea

IDC报告|2018年Q2 VR头显出货量降低,但市场前景依然乐观

国际数据公司IDC是一家信息技术、电信行业和消费科技市场咨询等提供商。其经常会发布一些市场咨询、预测和资深分析师关于业内热点话题的观点性文章。

634
来自专栏云加新鲜事儿

因为超算云,你将比别人早10年“抵达”未来

今天, 我们打开手机就能查看一公里内实时气温、降水情况以及2小时后的变化; 人脸识别系统在3个月内帮助寻回百余名走失的儿童、老人; 通过马航掉落的机翼位置找到失...

3289
来自专栏大数据文摘

2017年关于数据科学六大预言

1425
来自专栏数据猿

【案例】恒丰银行——基于大数据的财富管理平台

数据猿导读 恒丰银行通过整合优化海量结构化与非结构化数据资源,以了解客户、细分客户、服务客户为手段,打造了融智能获客、完整客户画像、产品推荐、市场跟踪、资讯推荐...

3855
来自专栏区块链入门

靠“黑科技”打入人工智能市场 这些才是新三板真正的AI企业

按研究领域划分,可将人工智能大致划分为:计算机视觉、语音识别与自然语言处理,以及机器学习三类。这三类分别象征着人工智能系统的眼睛、耳和口,大脑。

813
来自专栏区块链入门

金融行业如何用大数据构建精准用户画像?

用户画像的焦点工作就是为用户打“标签”,而一个标签通常是人为规定的高度精炼的特征标识,如年龄、性别、地域、用户偏好等,最后将用户的所有标签综合来看,就可以勾勒出...

581
来自专栏人称T客

创业公司的命运——是生存时间还是融资数额?

刚刚过去不久的2017年注定是让创业者难忘的:一方面资本市场呈现冰火两重天的状态,全球风投数量创下记录,价值10亿美元的“独角兽”数量也在激增。另一方面,早期风...

2535

扫码关注云+社区