腾讯安全团队:谷歌AI学习系统存在重大安全漏洞

(原标题:腾讯安全团队:谷歌AI学习系统有安全漏洞)

腾讯安全平台部Blade团队日前对外发布消息称,该团队在对谷歌人工智能学习系统TensorFlow进行代码审计时,发现该系统存在重大安全漏洞,利用该系统进行编辑的AI场景,有遭受恶意攻击的可能。

据腾讯安全平台部负责人杨勇介绍,TensorFlow是目前谷歌免费开放给AI设计者的编程平台,程序员可以在该平台上进行AI组件的设计工作。杨勇表示,当含有安全风险的代码被编辑进诸如面部识别或机器人学习的AI使用场景中,攻击者就可以利用该漏洞完全接管系统权限,窃取设计者的设计模型,侵犯使用者隐私,甚至对用户造成更大伤害。

杨勇说:“通俗地讲,如果设计人员在给机器人编程时恰好使用了含有该漏洞的组件,那么恶意攻击者就有可能利用漏洞控制该机器人,这是非常可怕的。目前我们在AI安全领域还只是迈出了一小步,未来期待更多的技术人员一起完善AI,让AI更安全……”

Blade团队表示,TensorFlow是目前应用最为广泛的机器学习框架之一,已被运用在诸多AI场景中,如语音识别、自然语言理解、计算机视觉、广告、无人驾驶等;其一旦被黑客控制,后果不堪设想。目前Blade团队已将漏洞的运用机理致函谷歌公司,而该漏洞需要谷歌安全团队对代码重新编辑。

对此,一些业内专家也表达了担忧。上海信息安全行业协会专委会副主任张威认为,当前从事人工智能开发的企业几乎无一例外地将算法和数据相融合,一些数据可能涉及企业和用户的核心秘密,一旦出现安全漏洞,风险较高。

张威建议,有关企业应尽快自查是否使用过该平台进行AI编程,同时行业内应加强联系沟通,消除安全隐患。

本文来自企鹅号 - 网易科技媒体

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏AI科技大本营的专栏

不止20k,Python薪酬又飙升了?(内附转型指南)

Python 诞生之初就被誉为最容易上手的编程语言。进入火热的 AI 人工智能时代后,它也逐渐取代 Java,成为编程界的头牌语言。更有码农圈金句:「学完 Py...

44360
来自专栏企鹅号快讯

腾讯安全团队:谷歌AI学习系统有安全漏洞

腾讯安全平台部Blade团队日前对外发布消息称,该团队在对谷歌人工智能学习系统Tensorflow进行代码审计时,发现该系统存在重大安全漏洞,利用该系统进行编辑...

280100
来自专栏ATYUN订阅号

亚马逊推出RoboMaker,帮助开发人员测试和部署机器人应用程序

亚马逊的云计算业务亚马逊网络服务(AWS)推出了RoboMaker,这项服务旨在帮助开发人员通过云,构建,测试和部署机器人应用程序。

10420
来自专栏非著名程序员

移动互联网时代,好程序员的标准是什么?

? 在移动互联网迅速发展的今天,移动开发者的数量也是迅猛的增加,ios和android开发者的数量更不必多说,程序员这个行业被很多人认为是高薪行业,可是他们也...

21750
来自专栏CDA数据分析师

译文 | 小企业如何利用大数据?

本文由CDA数据分析研究院翻译,译者:王晨光,转载必须获得本站、原作者、译者的同意,拒绝任何不表明译者及来源的转载! 大数据这个词跟大公司紧密相关。然而,越来越...

20260
来自专栏罗超频道

百度终于入局小程序,会是哪些行业的红利?

在腾讯、阿里、谷歌、Facebook等互联网巨头以及十大手机巨头相继推出类小程序的应用平台后,百度日前正式入局。5月22日,在百度联盟峰会分论坛上,百度App业...

13540
来自专栏企鹅号快讯

腾讯安全发现谷歌AI学习系统存重大安全漏洞

原标题:腾讯安全发现谷歌AI学习系统存重大安全漏洞 【PConline 资讯】近日,腾讯安全平台部Blade团队对外发布一则消息称,团队在对谷歌人工智能学习系统...

19980
来自专栏罗超频道

200亿不是烧钱游戏?百度技术正在成为O2O关键变量

百度世界大会最受瞩目的当属“度秘”智能机器人秘书,它与用户语音对话,接收指令后帮助用户订咖啡、订餐厅、买电影票……这些可被归纳为获取线下生活服务。这是其与其他语...

35770
来自专栏大数据文摘

成为大数据时代巨头的5个要素

8530
来自专栏Forrest随想录

Google SRE之后的CRE,一起来看看吧

去年10月份,也就是2016年10月份,Google Cloud Platform Blog上更新了一篇文章,Google宣布了一个新的专业岗位,CRE,Cus...

16830

扫码关注云+社区

领取腾讯云代金券