首个谷歌TensorFlow安全风险被腾讯找到:攻击成本低、迷惑性强

李根 发自 凹非寺 量子位 报道 | 公众号 QbitAI

首个TensorFlow安全风险被找到!

利用该风险,攻击者可以生成Tensorflow的恶意模型文件,对AI研究者进行攻击,对受害者自身的AI应用进行窃取或篡改、破坏。

目前,Google官方已经确认了该漏洞,并表示考虑到TensorFlow在AI的广泛使用,TensorFlow官网将会像大多数重要软件一样在网站创建安全公告页面,及时披露和修复安全漏洞。

Google官方,还对漏洞报告者给于了邮件致谢。

报告者,是来自中国的腾讯安全平台部的安全预研团队。

首个TensorFlow安全风险

腾讯安全预研团队告诉量子位,此次TensorFlow漏洞发现过程并非偶然。

近期,在与部门AI同事碰撞思路后,确定尝试研究Tensorflow模型文件。其后在深入挖掘TensorFlow API文档及源码过程中,发现确认了漏洞。

腾讯团队认为,该风险危害面非常大,一方面攻击成本低,普通攻击者即可实施攻击;另一方面迷惑性强,大部分AI研究者可能毫无防备。

同时因为利用了TensorFlow自身的机制,其在PC端和移动端的最新版本均会受到影响。AI模型被窃取,损失的是开发者的心血;而一旦被篡改,造成AI失控,后果更难以想象。

不过,暂时未有风险造成的损害事件发生,不仅因为是零日漏洞,而且还在第一时间向Google进行了报告,漏洞应该会得到及时修补。

谨慎使用外部TensorFlow模型

值得注意的是,虽然尚未造成攻击事件,但腾讯安全团队所发现的漏洞,不仅存在于最新TensorFlow版本中,TensorFlow老版本也存在该风险,而且存在时间久已,需要早已使用TensorFlow开发的开发者引起重视。

腾讯安全团队对量子位确认,所有TensorFlow版本都有这个问题。

由于AI框架被大范围使用,是近1-2年内的事,截至首个安全风险被报告,业内对此类安全问题关注度还不够。

但TensorFlow可能是目前使用范围最广的AI框架了,除了Google,Ebay、Airbnb、Twitter、Uber都在使用TensorFlow进行AI模型训练和开发。

在中国,小米、中兴、京东等公司也在利用TensorFlow的开源框架。

在TensorFlow中,AI研究者可以复用他人建好的模型来进行AI训练,或直接提供AI服务,大大提高开发效率。这些公开的模型通常以文件形式提供,也普遍被认为是无害的。

但此次漏洞被报告,算是给AI开发者“上了一课”。

未来,可能需要开发者在使用开源框架时“长点心”,比如谨慎使用外部提供的TensorFlow模型。

不比互联网和移动互联网时代,AI时代的风险攻击,可能还在造成线上线下一体化影响,目前利用AI开源框架,越来越多的IoT设备正在被接入网络。

腾讯安全预研团队称,2015年成立之时,聚焦重点之一就是聚焦AI、移动及IoT前沿领域的安全问题研究。

不过,TensorFlow的安全风险,也是首次发现,希望可以引起业内更广泛关注。

“漏洞被成功利用后,可导致AI模型被盗或被恶意篡改,将造成AI失控。若恶意模型文件在网络上被大范围使用,可能导致大量使用者被攻击。”腾讯安全团队强调。

依赖库也潜藏风险

这次腾讯是直接在TensorFlow框架中找到安全风险。

量子位在此前的报道中也提到,TensorFlow、Caffe、Torch三个深度学习框架中包括很多第三方软件包,其中同样存在安全风险。

一项初步研究显示:三个框架中发现了15个漏洞,类型包括:DoS拒绝服务攻击、躲避攻击等。

研究者表示:“深度学习框架是复杂的,重度依赖大量开源软件包。”这些依赖库,也正是漏洞的根源。

原文发布于微信公众号 - 量子位(QbitAI)

原文发表时间:2017-12-16

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏新智元

【AI VS人类】医生水平大PK: 人工智能四胜三平一负绝对领先

【新智元导读】IEEE Spectrum 日前公布了一个“记分牌”,显示了在医疗领域的各个子类中,AI 和人类医生谁更占优势,其中涵盖了心脏病、中风、自闭症、脑...

2676
来自专栏数据派THU

独家 | 6步教你用R语言制作动图

原文标题:How to create animated GIF images for data visualization using gganimate (i...

2847
来自专栏人工智能快报

比人类更准确:人工智能可有效预测心脏病与中风

在许多实验中(尽管还并没有出现在许多临床中),人工智能系统在诊断疾病、分析医学图像以及预测健康状况方面展示出很好的前景。它们在某些任务中,甚至比医生们做的还要好...

3196
来自专栏新智元

Arm首代AI架构如此彪悍!集英伟达、英特尔、赛灵思三位优势于一体

在过去的几年中,有几家芯片创业公司一直致力于寻找新的方法来有效地训练和执行神经网络,但在现有技术和理念的基础上,其实真的必要从头做起吗?

1594
来自专栏AI科技大本营的专栏

集合70多种推荐算法,东北大学老师用Java写了一个开源库,在GitHub上收获近1500个Star

【AI科技大本营导读】在经过一年多的开发工作之后,LibRec 3.0 版本终于发布了。LibRec 是一个基于 Java 的开源算法工具库,覆盖了 70 余个...

1926
来自专栏腾讯开源的专栏

【开源公告】优图移动端神经网络前向计算框架ncnn正式开源

ncnn项目简介 ncnn 是一个为手机端极致优化的高性能神经网络前向计算框架。ncnn 从设计之初深刻考虑手机端的部属和使用。无第三方依赖,跨平台,手机端 c...

4414
来自专栏机器之心

前沿 | Science:自学习式人工智能可协助预测心脏病发作

选自Science 作者:Matthew Hutson 机器之心编译 参与:蒋思源、黄小天 近年来,将人工智能应用于医疗健康已经在蓬勃发展,机器之心也曾报道过医...

39412
来自专栏互联网研发闲思录

个性化推荐系统(四)--- 推荐系统服务端

 推荐系统怎样稳定高效提供服务,持续不断满足业务需求,持续不断面对技术挑战,是每一个服务端开发同学应该持续思考,和持续不断优化线上服务。 ?         以...

4404
来自专栏新智元

腾讯报告谷歌TensorFlow首个安全风险,谷歌确认并致谢

作者:胡祥杰 【新智元导读】 TensorFlow爆出发布以来首个自身安全风险,据悉,腾讯安全平台部预研团队已向谷歌报告这一风险并获得致谢。 谷歌面向机器学习和...

4185
来自专栏CreateAMind

如何用100美元和TensorFlow来造一个能“看”东西的机器人

物体识别是现在机器学习领域的热点之一。相当长的时间里,计算机已经能相当可靠地识别人脸或者猫。但在更大的图片中去识别一个指定的物体还是人工智能领域的“圣杯”。人类...

1154

扫码关注云+社区