腾讯报告TensorFlow首个安全风险 谷歌确认并致谢

日前,腾讯发现谷歌人工智能学习系统TensorFlow存在严重安全风险,可被黑客利用带来安全威胁。据悉,该风险是TensorFlow首个自身安全风险,腾讯安全平台部预研团队已向谷歌报告这一风险并获得致谢。

腾讯安全平台部预研团队发现,攻击者可以生成Tensorflow的恶意模型文件,对AI研究者进行攻击,对受害者自身的AI应用进行窃取或篡改、破坏。该风险危害面非常大,一方面攻击成本低,普通攻击者即可实施攻击;另一方面迷惑性强,大部分AI研究者可能毫无防备;同时因为利用了TensorFlow自身的机制,其在PC端和移动端的最新版本均会受到影响。AI模型被窃取,损失的是开发者的心血;而一旦被篡改,造成AI失控,后果更难以想象。

谷歌官方负责人称,考虑到TensorFlow在AI的广泛使用,TensorFlow官网将会像大多数重要软件一样在网站创建安全公告页面,及时披露和修复安全漏洞。

据了解,Google的TensorFlow作为开源框架被互联网广泛使用。根据官方介绍,该框架在谷歌、ebay、airbnb、twitter、uber、小米、中兴等公司均有使用。在TensorFlow中,AI研究者可以复用他人建好的模型来进行AI训练,或直接提供AI服务,大大提高开发效率。这些公开的模型通常以文件形式提供,也普遍被认为是无害的。此次安全事件也让关注该领域的开发者对开源框架的潜在风险提高了警惕。

腾讯安全平台部安全预研团队不仅聚焦AI、移动及IoT前沿领域的安全问题研究,同时也曾向google,apple,微软,adobe等公司报告多个安全漏洞并多次获得官方致谢。此外,他们对无人机、无线电、物联网、智能楼宇的安全问题也有研究。未来,腾讯安全平台部安全预研团队也将继续致力于为互联网与科技发展的安全保驾护航。

原文发布于微信公众号 - 腾讯技术工程官方号(Tencent_TEG)

原文发表时间:2017-12-16

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏DT数据侠

搜集了3100款App的数据,我发现了安卓用户的“潜规则”

不久前,苹果刚发布了新一代iPhone,其高昂的售价以及缺乏创新的设计,让不少果粉望而却步,把目光逐渐转向这些年越做越好的谷歌的Android系统手机。数据侠Y...

7820
来自专栏数据科学与人工智能

【应用】信用评分:第10部分 - 更大的图景 - 企业决策管理系统

“这总是能够创造大图景的小碎片。” - 本系列前几篇文章介绍了信用评分工具包的关键要素,包括评分卡模型,评分策略,实施和监控。 通过将这些单件放在一起,我们开始...

12020
来自专栏企鹅号快讯

数据分析与挖掘的流程和方法

数据分析与挖掘是对收集来的大量数据进行分析,提取有用信息和形成结论而对数据加以详细研究和概括总结的过程,整个分析过程会有以下几个步骤: 1. 确定目标 首先,...

35790
来自专栏机器之心

观点 | 人工智能产品化的关键是基础架构和数据,而非算法

选自theregister 作者:Katyanna Quach 机器之心编译 参与:黄小天、微胖 突然你发现,机器学习算法,你所谓的王冠,只是巨大复杂车机上...

31370
来自专栏深度学习与数据挖掘实战

干货|程序员到机器学习工程师飞跃的实战经验

“我是一名软件开发工程师,阅读过一些关于机器学习方面的书籍和博客文章,也学习过一些在线的关于机器学习的公开课。但是,我仍然不知道怎么应用到工程实践中……”

12620
来自专栏木东居士的专栏

闲谈大数据和算法

20220
来自专栏AI科技评论

业界 | Build 大会中的AI:微软AI云服务全线更新

AI 科技评论按:在美国西雅图当地时间 5 月 7 号的 Build 开发者大会上,微软发布了一系列关于智能云计算和智能边缘计算的服务及产品。当然,在这个「人工...

20920
来自专栏人工智能

机器学习:预测性维修的数据基础

预测性维修作为工业互联网中的最核心应用,无论是早期的探索者还是新进的工业互联网平台都将它作为主要切入口。当我们谈到应用落地时,可能很多企业会有这样的误解或疑问:...

86090
来自专栏新智元

【AI幽灵】超90%论文算法不可复现,你为何不愿公开代码?

新智元编译 来源:science、futurism 编译:克雷格、Marvin 【新智元导读】过去几年发表的AI顶会论文提出的400种算法中,公开算法代...

51290
来自专栏人工智能快报

美情报机构支持生物识别演示攻击检测研究

美国媒体网站www.secureidnews.com发布消息称,美国情报机构正在支持旨在检测生物识别演示攻击的研究。 美国高级情报研究计划署(IARPA,Int...

35340

扫码关注云+社区

领取腾讯云代金券