腾讯报告TensorFlow首个安全风险 谷歌确认并致谢

日前,腾讯发现谷歌人工智能学习系统TensorFlow存在严重安全风险,可被黑客利用带来安全威胁。据悉,该风险是TensorFlow首个自身安全风险,腾讯安全平台部预研团队已向谷歌报告这一风险并获得致谢。

腾讯安全平台部预研团队发现,攻击者可以生成Tensorflow的恶意模型文件,对AI研究者进行攻击,对受害者自身的AI应用进行窃取或篡改、破坏。该风险危害面非常大,一方面攻击成本低,普通攻击者即可实施攻击;另一方面迷惑性强,大部分AI研究者可能毫无防备;同时因为利用了TensorFlow自身的机制,其在PC端和移动端的最新版本均会受到影响。AI模型被窃取,损失的是开发者的心血;而一旦被篡改,造成AI失控,后果更难以想象。

谷歌官方负责人称,考虑到TensorFlow在AI的广泛使用,TensorFlow官网将会像大多数重要软件一样在网站创建安全公告页面,及时披露和修复安全漏洞。

据了解,Google的TensorFlow作为开源框架被互联网广泛使用。根据官方介绍,该框架在谷歌、ebay、airbnb、twitter、uber、小米、中兴等公司均有使用。在TensorFlow中,AI研究者可以复用他人建好的模型来进行AI训练,或直接提供AI服务,大大提高开发效率。这些公开的模型通常以文件形式提供,也普遍被认为是无害的。此次安全事件也让关注该领域的开发者对开源框架的潜在风险提高了警惕。

腾讯安全平台部安全预研团队不仅聚焦AI、移动及IoT前沿领域的安全问题研究,同时也曾向google,apple,微软,adobe等公司报告多个安全漏洞并多次获得官方致谢。此外,他们对无人机、无线电、物联网、智能楼宇的安全问题也有研究。未来,腾讯安全平台部安全预研团队也将继续致力于为互联网与科技发展的安全保驾护航。

原文发布于微信公众号 - 腾讯技术工程官方号(Tencent_TEG)

原文发表时间:2017-12-16

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏ATYUN订阅号

IBM的新型AI芯片或可使AI能效提高100倍

神经网络在AI中具有举足轻重的地位,它们很擅长数据方面的处理,如转录语音或以近乎完美的准确度描述图像。问题在于神经网络模仿人类大脑的结构,通常是用软件而不是硬件...

1015
来自专栏深度学习与数据挖掘实战

干货|程序员到机器学习工程师飞跃的实战经验

“我是一名软件开发工程师,阅读过一些关于机器学习方面的书籍和博客文章,也学习过一些在线的关于机器学习的公开课。但是,我仍然不知道怎么应用到工程实践中……”

1032
来自专栏AI科技评论

业界 | Facebook将反馈融入AI系统,视觉障碍者现在也能“读懂”照片啦

AI科技评论按:Automatic Alt-Text (AAT) 的发布让盲人(或使用屏幕阅读器的用户)更好地读懂新闻推送 (News Feeds) 里的照片...

3009
来自专栏深度学习与数据挖掘实战

干货|程序员到机器学习工程师飞跃的实战经验

“我是一名软件开发工程师,阅读过一些关于机器学习方面的书籍和博客文章,也学习过一些在线的关于机器学习的公开课。但是,我仍然不知道怎么应用到工程实践中……”

851
来自专栏机器之心

观点 | 人工智能产品化的关键是基础架构和数据,而非算法

选自theregister 作者:Katyanna Quach 机器之心编译 参与:黄小天、微胖 突然你发现,机器学习算法,你所谓的王冠,只是巨大复杂车机上...

3007
来自专栏木东居士的专栏

闲谈大数据和算法

1862
来自专栏人工智能

机器学习:预测性维修的数据基础

预测性维修作为工业互联网中的最核心应用,无论是早期的探索者还是新进的工业互联网平台都将它作为主要切入口。当我们谈到应用落地时,可能很多企业会有这样的误解或疑问:...

7379
来自专栏新智元

【AI幽灵】超90%论文算法不可复现,你为何不愿公开代码?

新智元编译 来源:science、futurism 编译:克雷格、Marvin 【新智元导读】过去几年发表的AI顶会论文提出的400种算法中,公开算法代...

4609
来自专栏AI科技评论

学界 | OpenAI发布开源软件Roboschool,模拟机器人的控制训练

AI 科技评论消息,OpenAI 今日发布了一个用于模拟机器人的控制训练的开源软件 Roboschool,根据介绍,其整合了前段时间发布的 OpenAI Gym...

37611
来自专栏Small Code

2017 Python 问卷调查结果初步分析

2017 年末,PSF(Python Software Foundation,Python 软件基金会)和 JetBrains 一起进行了一次全球范围内的关于 ...

73916

扫码关注云+社区

领取腾讯云代金券