专栏首页企鹅号快讯一直在担心AI失控,却没担心到正地方

一直在担心AI失控,却没担心到正地方

当我们一直在讨论AI能给互联网安全带来什么影响的时候,可能一直都忽略了一个问题:AI本身也不安全。

这两天的新闻恰如其分地提醒了我们这一点。近日,谷歌被爆其机器学习框架TensorFlow中存在的严重安全风险,可被黑客用来制造安全威胁,谷歌方面已经确认了该漏洞并做出了整改回应。

虽然是提前发现,这些漏洞本身没有带来实质威胁。但这条消息还是让我们看到了某种蠢蠢欲动的不安。TensorFlow、Torch、Caffe这些机器学习开发框架,差不多是如今AI开发者与研究者的标准配置,但这些平台最近却纷纷被爆出存在安全漏洞和被黑客利用的可能性。

某种意义上来说,这些消息在提醒我们同一个问题:当我们急切的将资金与用户关系聚集在机器学习周围时,也可能是将巨大的危险捆绑在了身上。

更重要的是,面临AI安全问题,我们中的大部分人还处在很傻很天真的“懵懂状态”,对它的逻辑和危害性近乎一无所知。

本文希望来科普一下这些内容,毕竟防患于未然,等到真正出现大事件再惊叹也就晚了。另外必须提醒开发者和企业的是,在谷歌这些大公司不遗余力的推广自家机器学习平台,并且为了吸引使用者而快速迭代、大量发布免费资源时,开发者本身一定要留个心眼,不能不假思索的使用。

比起心血毁于一旦,更多的审查机制和更严密的安全服务是非常值得的。

相比于经典计算的信息存储与交互模式,人工智能,尤其是机器学习类任务,最大的改变之一就是展现出了信息处理的整体性和聚合性。比如著名AlphaGo,它不是对每种棋路给出固定的应对模式,而是对棋局进行预判和自我推理。它的智慧不是若干信息组成的集合,而是一个完整的“能力”。

这是AI的优点,但很可能也是AI的弱点。试想,假如AlphaGo中的某个训练模型被黑客攻击了,比如让系统在该打吃的时候偏偏就不。那么最终展现出的将不是某个棋招运算失当,而是干脆一盘棋也赢不了。

说白了,AI注定是一个牵一发动全身的东西,所以平台漏洞带来的安全风险才格外可怕。

由于AI系统紧密而复杂的连接关系,很多关键应用将从属于后端的AI体系,而这个体系又依赖平台提供的训练模型。那么一旦最后端的平台失守,几乎必然引发规模化、连锁式的崩盘——这或许才是我们今天最应该担心的AI失控。

AI产业的风险,在于某个黑客一旦攻克了机器学习平台的底层漏洞,就相当于把整个大厦的最下一层给炸掉。这个逻辑此前很少被人关注,却已经被证明了其可能性存在。而最可怕的是,面对更多未知的漏洞和危险,世界范围内的AI开发者近乎是束手无策的。

总之,AI本身的安全防护,已经成为了开发者必须在意、大平台需要承担责任、国家竞争需要争抢的一个环节。希望最终一起人为的AI失控事件都不要到来。毕竟吃一堑长一智的事情在互联网历史上已经发生太多了。

希望这次我们可以预见危险,而不是痛而后悟吧。

本文来自企鹅号 - 科技无处不在媒体

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 广州AI研究院在南沙挂牌 人才团队入驻最高可获10000万补贴

         12月9日,广州国际人工智能产业研究院(以下简称“广州AI研究院”)在南沙自贸片区挂牌。该院由雅虎创始人杨致远与亚信集团董事长田溯宁共同担任院长,同...

    企鹅号小编
  • 斯坦福教授发布首份 AI Index 报告,指引 AI 工作者不再“flying blind”

    AI 科技评论按:前两天斯坦福大学计算机科学院教授,前谷歌首席科学家 Yoav Shoham 来到中国做了场《人工智能的过去、现在和未来》的报告,报告中他除了介...

    企鹅号小编
  • 从论文发布、学术会议到创业,斯坦福发布了一份“AI指数”年度报告

    原标题:资源 | 从论文发布、学术会议到创业,斯坦福发布了一份「AI指数」年度报告 选自斯坦福大学 机器之心编译 人工智能指数(AI Index)是一个追踪 A...

    企鹅号小编
  • 网易北航搞了个奇怪研究:多数人类看不懂的立体图,AI现在看懂了

    来自密歇根大学、网易伏羲AI实验室、北航的团队共同研发了一款AI项目——Neural Magic Eye,就专门从2D图像中识别3D物体来。

    量子位
  • 微软推出iPad应用Earth Lens,使用AI来检测卫星图像中的物体

    微软Garage的最新项目之一,利用AI来确定卫星图像中需要注意的精确项目。Earth Lens是今天推出的一款新的开源iPad应用程序,识别,跟踪和分析距离地...

    AiTechYun
  • 荐读 | 除了会下棋的阿法狗,AI军团还有这44个知名项目

    在科幻小说中,我们经常看到AI软件的身影,许多人认为AI是一门存在于未来的技术,也许会变成现实,也许永远会停留在空想之中。 事实并非如此,我们当中的大多数人每天...

    新智元
  • 无监督式学习在金融行业的应用

    聊起 AI,画面都充斥着机械语言:精密高级的芯片,光怪陆离的智能产业……你眼中的 AI 有什么样的能力?能给传统行业带来哪些变革与发展?基于此,云加社区联手知乎...

    云加社区
  • iOS开发·runtime+KVC实现多层字典模型转换(多层数据:模型嵌套模型,模型嵌套数组,数组嵌套模型)

    更重要的是,有时候在iOS面试的时候,部分面试官会不仅问你某种场景会用到什么框架,更会问你如果要你来实现这个功能,你有没有解决思路?所以,自己实现字典转模型还是...

    陈满iOS
  • 缺氧相关基因预测模型这样分析依旧可以发2区4分+SCI

    大家好,这次给大家分享得文献是A hypoxia-related signature for clinically predicting diagnosis, ...

    百味科研芝士
  • 第1章 SAAS-HRM系统概述与搭建环境

    版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。

    用户1212940

扫码关注云+社区

领取腾讯云代金券