全球头号黑客、计算机安全教母,腾讯副总裁如何看待AI时代的安全

李根 继续发自 国家会议中心 量子位 报道 | 公众号 QbitAI

上次量子位撰文介绍过,AI加持下的安全话题正在升温,仅6月份就有总额30亿元的投资流向安全创业领域。

同样的现象在中国互联网安全领袖峰会(CSS2017)现场发生。这个由腾讯主办的网络安全大会,虽然主题还不是“人工智能”直接相关,但言谈论断之间,AI已然是不可忽视的话题。

在大会现场,腾讯公司分管安全的副总裁丁珂、素有“世界头号黑客”之称的Kevin Mitnick,以及美国加州大学伯克利分校教授、“计算机安全教母”宋晓东(Dawn Song),就AI趋势下的安全话题,接受了量子位采访。

腾讯公司副总裁丁珂

腾讯的思考:“伦理”先行

腾讯公司副总裁丁珂告诉量子位,AI下的安全问题,新且特别重要,在AI技术发展过程中,固有边界正在被打破,全新的问题正在发生。

丁珂具体解释称,机器智能的时代正在把很多正常的逻辑变成黑箱操作,其中机器数据被污染的过程,会影响你的样本和判断,会带来更加隐蔽、危害的安全问题。之前人类依靠逻辑和自制,加之社会化关系的存在,可以相互制约和问责,但AI将改变这一切。

在腾讯方面看来,AI时代的安全问题,有一半是传统的Anti-Pro、Anti-SPAM方面的技术,更多的是技术和伦理上的探索。

技术方面尚有积累支撑,但边界判断上,开始涉及新的伦理标准。

“我们现阶段更多在探索各方面跨界问题,在认知上界定的过程,未来人工智能在几大领域里,在自动驾驶、图像学习(深度医疗)、决策支持领域(聊天,决策辅助),如果不在边界问题上没做好安全把关,问题就变得不好把控。”他向量子位举例说。

最后,这位腾讯内部分管安全的副总裁还总结称,以安全的原则来讲,让一个事物繁荣发展的基础,一定是事先预知到它能最坏到什么程度,还要认知清楚其基础健康和可持续发展的基本原则。

“世界头号黑客”Kevin Mitnick

传奇黑客:智能=脆弱

此次CSS大会中,素有“世界头号黑客”之称的Kevin Mitnick也被邀请到现场,这是他第一次来到中国,距离他大战FBI、并被列为头号网络安全通缉目标已然过去20年。

现在的Kevin Mitnick拥有自己的安全咨询公司,黑客出身的他,正在把才能和技术转换为对抗网络攻击的建议和方法。

Kevin Mitnick表示,AI正在把越来越多设备“带入”网络世界,我们有了越来越多的智慧城市、智能家电和智能汽车,但根本上讲,Kevin Mitnick眼里看到的满是“脆弱城市”、“脆弱家电”和“脆弱汽车”,因为所有的设备都可以被攻击和利用,所以源头安全认证应该成为当务之急。

Kevin Mitnick向量子位表达的建议是,公信机关应该专门成立一个部门,在IOT设备发布之前,都需要经过安全认证,代码安全与否先进行检验,然后才规模才进行进一步部署。

这位传奇黑客称,至今为止的安全认证,一般采用了“默认凭据”形式,但很多安全事件,源头问题正是“默认凭据”,而随着AI发展以及越来越多IOT设备被连接,这样的隐患可能造成的危害,将比以往更加可怕。

不过,Kevin Mitnick也强调,现在还没有真正符合AI核心技术的工具或产品出现,更多产品重心在“决策”,所以他自己也尚未有对AI产品进行安全分析评估的经验。

但AI的趋势已然浩浩汤汤,Kevin Mitnick介绍说,他本人在加州创立了一家专门开发AI工具产品的公司,未来会通过在社交网络上抓“钓鱼”来给用户提供安全环境,这款工具的背后技术原理是机器学习,通过数据模型,可以让机器学会快速识别“钓鱼网站”的能力——这个产品已经在开发中。

“计算机安全教母”宋晓东(Dawn Song)

“计算机安全教母”宋晓东:以攻击之道开发AI系统

除了传奇黑客Kevin Mitnick,加州大学伯克利分校教授宋晓冬(Dawn Song)也是CSS上备受关注的嘉宾,这位有“计算机安全教母”之称的教授,曾是“麦克阿瑟天才奖”获得者,也是污点分析理论提出者。

与Kevin Mitnick的看法不同,宋晓东认为AI相关的安全问题,已经迫在眉睫,而且应对AI时代的安全攻击,需要AI开发者从产品设计之初就考虑。

“历史已经证明,攻击者一直都会跟随最新技术,甚至有时候还会引领最新技术。”宋晓东提示说。

而且值得注意的是,现在面临的风险在AI领域会变得更高,因为AI会控制越来越多的体系和系统,如果攻击者想要攻击AI系统且得逞,那后果就会非常严重,比如攻击者通过一辆无人车发动攻击。

如何应对呢?

宋晓东的核心思路是,AI开发者开发AI系统时,就需要从攻击者的角度思考问题。

可能会有两种情况,一是攻击者攻击AI系统,让这个系统做出错误决策。这种情况就需要开发者提升自己的学习系统,建筑防火墙,还需要把更好的安全系统嵌入到深度学习的体系中。

另一种情况是攻击者滥用AI工具和技术,用以攻击其他体系,这同样要求开发者开发的学习系统具备更强的安全性。

加强学习系统安全性,就意味着要了解目前深度学习的“弱点”。比如通过对抗的样本混淆系统、造成系统识别错误,这会让包括自动驾驶在内的高安全要求领域经受巨大风险。

所以宋晓东建议,深度学习系统搭建中,模型、图形选择、代码和黑箱攻击防御,都需要关注对抗样本被重构造成的攻击风险。

另外,她还认为在开发新神经网络特征的过程中,进行递归、循环,更容易推理、模块和泛化,也更能保证程序的安全可靠性。

最后,这位“安全教母”认为,虽然AI时代带来的安全挑战将难以预计,但AI也可以更好帮助开发者设计更安全可靠的软件,深度学习已经改变了当前的安全形势和安全能力,让认知系统变得更加强大,并能更广泛部署到各种产品中,且可以让产品本身获得新能力,拥有识别恶意软件、判断欺诈的能力。

所以根本上说,AI可能带来最严峻的挑战,但也会带来最好的时代。

Kevin Mitnick的名片

OMT:“世界头号黑客”的名片

最后,在采访Kevin Mitnick后,这位“世界头号黑客”与量子位交换了名片,卡如其人,金属打造的名片显得与众不同,而且镂空图案也颇有意思。

Kevin Mitnick笑着告诉量子位:你可以用它(名片)拼出一把钥匙,”hack”你想要去的任何地方。(笑)

原文发布于微信公众号 - 量子位(QbitAI)

原文发表时间:2017-08-16

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏新智元

《第二次机器革命》作者:机器学习将成为全球经济增长最强引擎!

【新智元导读】美国2018年二季度GDP增速达4.1%,为4年来最高水平,但这更多的是临时政策刺激下的结果,可持续性不高。本文认为,AI和机器学习技术的大发展才...

8520
来自专栏云计算D1net

论云计算与共享经济理念

最近一段时间里,科技界里最火的应该是共享单车了。从2016年底以来,共享单车在国内突然就火爆了起来。仿佛在一夜之间,各大城市路边就排满了各种颜色的共享单车。摩拜...

56290
来自专栏数据猿

天云大数据CEO雷涛:2016是大数据的“寒冬”,AI产业化的春天

数据猿导读 随着互联网和大数据技术的高速发展,面向特定领域的人工智能技术已经取得突破性进展,谷歌、微软、百度等巨头积极的在人工智能领域多点布局、抢占产业机遇,这...

29750
来自专栏新智元

【CES】IBM CEO 主旨演讲:Watson 将 AI 引入商务世界?

周三晚上,拉斯维加斯的威尼斯人酒店中,IBM首席执行官Ginni Rometty进行了一场消费者电子产品展览(CES)的主旨演讲。 消费者技术协会主席Gary ...

39670
来自专栏新智元

计算机占领美国十佳工作榜,机器学习工程师年入13万美元

【新智元导读】机器学习工程师、数据科学家在美国前十的“最佳”工作排名中占据前两位,年薪分别高达13.62万美元和13.29美元,说明计算机依旧是美国社会的高薪工...

308130
来自专栏钱塘大数据

物联网时代八大工业大数据与应用场景

导读: 工业大数据是一个全新的概念,从字面上理解,工业大数据是指在工业领域信息化应用中所产生的大数据。   随着信息化与工业化的深度融合,信息技术渗透到了工业...

48250
来自专栏镁客网

顶级投行高盛VR/AR报告全文中文翻译 Part II

27630
来自专栏钱塘大数据

【推荐阅读】深度解析八大工业大数据应用场景

导读:工业大数据应用将带来工业企业创新和变革的新时代。通过互联网、移动物联网等带来的低成本感知、高速移动连接、分布式计算和高级分析,信息技术和全球工业系统正在深...

39580
来自专栏钱塘大数据

【盘点】物联网大数据七大应用和五大战场

导读:物联网大数据七大应用:1.加速产品创新、2.产品故障诊断与预测、3.工业物联网生产线的大数据应用4.工业供应链的分析与优化、5.产品销售预测与需求管理、...

44090
来自专栏机器人网

中国制造2025:AI工厂何时实现?

人工智能(AI)不只能实现无人驾驶车辆、数字语音助理或者是帮你推荐电影,它是即将席卷众多产业的浪潮;根据麦肯锡全球研究所(McKinsey Global Ins...

30230

扫码关注云+社区

领取腾讯云代金券