RSA 亮点播报|展会正式开放以及AI安全议题

安恒信息

网络安全前沿资讯、 应急响应解决方案、技术热点深度解读

PART1 展厅篇

美国西海岸时间2018年04月17日，是RSA大会开幕的第二天，主会场的展厅正式对外展览，昨天还平静的展厅今天涌入了大量的参观者。

出征2018RSA信息安全大会的安恒信息公司的展位也迎来一批批的客户和网络安全爱好者。

参展的工作人员中午抽空合了个影。

PART2 论坛篇

除了展厅，论坛也如火如荼，今天的议题很多，小编按照自己的时间和兴趣参加了AI安全相关的的几个议题，在这里给大家做个分享。

AI是近两年的热点，越来越多的运用到汽车自动驾驶，家庭物联网智能音箱，手机的智能助理等领域，随着AI的成熟，有很多问题需要探讨：AI技术自身安全性怎么样？AI对网络安全有没有正向或者反向作用？

今天Imprerva的科学家Itsik Mantin，赛门铁克威胁研究员CandidWueest，IBM Security安全运营和响应部门（SOAR）副总裁兼首席技术官Koos Lodewijkx ，IBM Fellow、IBM安全副总裁兼首席技术官Sridhar Muppidi博士，分别在各自的研究领域分享了一些有趣的议题，小编做了跟踪。

议题主要涵盖了两个方面：

01

AI自身的安全，下图显示了AI和AI安全的成熟度曲线，我们从陡峭的曲线上看到了AI还有很长的路要走，特别在安全方面，就像是一座冰山，冰山一角已经呈现，但巨大安全隐患还在海平面的下面。AI给人们带来了巨大的机会和方便，但随着AI的普及和发展，AI自身安全性的隐患会带来恐惧，不确定和怀疑，因此要在心理和技术层面做好准备。

专用的设备中经常带有语音激活的智能助理，比如阿里的天猫精灵，小米的小爱同学等，全世界各地的家居环境中越来越普及这些设备，特别随着智能音箱的普及，家庭出会出现智能终端革命，与之相关的安全漏洞也初现端倪：现在已发现的漏洞：海豚攻击（dolphin attack），就是利用人类听不到的海豚音（超声波）来承载人类的语音命令，这些命令可以干扰和控制iPad，iPhone，甚至可以干扰自动驾驶的汽车，对AI的系统造成严重威胁。

极客或者恶意人员可以用一些手段来欺骗这些设备，比如开关电视，远程设置闹钟等，甚至远程遥控汽车，危及人身安全和财务损失。

除了智能音箱，专业的AI黑客还可以做一些更隐藏的事情，比如下图的图片分类，设计到不同的学习算法和模型，如左边所示，不同的动作被归类为相同的行为。再如在熊猫和校车的图片上增加极少的混淆像素，就被识别为长臂猿和鸵鸟等完全不相干的东西。；校车增加混淆像素就被识别为鸵鸟……试想一下，犯罪分子采用类似的技术进行AI欺骗，进行肖像篡改，或者交通违章者利用类似技术篡改或者伪造车牌号，都会对社会安全造成危害。

02

AI在安全方面的应用, 对于安全防御来说，随着网络环境越来越复杂，网络安全工具类型的增多，而安全防御有效时间在减少，这些都需要AI进行弥补；而对于攻击者来说，利用AI技术自动化的扫描攻击渗透，优化攻击路径，深化对抗网络，或者利用AI自身漏洞进行攻击。

下图描述了，作为防御者怎样有效防御AI攻击：在训练环节，通过处理和补充丰富的训练集来对数据的隐私性加以保护，增强数据自身的健壮性；在模型构建阶段，采用用更优的技术和算法实现更具韧性的模型；而在正式使用AI模型的时候，要对非法输入进行过滤和消除。

议题的最后还面向公众介绍和宣布了一个相当不错的开源库：

ART（Adversarial Robustness Toolbox），该库提供了许多用于攻击和防御分类器的实现，还允许为机器学习模型快速定制攻击分析和防御方法

该库的github地址：

https://github.com/IBM/adversarial-robustness-toolbox，有兴趣的读者可以自行下载尝试。