RSA 亮点播报|展会正式开放以及AI安全议题

安恒信息

网络安全前沿资讯、 应急响应解决方案、技术热点深度解读

PART1 展厅篇

美国西海岸时间2018年04月17日,是RSA大会开幕的第二天,主会场的展厅正式对外展览,昨天还平静的展厅今天涌入了大量的参观者。

出征2018RSA信息安全大会的安恒信息公司的展位也迎来一批批的客户和网络安全爱好者。

参展的工作人员中午抽空合了个影。

PART2 论坛篇

除了展厅,论坛也如火如荼,今天的议题很多,小编按照自己的时间和兴趣参加了AI安全相关的的几个议题,在这里给大家做个分享。

AI是近两年的热点,越来越多的运用到汽车自动驾驶,家庭物联网智能音箱,手机的智能助理等领域,随着AI的成熟,有很多问题需要探讨:AI技术自身安全性怎么样?AI对网络安全有没有正向或者反向作用?

今天Imprerva的科学家Itsik Mantin,赛门铁克威胁研究员CandidWueest,IBM Security安全运营和响应部门(SOAR)副总裁兼首席技术官Koos Lodewijkx ,IBM Fellow、IBM安全副总裁兼首席技术官Sridhar Muppidi博士,分别在各自的研究领域分享了一些有趣的议题,小编做了跟踪。

议题主要涵盖了两个方面:

01

AI自身的安全,下图显示了AI和AI安全的成熟度曲线,我们从陡峭的曲线上看到了AI还有很长的路要走,特别在安全方面,就像是一座冰山,冰山一角已经呈现,但巨大安全隐患还在海平面的下面。AI给人们带来了巨大的机会和方便,但随着AI的普及和发展,AI自身安全性的隐患会带来恐惧,不确定和怀疑,因此要在心理和技术层面做好准备。

专用的设备中经常带有语音激活的智能助理,比如阿里的天猫精灵,小米的小爱同学等,全世界各地的家居环境中越来越普及这些设备,特别随着智能音箱的普及,家庭出会出现智能终端革命,与之相关的安全漏洞也初现端倪:现在已发现的漏洞:海豚攻击(dolphin attack),就是利用人类听不到的海豚音(超声波)来承载人类的语音命令,这些命令可以干扰和控制iPad,iPhone,甚至可以干扰自动驾驶的汽车,对AI的系统造成严重威胁。

极客或者恶意人员可以用一些手段来欺骗这些设备,比如开关电视,远程设置闹钟等,甚至远程遥控汽车,危及人身安全和财务损失。

除了智能音箱,专业的AI黑客还可以做一些更隐藏的事情,比如下图的图片分类,设计到不同的学习算法和模型,如左边所示,不同的动作被归类为相同的行为。再如在熊猫和校车的图片上增加极少的混淆像素,就被识别为长臂猿和鸵鸟等完全不相干的东西。;校车增加混淆像素就被识别为鸵鸟……试想一下,犯罪分子采用类似的技术进行AI欺骗,进行肖像篡改,或者交通违章者利用类似技术篡改或者伪造车牌号,都会对社会安全造成危害。

02

AI在安全方面的应用, 对于安全防御来说,随着网络环境越来越复杂,网络安全工具类型的增多,而安全防御有效时间在减少,这些都需要AI进行弥补;而对于攻击者来说,利用AI技术自动化的扫描攻击渗透,优化攻击路径,深化对抗网络,或者利用AI自身漏洞进行攻击。

下图描述了,作为防御者怎样有效防御AI攻击:在训练环节,通过处理和补充丰富的训练集来对数据的隐私性加以保护,增强数据自身的健壮性;在模型构建阶段,采用用更优的技术和算法实现更具韧性的模型;而在正式使用AI模型的时候,要对非法输入进行过滤和消除。

议题的最后还面向公众介绍和宣布了一个相当不错的开源库:

ART(Adversarial Robustness Toolbox),该库提供了许多用于攻击和防御分类器的实现,还允许为机器学习模型快速定制攻击分析和防御方法

该库的github地址:

https://github.com/IBM/adversarial-robustness-toolbox,有兴趣的读者可以自行下载尝试。

原文发布于微信公众号 - 安恒信息(DBAPP2013)

原文发表时间:2018-04-18

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏DT数据侠

你离餐饮界最懂顾客的老板,只差一个爬虫的距离

在线点评已经成为现代大众消费里的主流行为,我们在外出寻找一家餐馆时,往往会首先去看看吃过的人都如何评价。既然顾客都如此在意点评,饭店老板们就更不用说了。数据侠 ...

1040
来自专栏知晓程序

搞出「人命」了怎么办?不要慌,让这些小程序来拯救你

姚晨在分享为人母的经历时提到,曾经的她,看到「熊孩子」闹腾就恨不得一巴掌抽上去,所以很怕对自己的孩子也是如此。可是有了「小土豆」后,她自然而然地学会了耐心,面对...

1267
来自专栏镁客网

这15个医疗机器人,可能会让医生失业

镁客网导读:随着AI+医疗的进一步融合、深入,适用于细分医疗领域的AI辅助技术也在不断加强。服务机器人多个应用场景中,医疗必然是最重要之一。这不是简单的科技辅助...

753
来自专栏量子位

谷歌收购计算机视觉公司AIMatter,后者曾推出过Fabby

安妮 编译自 TechCrunch 量子位 出品 | 公众号 QbitAI 今天,谷歌收购了白俄罗斯图像处理初创公司AIMatter,具体条款尚未披露。 AIM...

3524
来自专栏理论坞

新年100天倒计时,听我絮叨一下

其实这样一回顾,真的没做多少很有意义的事情,就连出去玩都算上了,每天的得过且过日复一日,生活便成了《土拨鼠之日》;

893
来自专栏数说工作室

谈资 | 十日大数据参考

我们将过去10天里播报的大数据新闻,浓缩成17条精选资讯,您只要在20分钟就可以读完,了解下这个行业的变化吧~ 1. 数说× “各行各业都在装备大数据” 2....

2964
来自专栏机器人网

无人机结合人工智能,会对工业领域带来什么?

据科技博客VentureBeat报道,在过去的十年中,无人机迎来了自己发展的黄金时期,它们从价值数百万美元的军用无人机中分离了出来,成功变成了民用的娱乐工具,带...

36314
来自专栏CDA数据分析师

用数据讲故事的7种方法

文 | Martha Kang 翻译 | 赵丹、王宝丽 什么使一个故事真正成为数据驱动呢?在某种程度上,数字不再仅仅是出现在侧栏的表格,而是能够在真正意义上促...

2076
来自专栏吉浦迅科技

大胆思考:入围戈登贝尔奖决选的科学家旨于减少飞机的排放量

搭乘飞机的旅客人数,以及在天空中飞行的飞机数量皆不断成长,科学家 Peter Vincent 想要减少飞机起飞时所产生的排放量。 Vincent 及其在伦敦帝国...

3398
来自专栏华章科技

涨姿势,14个复杂数据可视化的奇妙例子(译)

根据IDC数据,2015年全球数据量的年增长率可达到5.6泽字节(即5.6万亿兆字节),是2012年增长率的两倍。

1201

扫码关注云+社区

领取腾讯云代金券