京东在全球顶级黑客大会DEF CON抛出智能安全领域重磅炸弹,资料首度曝光!

京东安全登录 DEF CON China讲台 分享前沿安全议题

DEF CON是全球网络安全领域的顶级会议,从发起至今已有25年历史,被誉为网络安全界 “奥斯卡”,由全球最具影响力黑客杰夫·莫斯(Jeff Moss)于1993年创办。

本次大会5月首次在中国登陆,京东安全作为此次大会的参与者,除了与全球安全领域研究者探讨安全问题,还将为参会嘉宾进行专业的行业技术分享。

在此次DEF CON China会议上,京东安全提报的三篇论文全部被会议选中,并登录DEF CON China讲台,这是目前会议历史上第二个三个提报议题能够全部入选大会进行议题分享的企业。

除此之外,京东安全团队联合宾州州立大学邢新宇教授团队共同研究的AI安全课题报告在DEF CON China 会议上Hack Villages板块进行现场展示。

下面将现场的分享给大家做个展示

AI赋能 助推安全时代

此次大会中,京东安全重点围绕着AI领域进行深入挖掘和探索,发布“Scrutinizing the Weakness and Strength of AI Systems”论文议题。

解决问题及场景:随着深度学习的能力不断提升,AI系统正在被广泛应用于安全领域(例如,打击黑产,恶意软件检测,程序逆向等等)。但是与传统的机器学习方法相比,深度学习的每一次决定仍然令人难以理解。

什么深度学习会认为一张图片上有一只猫?为什么它会认为某个软件可能潜在成为木马或是病毒?为什么它会认为某个个人账号会和黑产联系在一起?

很显然回答这些问题十分重要。这是因为京东不能因为一个简单的机器决策就将某账号冻结,也不能因为某个机器的决策就判定某软件含有恶意代码。

在每次京东安全的AI系统作出判断时,我们都需要为每个决定提供令人信服的解释。因为只有这样才能真正做到保障安全并不伤害用户的合法权益。

出于这方面的考虑,京东安全实验室与宾州州立大学邢新宇教授团队一同完成了该项工作。我们将讲述如何使用此技术来解析AI系统的每一次决定,并为京东安全提供保驾护航。

解决该问题的方法:我们采用的方法是一套黑盒解释技术。换句话说,就是不论AI系统使用何种深度学习模型,我们都可以提供准确的解释。

技术上来说,我们使用高斯混合模型作为基础模型,对每个AI系统的决策做近似分析。由于高斯模型有很强的近似和解释能力,所以我们可以利用它为AI系统的决策提供完善、准确的解释。

意义和价值:目前国际上还没有一个真正的系统可以对安全驱动的AI系统作出合理解释。其最主要问题是,安全驱动的AI系统往往处理超高纬度的数据或是超长的时序数据。

目前由美国DARPA领导的可解释AI项目只关注简单的非安全应用,已经提出的一些研究工作完全不适用安全应用。所以说,京东与高校的这次合作,堪称是对智能安全领域扔出了一颗重磅炸弹。

另外,该解决方案,还可以帮助AI驱动的安全系统自动打补丁,并做到AI安全系统的自我修复。可以说是用AI强化了AI。

有了这项工作,我们就可以为AI这位室外高人的每一次决策提供令人信服的解释。也正是因为这样,我们可以从中获取我们尚未了解的知识。做到真正的理解AI for security,使用AI for security以及相信AI for security。

在Hack Villages环节上进行的“AI解析系统以及数据崩溃溯源”的报告展示,使用深度学习技术来妥善处理程序崩溃,并最大限度的来减小程序崩溃所带来不良影响。

将AI真正的引入到传统领域。这一大胆的尝试不仅在为程序分析打开了一扇崭新的大门。

解决问题及场景: 在数据中心,每一个计算机都运行着成百上千的应用程序。当这些程序受到攻击时,他们往往会经历崩溃(crash)。每天,数据中心的服务器都可能产生数以百计的程序崩溃。

毫无疑问,这在很大程度上影响着一个企业的正常业务。如果处理不当,这些崩溃的程序甚至会危害客户的体验。在这项研究工作中,我们使用深度学习技术来妥善处理程序崩溃,并最大限度的来减小程序崩溃所带来不良影响。

解决该问题的方法:在程序崩溃时,计算机系统会自动生成一份崩溃报告(core dump)。这份自动化生成的报告涵盖了程序崩溃时的内存状态以及曾经执行的计算机指令。

我们使用深度学习技术来分析报告中的内存状态以及每一条指令,并迫使程序逆向执行。这样我们用AI的技术刻画程序在崩溃前的每一个曾经经历过的状态。

使用这样的信息,我们的AI系统会自动找到程序崩溃的根本原因,并执导安全研究人员迅速反应并完成对软件系统的快速修复。

意义和价值: 使用当前的技术解决此类问题还仅仅限制在传统的计算机程序分析领域。京东安全实验室与邢新宇教授团队的合作将AI真正的引入到传统领域。

这一大胆的尝试不仅在为程序分析打开了一扇崭新的大门,同时也在用令人惊讶的结果展示AI在程序分析领域的显著效果。虽然这项技术尚属早期,但是也许就在不久的将来,它将走出京东安全实验室,为广大数据中心提供可靠的安全保障。

目前,针对程序崩溃的响应往往需要几百个小时甚至上千小时的人力投入。在此项技术的帮助下,我们可以将响应所需的人力成本和时间成本降到最低。

这样不仅潜在的为京东节约了成本,更重要的是将攻击所导致的用户体验下降减少到最低。

面对AI安全、IoT安全、云安全的机遇及挑战,京东安全积极布局全球化背景下的安全人才,开展前瞻性技术研究。成立硅谷研发中心、安全攻防实验室等,并且与全球AI安全领域知名的高校、研究机构建立了深度合作,助推AI安全时代。

---------------------END---------------------

下面的内容同样精彩

点击图片即可阅读

京东大数据与智慧供应链全球领先首秀

WebGL的背景及基本功能

京东技术 ∣关注技术的公众号

原文发布于微信公众号 - 京东技术(jingdongjishu)

原文发表时间:2018-05-24

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏大数据挖掘DT机器学习

我的数据挖掘之路——从菜鸟到实战

导读:作者wrchow是浙江大学计算机硕士,通过自己的努力终于拿到了心仪的offer(搜狗Web数据挖掘助理研究员),实现了从事互联网数据挖掘的梦想。他对数据挖...

3505
来自专栏CDA数据分析师

你以为自己真的了解用户画像?其实猫腻可多了

作者 CDA 数据分析师 背景 刘路老师之前主要是做政府数据分析,目前主要服务企业。他认为政府和企业的数据分析没有本质区别,都是有目的的进行收集、整理、加工...

2126
来自专栏大数据文摘

抛弃爬下来的灰色数据,有门槛的风控怎么做?

1927
来自专栏华章科技

大数据黑洞

如今我们可以轻松地从云端雾端,或者某些静态设备(staticdevice)收集数据,但是这些数据无法量化客户体验时的情感。大型企业利用无处不在的信息感知移动设备...

752
来自专栏PPV课数据科学社区

【资源】超赞的交互式数据可视化网站

根据国际数据公司(IDC)的估算,到2015年,全球的数据增长率将会是2012年的两倍,年数据量将达到5.6泽字节(1ZB = 1024的3次方 TB)。那将会...

3345
来自专栏华章科技

分享 | 我的数据挖掘之路——从菜鸟到实战

作者是浙江大学计算机硕士,通过自己的努力终于拿到了心仪的offer(搜狗Web数据挖掘助理研究员),实现了从事互联网数据挖掘的梦 想。他对数据挖掘这个行业的兴趣...

822
来自专栏大数据挖掘DT机器学习

研究生:数据分析/挖掘工作的疑惑?

数据分析/挖掘工作的疑惑 本人在读硕士一名,研二,理工科,所作工作于这两方面无关。但是,最近对这个方向特别感兴趣,真的很想从事这方面的工作。目前,正在自学中,以...

3565
来自专栏PPV课数据科学社区

运营商数据量最大但不是大数据

2014年3月8日,在大数据领域非常有名的阿里巴巴数据分析灵魂人物车品觉接受了媒体的专访,就数据领域的问题谈了自己的认识,应该对很多正在进行大数据应用的专业人士...

3638
来自专栏挖掘大数据

总结零售大数据分析应用的四个阶段

要建立数学模型要解决三个问题,首先是数据的量要达到一定的规模和质量;其次是用什么样的算法,如用时间序列还是回归或是人工智能算法;第三是“数据+算法”可以围绕什么...

2317
来自专栏CDA数据分析师

如何成为一名数据科学家 | 学习篇(附视频中字)

CDA字幕组 编译整理 本文为 CDA 数据分析师原创作品,转载需授权 数据科学家是21世纪最性感的职业,那么该如何成为一名数据科学家呢?HackerEarth...

2197

扫码关注云+社区