京东在全球顶级黑客大会DEF CON抛出智能安全领域重磅炸弹,资料首度曝光!

京东安全登录 DEF CON China讲台 分享前沿安全议题

DEF CON是全球网络安全领域的顶级会议,从发起至今已有25年历史,被誉为网络安全界 “奥斯卡”,由全球最具影响力黑客杰夫·莫斯(Jeff Moss)于1993年创办。

本次大会5月首次在中国登陆,京东安全作为此次大会的参与者,除了与全球安全领域研究者探讨安全问题,还将为参会嘉宾进行专业的行业技术分享。

在此次DEF CON China会议上,京东安全提报的三篇论文全部被会议选中,并登录DEF CON China讲台,这是目前会议历史上第二个三个提报议题能够全部入选大会进行议题分享的企业。

除此之外,京东安全团队联合宾州州立大学邢新宇教授团队共同研究的AI安全课题报告在DEF CON China 会议上Hack Villages板块进行现场展示。

下面将现场的分享给大家做个展示

AI赋能 助推安全时代

此次大会中,京东安全重点围绕着AI领域进行深入挖掘和探索,发布“Scrutinizing the Weakness and Strength of AI Systems”论文议题。

解决问题及场景:随着深度学习的能力不断提升,AI系统正在被广泛应用于安全领域(例如,打击黑产,恶意软件检测,程序逆向等等)。但是与传统的机器学习方法相比,深度学习的每一次决定仍然令人难以理解。

什么深度学习会认为一张图片上有一只猫?为什么它会认为某个软件可能潜在成为木马或是病毒?为什么它会认为某个个人账号会和黑产联系在一起?

很显然回答这些问题十分重要。这是因为京东不能因为一个简单的机器决策就将某账号冻结,也不能因为某个机器的决策就判定某软件含有恶意代码。

在每次京东安全的AI系统作出判断时,我们都需要为每个决定提供令人信服的解释。因为只有这样才能真正做到保障安全并不伤害用户的合法权益。

出于这方面的考虑,京东安全实验室与宾州州立大学邢新宇教授团队一同完成了该项工作。我们将讲述如何使用此技术来解析AI系统的每一次决定,并为京东安全提供保驾护航。

解决该问题的方法:我们采用的方法是一套黑盒解释技术。换句话说,就是不论AI系统使用何种深度学习模型,我们都可以提供准确的解释。

技术上来说,我们使用高斯混合模型作为基础模型,对每个AI系统的决策做近似分析。由于高斯模型有很强的近似和解释能力,所以我们可以利用它为AI系统的决策提供完善、准确的解释。

意义和价值:目前国际上还没有一个真正的系统可以对安全驱动的AI系统作出合理解释。其最主要问题是,安全驱动的AI系统往往处理超高纬度的数据或是超长的时序数据。

目前由美国DARPA领导的可解释AI项目只关注简单的非安全应用,已经提出的一些研究工作完全不适用安全应用。所以说,京东与高校的这次合作,堪称是对智能安全领域扔出了一颗重磅炸弹。

另外,该解决方案,还可以帮助AI驱动的安全系统自动打补丁,并做到AI安全系统的自我修复。可以说是用AI强化了AI。

有了这项工作,我们就可以为AI这位室外高人的每一次决策提供令人信服的解释。也正是因为这样,我们可以从中获取我们尚未了解的知识。做到真正的理解AI for security,使用AI for security以及相信AI for security。

在Hack Villages环节上进行的“AI解析系统以及数据崩溃溯源”的报告展示,使用深度学习技术来妥善处理程序崩溃,并最大限度的来减小程序崩溃所带来不良影响。

将AI真正的引入到传统领域。这一大胆的尝试不仅在为程序分析打开了一扇崭新的大门。

解决问题及场景: 在数据中心,每一个计算机都运行着成百上千的应用程序。当这些程序受到攻击时,他们往往会经历崩溃(crash)。每天,数据中心的服务器都可能产生数以百计的程序崩溃。

毫无疑问,这在很大程度上影响着一个企业的正常业务。如果处理不当,这些崩溃的程序甚至会危害客户的体验。在这项研究工作中,我们使用深度学习技术来妥善处理程序崩溃,并最大限度的来减小程序崩溃所带来不良影响。

解决该问题的方法:在程序崩溃时,计算机系统会自动生成一份崩溃报告(core dump)。这份自动化生成的报告涵盖了程序崩溃时的内存状态以及曾经执行的计算机指令。

我们使用深度学习技术来分析报告中的内存状态以及每一条指令,并迫使程序逆向执行。这样我们用AI的技术刻画程序在崩溃前的每一个曾经经历过的状态。

使用这样的信息,我们的AI系统会自动找到程序崩溃的根本原因,并执导安全研究人员迅速反应并完成对软件系统的快速修复。

意义和价值: 使用当前的技术解决此类问题还仅仅限制在传统的计算机程序分析领域。京东安全实验室与邢新宇教授团队的合作将AI真正的引入到传统领域。

这一大胆的尝试不仅在为程序分析打开了一扇崭新的大门,同时也在用令人惊讶的结果展示AI在程序分析领域的显著效果。虽然这项技术尚属早期,但是也许就在不久的将来,它将走出京东安全实验室,为广大数据中心提供可靠的安全保障。

目前,针对程序崩溃的响应往往需要几百个小时甚至上千小时的人力投入。在此项技术的帮助下,我们可以将响应所需的人力成本和时间成本降到最低。

这样不仅潜在的为京东节约了成本,更重要的是将攻击所导致的用户体验下降减少到最低。

面对AI安全、IoT安全、云安全的机遇及挑战,京东安全积极布局全球化背景下的安全人才,开展前瞻性技术研究。成立硅谷研发中心、安全攻防实验室等,并且与全球AI安全领域知名的高校、研究机构建立了深度合作,助推AI安全时代。

---------------------END---------------------

下面的内容同样精彩

点击图片即可阅读

京东大数据与智慧供应链全球领先首秀

WebGL的背景及基本功能

京东技术 ∣关注技术的公众号

原文发布于微信公众号 - 京东技术(jingdongjishu)

原文发表时间:2018-05-24

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏ThoughtWorks

ThoughtWorks的Professional Service职业发展 | MD脑洞

一年一度的Review又来了,咱们趁这个机会聊聊PS(研发人员)的职业发展。都说ThoughtWorks是一个相对扁平的组织,不过扁平组织给大家带来的一个问题就...

1012
来自专栏灯塔大数据

数据分析师如何选择合适的公司?

数据分析师这个职业现在越来越火爆。本文面向那些准备投身于这个行当的年轻人,在选择怎样的公司上给出了三条参考标准。它们分别是: 去供职于那些利用数据分析来做市场...

3236
来自专栏程序员的知识天地

拥抱开源的程序员,凭什么能拿到更高的薪水?

上个月微软重金收购 GitHub 的消息宣布,在程序员群体里炸开了锅,开源技术一时成为技术搜索排行的热门讨论话题。 相比于以往,开源技术近年来愈发流行。在此趋势...

2641
来自专栏数据的力量

移动互联网的本质

1364
来自专栏人称T客

麦肯锡:这十大趋势足以颠覆现有的IT基础设施

说起硬件与各种IT基础设施,人们总是会想到那些在数据中心或地下室中的各种大型设备,看起来不可能有什么亮点。但是实际上不论服务器、存储设施还是各种软件,它们都是创...

3758
来自专栏大数据文摘

干货 :数据分析师的择业指南

2345
来自专栏ThoughtWorks

活动推荐 | 7月18日—22日 IXDC国际体验设计大会「ThoughtWorks集锦」

今天小编为大家介绍的是「国际体验设计大会-ThoughtWorks专场」,ThoughtWorker们准备了三场工作坊,快来与ThoughtWorker们一起体...

752
来自专栏钱塘大数据

中国数据驱动型互联网企业大数据产品研究报告

本报告的大数据产业图谱以大数据产品的角度出发,对产业链角色进行划分。其中,数据管理与数据分析部分包括了大数据基础架构及相关分析技术,能够实现大数据的存储、分析、...

3056
来自专栏云计算D1net

第二次云计算浪潮即将到来

思科委托IDC发起的调研显示,53%的企业预期云计算将在未来两年推动收入增加,44%的企业正在使用或计划实施私有云。预示着第二次云计算发展浪潮即将到来。 IDC...

2633
来自专栏大数据文摘

【独家|重磅】54项大数据关键模型

2577

扫码关注云+社区