京东在全球顶级黑客大会DEF CON抛出智能安全领域重磅炸弹,资料首度曝光!

京东安全登录 DEF CON China讲台 分享前沿安全议题

DEF CON是全球网络安全领域的顶级会议,从发起至今已有25年历史,被誉为网络安全界 “奥斯卡”,由全球最具影响力黑客杰夫·莫斯(Jeff Moss)于1993年创办。

本次大会5月首次在中国登陆,京东安全作为此次大会的参与者,除了与全球安全领域研究者探讨安全问题,还将为参会嘉宾进行专业的行业技术分享。

在此次DEF CON China会议上,京东安全提报的三篇论文全部被会议选中,并登录DEF CON China讲台,这是目前会议历史上第二个三个提报议题能够全部入选大会进行议题分享的企业。

除此之外,京东安全团队联合宾州州立大学邢新宇教授团队共同研究的AI安全课题报告在DEF CON China 会议上Hack Villages板块进行现场展示。

下面将现场的分享给大家做个展示

AI赋能 助推安全时代

此次大会中,京东安全重点围绕着AI领域进行深入挖掘和探索,发布“Scrutinizing the Weakness and Strength of AI Systems”论文议题。

解决问题及场景:随着深度学习的能力不断提升,AI系统正在被广泛应用于安全领域(例如,打击黑产,恶意软件检测,程序逆向等等)。但是与传统的机器学习方法相比,深度学习的每一次决定仍然令人难以理解。

什么深度学习会认为一张图片上有一只猫?为什么它会认为某个软件可能潜在成为木马或是病毒?为什么它会认为某个个人账号会和黑产联系在一起?

很显然回答这些问题十分重要。这是因为京东不能因为一个简单的机器决策就将某账号冻结,也不能因为某个机器的决策就判定某软件含有恶意代码。

在每次京东安全的AI系统作出判断时,我们都需要为每个决定提供令人信服的解释。因为只有这样才能真正做到保障安全并不伤害用户的合法权益。

出于这方面的考虑,京东安全实验室与宾州州立大学邢新宇教授团队一同完成了该项工作。我们将讲述如何使用此技术来解析AI系统的每一次决定,并为京东安全提供保驾护航。

解决该问题的方法:我们采用的方法是一套黑盒解释技术。换句话说,就是不论AI系统使用何种深度学习模型,我们都可以提供准确的解释。

技术上来说,我们使用高斯混合模型作为基础模型,对每个AI系统的决策做近似分析。由于高斯模型有很强的近似和解释能力,所以我们可以利用它为AI系统的决策提供完善、准确的解释。

意义和价值:目前国际上还没有一个真正的系统可以对安全驱动的AI系统作出合理解释。其最主要问题是,安全驱动的AI系统往往处理超高纬度的数据或是超长的时序数据。

目前由美国DARPA领导的可解释AI项目只关注简单的非安全应用,已经提出的一些研究工作完全不适用安全应用。所以说,京东与高校的这次合作,堪称是对智能安全领域扔出了一颗重磅炸弹。

另外,该解决方案,还可以帮助AI驱动的安全系统自动打补丁,并做到AI安全系统的自我修复。可以说是用AI强化了AI。

有了这项工作,我们就可以为AI这位室外高人的每一次决策提供令人信服的解释。也正是因为这样,我们可以从中获取我们尚未了解的知识。做到真正的理解AI for security,使用AI for security以及相信AI for security。

在Hack Villages环节上进行的“AI解析系统以及数据崩溃溯源”的报告展示,使用深度学习技术来妥善处理程序崩溃,并最大限度的来减小程序崩溃所带来不良影响。

将AI真正的引入到传统领域。这一大胆的尝试不仅在为程序分析打开了一扇崭新的大门。

解决问题及场景: 在数据中心,每一个计算机都运行着成百上千的应用程序。当这些程序受到攻击时,他们往往会经历崩溃(crash)。每天,数据中心的服务器都可能产生数以百计的程序崩溃。

毫无疑问,这在很大程度上影响着一个企业的正常业务。如果处理不当,这些崩溃的程序甚至会危害客户的体验。在这项研究工作中,我们使用深度学习技术来妥善处理程序崩溃,并最大限度的来减小程序崩溃所带来不良影响。

解决该问题的方法:在程序崩溃时,计算机系统会自动生成一份崩溃报告(core dump)。这份自动化生成的报告涵盖了程序崩溃时的内存状态以及曾经执行的计算机指令。

我们使用深度学习技术来分析报告中的内存状态以及每一条指令,并迫使程序逆向执行。这样我们用AI的技术刻画程序在崩溃前的每一个曾经经历过的状态。

使用这样的信息,我们的AI系统会自动找到程序崩溃的根本原因,并执导安全研究人员迅速反应并完成对软件系统的快速修复。

意义和价值: 使用当前的技术解决此类问题还仅仅限制在传统的计算机程序分析领域。京东安全实验室与邢新宇教授团队的合作将AI真正的引入到传统领域。

这一大胆的尝试不仅在为程序分析打开了一扇崭新的大门,同时也在用令人惊讶的结果展示AI在程序分析领域的显著效果。虽然这项技术尚属早期,但是也许就在不久的将来,它将走出京东安全实验室,为广大数据中心提供可靠的安全保障。

目前,针对程序崩溃的响应往往需要几百个小时甚至上千小时的人力投入。在此项技术的帮助下,我们可以将响应所需的人力成本和时间成本降到最低。

这样不仅潜在的为京东节约了成本,更重要的是将攻击所导致的用户体验下降减少到最低。

面对AI安全、IoT安全、云安全的机遇及挑战,京东安全积极布局全球化背景下的安全人才,开展前瞻性技术研究。成立硅谷研发中心、安全攻防实验室等,并且与全球AI安全领域知名的高校、研究机构建立了深度合作,助推AI安全时代。

---------------------END---------------------

下面的内容同样精彩

点击图片即可阅读

京东大数据与智慧供应链全球领先首秀

WebGL的背景及基本功能

京东技术 ∣关注技术的公众号

原文发布于微信公众号 - 京东技术(jingdongjishu)

原文发表时间:2018-05-24

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏ThoughtWorks

ThoughtWorks的Professional Service职业发展 | MD脑洞

一年一度的Review又来了,咱们趁这个机会聊聊PS(研发人员)的职业发展。都说ThoughtWorks是一个相对扁平的组织,不过扁平组织给大家带来的一个问题就...

952
来自专栏钱塘大数据

【大咖说】徐宗本院士:大数据与智能制造融合应用

2017中国工业大数据大会·钱塘峰会,由工信部、浙江省人民政府指导,中国工业经济联合会、信通院、互联网协会、浙江省经信委、萧山区人民政府共同主办,杭州市 经信委...

2787
来自专栏大数据文摘

【独家|重磅】54项大数据关键模型

2497
来自专栏程序员的知识天地

拥抱开源的程序员,凭什么能拿到更高的薪水?

上个月微软重金收购 GitHub 的消息宣布,在程序员群体里炸开了锅,开源技术一时成为技术搜索排行的热门讨论话题。 相比于以往,开源技术近年来愈发流行。在此趋势...

2011
来自专栏软件测试经验与教训

招聘测试人员

2716
来自专栏人工智能头条

人工智能冲击下的十大高危行业,你中了吗?

701
来自专栏云计算D1net

云计算解决方案供应商分类大全

尽管以Amazon为代表的互联网公司在云计算市场上屡获大单,但很多企业却出于安全、成本的考虑,依然选择自建私有云。那么,在上百家云计算解决方案供应商面前,企业该...

3066
来自专栏云计算D1net

为什么亚洲企业更青睐混合云?

众所周知,目前云在亚洲已成为最广泛采用的技术之一。就像任意其它消费模式一样,每个国家对于技术消费有着不同的具体需求和偏好,云也不例外。本区域的经济因素,全球和本...

3276
来自专栏云计算D1net

公有云市场长久立足 秘诀何在?

在当前的云计算市场,公有云、私有云和混合云,是云计算市场三大主体,就公有云而言,一向宣称以服务为中心的公有云,是否能够可持续发展?盈利模式是决定因素。目前,亚马...

3348
来自专栏云计算D1net

第二次云计算浪潮即将到来

思科委托IDC发起的调研显示,53%的企业预期云计算将在未来两年推动收入增加,44%的企业正在使用或计划实施私有云。预示着第二次云计算发展浪潮即将到来。 IDC...

2593

扫码关注云+社区