京东在全球顶级黑客大会DEF CON抛出智能安全领域重磅炸弹，资料首度曝光！

京东安全登录 DEF CON China讲台 分享前沿安全议题

DEF CON是全球网络安全领域的顶级会议，从发起至今已有25年历史，被誉为网络安全界 “奥斯卡”，由全球最具影响力黑客杰夫·莫斯（Jeff Moss）于1993年创办。

本次大会5月首次在中国登陆，京东安全作为此次大会的参与者，除了与全球安全领域研究者探讨安全问题，还将为参会嘉宾进行专业的行业技术分享。

在此次DEF CON China会议上，京东安全提报的三篇论文全部被会议选中，并登录DEF CON China讲台，这是目前会议历史上第二个三个提报议题能够全部入选大会进行议题分享的企业。

除此之外，京东安全团队联合宾州州立大学邢新宇教授团队共同研究的AI安全课题报告在DEF CON China 会议上Hack Villages板块进行现场展示。

下面将现场的分享给大家做个展示：

AI赋能 助推安全时代

此次大会中，京东安全重点围绕着AI领域进行深入挖掘和探索，发布“Scrutinizing the Weakness and Strength of AI Systems”论文议题。

解决问题及场景：随着深度学习的能力不断提升，AI系统正在被广泛应用于安全领域（例如，打击黑产，恶意软件检测，程序逆向等等）。但是与传统的机器学习方法相比，深度学习的每一次决定仍然令人难以理解。

什么深度学习会认为一张图片上有一只猫？为什么它会认为某个软件可能潜在成为木马或是病毒？为什么它会认为某个个人账号会和黑产联系在一起？

很显然回答这些问题十分重要。这是因为京东不能因为一个简单的机器决策就将某账号冻结，也不能因为某个机器的决策就判定某软件含有恶意代码。

在每次京东安全的AI系统作出判断时，我们都需要为每个决定提供令人信服的解释。因为只有这样才能真正做到保障安全并不伤害用户的合法权益。

出于这方面的考虑，京东安全实验室与宾州州立大学邢新宇教授团队一同完成了该项工作。我们将讲述如何使用此技术来解析AI系统的每一次决定，并为京东安全提供保驾护航。

解决该问题的方法：我们采用的方法是一套黑盒解释技术。换句话说，就是不论AI系统使用何种深度学习模型，我们都可以提供准确的解释。

技术上来说，我们使用高斯混合模型作为基础模型，对每个AI系统的决策做近似分析。由于高斯模型有很强的近似和解释能力，所以我们可以利用它为AI系统的决策提供完善、准确的解释。

意义和价值：目前国际上还没有一个真正的系统可以对安全驱动的AI系统作出合理解释。其最主要问题是，安全驱动的AI系统往往处理超高纬度的数据或是超长的时序数据。

目前由美国DARPA领导的可解释AI项目只关注简单的非安全应用，已经提出的一些研究工作完全不适用安全应用。所以说，京东与高校的这次合作，堪称是对智能安全领域扔出了一颗重磅炸弹。

另外，该解决方案，还可以帮助AI驱动的安全系统自动打补丁，并做到AI安全系统的自我修复。可以说是用AI强化了AI。

有了这项工作，我们就可以为AI这位室外高人的每一次决策提供令人信服的解释。也正是因为这样，我们可以从中获取我们尚未了解的知识。做到真正的理解AI for security，使用AI for security以及相信AI for security。

在Hack Villages环节上进行的“AI解析系统以及数据崩溃溯源”的报告展示，使用深度学习技术来妥善处理程序崩溃，并最大限度的来减小程序崩溃所带来不良影响。

将AI真正的引入到传统领域。这一大胆的尝试不仅在为程序分析打开了一扇崭新的大门。

解决问题及场景： 在数据中心，每一个计算机都运行着成百上千的应用程序。当这些程序受到攻击时，他们往往会经历崩溃（crash）。每天，数据中心的服务器都可能产生数以百计的程序崩溃。

毫无疑问，这在很大程度上影响着一个企业的正常业务。如果处理不当，这些崩溃的程序甚至会危害客户的体验。在这项研究工作中，我们使用深度学习技术来妥善处理程序崩溃，并最大限度的来减小程序崩溃所带来不良影响。

解决该问题的方法：在程序崩溃时，计算机系统会自动生成一份崩溃报告（core dump）。这份自动化生成的报告涵盖了程序崩溃时的内存状态以及曾经执行的计算机指令。

我们使用深度学习技术来分析报告中的内存状态以及每一条指令，并迫使程序逆向执行。这样我们用AI的技术刻画程序在崩溃前的每一个曾经经历过的状态。

使用这样的信息，我们的AI系统会自动找到程序崩溃的根本原因，并执导安全研究人员迅速反应并完成对软件系统的快速修复。

意义和价值： 使用当前的技术解决此类问题还仅仅限制在传统的计算机程序分析领域。京东安全实验室与邢新宇教授团队的合作将AI真正的引入到传统领域。

这一大胆的尝试不仅在为程序分析打开了一扇崭新的大门，同时也在用令人惊讶的结果展示AI在程序分析领域的显著效果。虽然这项技术尚属早期，但是也许就在不久的将来，它将走出京东安全实验室，为广大数据中心提供可靠的安全保障。

目前，针对程序崩溃的响应往往需要几百个小时甚至上千小时的人力投入。在此项技术的帮助下，我们可以将响应所需的人力成本和时间成本降到最低。

这样不仅潜在的为京东节约了成本，更重要的是将攻击所导致的用户体验下降减少到最低。

面对AI安全、IoT安全、云安全的机遇及挑战，京东安全积极布局全球化背景下的安全人才，开展前瞻性技术研究。成立硅谷研发中心、安全攻防实验室等，并且与全球AI安全领域知名的高校、研究机构建立了深度合作，助推AI安全时代。

---------------------END---------------------

下面的内容同样精彩

点击图片即可阅读

京东大数据与智慧供应链全球领先首秀

WebGL的背景及基本功能

京东技术 ∣关注技术的公众号