DARPA将探索如何利用人工智能保护网络安全

在网络安全专家能够发现并修复计算机软件的“零日”漏洞之前,黑客可对这些漏洞利用的平均时长长达312天。美国国防部高级研究计划局(DARPA)正在致力于开发新的人工智能技术,希望能够在数秒或数分钟内发现并修复此类漏洞。

在2016年夏季由DARPA主办的Cyber Grand挑战赛中成功入围决赛的七支团队将展示各自的人工智能系统,这些系统可自动扫描对手的网络服务器是否存在漏洞利用程序,并通过主动发现和修复软件漏洞来保护自己的服务器。前三名获胜团队将直接获得200万美元、100万美元、75万美元的奖励。但从长远来看,DARPA希望此次挑战赛的成果能够证明人工智能系统已能够帮助人们保护计算机软件和网络,希望能够证明计算机的安全防御系统能够自动对漏洞做出反应。

当前的网络安全防御系统主要依靠人工手动扫描崩溃报告,从而查明问题,但如果遇到计算机故障生成成百上千条崩溃报告时,这项工作就变得非常艰巨,而微软等巨头企业已在着手开发能够自动发现问题并生成漏洞报告的软件程序。

DARPA希望能够改进人工智能系统对漏洞利用程序的检测与防御能力,大大缩短软件补丁开发以及漏洞修复的时间。此外,自动化人工智能系统可随时对整个软件系统进行监控,而不是在出现问题时仅仅依靠人工查看崩溃报告。

主办方向这七支入围团队提供了高性能的计算硬件,用于开发各自的“网络推理”系统。8月4日,这七支团队将带着各自的研发成果在拉斯维加斯的决赛中一决高下。

总决赛开始时,每个参赛的人工智能系统将被置身于一个正在运行已知协议和未经检验的计算机代码的网络环境中,这就意味着这些人工智能系统需要先学习该网络的软件语言和逻辑才有可能发现漏洞。为了攻击对手,这些参赛的系统需要先扫描网络服务器的漏洞。一旦发现漏洞,就必须将漏洞报告给评审并预测系统何时会崩溃。经证实对手服务器确实存在报告的漏洞后就能得分,但如果未能在模拟攻击中安全防御自身的服务器就会扣分。

这些人工智能系统还必须同时对自身进行网络防御,保护服务器不受对手的攻击。网络安全防御有两种策略,第一种策略需要先创建一个通用的“二进制保护壳”,从而防御对网络服务器任何部分的一般威胁。这种方法的缺点是执行常规计算任务时服务器的软件运行速度会变慢,虽然人们希望电脑具有足够的安全性,但也不希望以降低速度为代价。

第二种防御策略是发现软件漏洞并用专用补丁修复这些漏洞。虽然此类逆向工程和如何针对问题创建“点补丁”对于人工智能系统而言更具挑战性,但这几支团队开发的人工智能系统已经在2015年6月份的资格赛中实现了这样的点补丁。在资格赛中没有任何一个系统仅凭自身力量就能发现590处软件漏洞,但它们共同发现了所有漏洞利用程序。

为了将网络安全人工智能系统用于打击恶意行为,如发现漏洞利用程序并发起网络攻击,此次大赛的成果以及参赛软件将以开源形式公开,开源软件使得各种漏洞或漏洞利用程序更容易被网民发现和修复。这种开放性也是防范对人工智能技术“恶意滥用”的关键所在。

此次比赛的负责人Walker未对人工智能系统可能带来的网络安全益处进行预测,但他指出,商业软件的各种网络安全进步同样也将给美国军事带来益处,因为后者一般依赖于这种现成的成果。

研究人员将开展为期21天的科学实验和可行性实验,只有先验证人工智能系统的自主性后才能预测未来的发展。即使在此次决赛中获胜也仅仅是这些人工智能系统发展的一个开始。参加决赛的几支团队已口头约定,获胜的团队将参加2016年度黑客大会(DEF CON)举行的一项类似的“夺旗”竞赛,此次黑客大会将于8月份同一时间在拉斯维加斯举行,这将标志着自主机器与人类专家的首次较量。

原文发布于微信公众号 - 人工智能快报(AI_News)

原文发表时间:2016-08-15

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏FreeBuf

HITB2018 | 安卓厂商隐藏的事实:安全补丁的更新部署并不真实完整

HITB AMS 2018 安全会议 4 月 12 日至 4 月 13 日在荷兰阿姆斯特丹举办。来自德国安全研究实验室的的研究员,在议题分享环节会公开一项让人惊...

2734
来自专栏FreeBuf

十几万Android手机组成的僵尸网络正在活跃,你中招了吗?

你相信只要从官方应用商店下载一个 App 就能保护自己免受恶意软件攻击吗? 你要是信了,就得好好想想了。 来自 Akamai、Cloudflare,、Flash...

2886
来自专栏FreeBuf

当微信遇上社会工程学,明枪易躲暗箭难防

帮人开门原本是出于礼节的行为,在当今社会很常见。但在特定场合中,这种行为很可能带来灾难。有些别有用心的人会利用这种礼貌行为,扮成需要帮助的弱者,博取同情,从而顺...

842
来自专栏企鹅号快讯

黑客黑产攻防:1秒定生死的幽灵战

黑客黑产攻防:1秒定生死的幽灵战; 你在前端秒杀,他们在后台博弈; 犯案模式更简单粗暴,随着国内互联网金融、人工智能和大数据等产业继续深化发展,互联网为实体产业...

1887
来自专栏FreeBuf

攻防对抗中,企业如何像黑客一样思考

安全是一个博弈对抗的过程,网络安全的本质是攻防对抗。攻击者会不断寻找防护方的弱点,防护方也需要不断研究黑客思维,探索应对黑客攻击的方法,提升安全防护的能力和效率...

2158
来自专栏FreeBuf

KSN安全报告:勒索软件和恶意矿工的威胁景观(2016~2018)

勒索软件不是一个陌生的威胁。在过去的几年里,它一直在影响网络安全世界,感染设备和文件并阻止用户访问,如果用户想要重新获得其设备和文件的访问权,就必须要支付一笔赎...

823
来自专栏FreeBuf

DDoS攻击的规模和攻击频率都在不断攀升

2016年7月19日,Arbor Networks(NASDAQ:NTCT),公布全球分布式拒绝服务(DDoS)攻击数据总结报告:2016年上半年,规模最大的D...

1868
来自专栏黑白安全

据称与伊朗相关的 APT 组织 RASPITE 瞄准美国电力公司

据外媒 Securityaffairs 报道,工业网络安全公司 Dragos 研究人员报告称,在伊朗境外运营的一个被称为 RASPITE 的网络间谍组织(又名L...

653
来自专栏腾讯云安全的专栏

搭载 AI 引擎 腾讯云云镜开启全面防护模式

1.7K5
来自专栏FreeBuf

由大型物联网僵尸网络驱动的DDoS攻击

基于物联网设备的僵尸网络 随着信息安全技术的不断发展,物联网僵尸网络现在也成为了信息安全领域内最为危险的安全威胁之一。近期,我们检测到了两起由这些物联网基础设施...

1829

扫描关注云+社区