AI算法之战：网络攻击的下一个发展

Darktrace威胁搜寻总监Max Heinemeyer讨论了下一个由AI驱动的网络攻击演变 

只有基于AI的防御才能抵御基于AI的攻击。

自从Morris Worm1988年感染了的60,000台在线计算机中的大约10％以来，已经过去了三十多年。它是哈佛大学毕业生Robert Robert Panpan Morris的个人恶意软件项目，现已被广泛认为是世界上第一次网络攻击。

时至今日，在世界经济论坛（World Economic Forum）年度全球社会最严重威胁清单中，网络攻击已成为自然灾害和气候变化的威胁。随着企业，学校，医院以及社会结构中几乎所有其他线项目都拥抱互联网，网络犯罪已从学术研究项目转变为全球专业黑客服务市场，并且在地缘政治阶段，政府已经转变为互联网。超先进的网络攻击工具，以对其对手的关键基础设施造成物理损坏和破坏。

NCSC检测到对学术机构的网络攻击的上升

国家网络安全中心（NCSC）发现针对学校和大学等学术机构的网络攻击有所增加。

多年以来，黑客一直坚定了这句老话：“有志者事竟成”。防御者已经根据他们所看到的攻击向防火墙中输入了新规则或开发了新的检测签名，并且黑客不断调整其攻击方法以规避它们，从而使组织在面对攻击时追赶并争先恐后地制定计划B 。2017年发生了范式转变，破坏性的勒索软件``蠕虫''WannaCry和NotPetya使安全界不知情，绕过了防火墙之类的传统工具，瘫痪了150个国家的数千个组织，其中包括许多NHS机构。

由AI驱动的防御是对日趋复杂和新颖的攻击的一种严峻应对，这种发展是由以下哲学驱动的：有关昨天攻击的信息无法预测明天的威胁。近年来，成千上万的组织采用AI来了解其数字环境的“正常情况”，并识别异常和潜在威胁的行为。许多人甚至委托机器算法自主中断快速移动的攻击。这种主动，防御性使用AI的方式从根本上改变了安全团队的角色，使人们腾出精力来专注于更高级别的任务。

网络安全中AI和ML的用例

我们探索如何将人工智能（AI）和机器学习（ML）纳入网络安全。

但是，如果攻击者能够找到扩大攻击规模的方法，他们就会做到。对手最终会像企业一样思考：如何提高黑客的效率？我们如何攻击更多目标？如何用更少的资源获得更多的结果？

在攻击格局的下一个发展趋势中，黑客正在利用自身的机器学习来部署可以适应，学习和不断改进的恶意算法，以逃避检测，从而标志着网络安全格局的下一个范式转变：人工智能驱动攻击。

我们可以预期，在整个攻击生命周期中都将使用“进攻性AI”-无论是使用自然语言处理来理解书面语言，还是大规模或图像分类地制作上下文相关的鱼叉式网络钓鱼电子邮件，以在环境恶劣时加速敏感文档的泄露。受到攻击，攻击者正在寻找可以从中获利的材料。

Forrester最近的一项研究发现，88％的安全专业人员期望AI驱动的攻击将在已经证明是网络攻击高度变化的时代成为主流，并且将近一半的人认为这种情况将在明年发生–这只是时间问题。开源AI研究项目是可用于增强攻击生命周期各个阶段的工具，这些工具如今已经存在，并且很快就会毫无疑问地加入可在暗网上购买的付费黑客服务列表。

使用人工智能发展业务并创造企业价值

6位专家讨论了如何使用AI来发展您的业务，同时如何创造企业价值-更高的生产力和收入。

但是，现在有可用的进攻性AI原型可以在几秒钟内根据社交媒体的曝光量自动确定组织最引人注目的目标。然后，AI精心制作上下文相关的网络钓鱼电子邮件，并选择合适的发件人进行欺骗，然后将其发送出去，诱骗受害者单击恶意链接或打开附件，以允许进一步访问目标组织。它们已经针对防御性AI进行了测试，模仿了我们期望在现实世界中很快发生的事情：在本质上是一场算法大战中，AI与AI作战。

有了这项研究和数据，防御性AI就会看到更多。在不受监督的机器学习的支持下，它对受保护的网络中的每个用户和设备都具有复杂的了解，并使用不断发展的了解来检测可能是新兴攻击特征的细微偏差。基于对数字业务的这种“鸟瞰”，网络AI一旦开始操纵数据，就会发现攻击性AI。

当AI攻击者发出任何声音时，防御性AI会做出明智的微决定来阻止活动-攻击性AI可能会充分利用其速度，但这就是防御性AI也将带动军备竞赛的事情。

当不可避免地发生攻击者创新的重大飞跃时，必须以机器大脑的速度和直觉来进行调查，响应和补救。现实情况是，传统的安全控制已经在努力检测野外从未见过的攻击-无论是没有已知签名，新命令和控制域或个性化鱼叉式网络钓鱼电子邮件的恶意软件。传统工具将无法应对未来的攻击，因为这已成为常态并且比以往任何时候都更容易实现。只有人工智能才能与人工智能抗争。

这是持续进行的数字基础设施控制之战中的又一个新战场，但幸运的是，这是AI防御者长期以来一直在准备的领域。

——END——