病毒、木马变身AI后，你的杀毒软件还有意义吗？

图片：iStock

人工智能也被黑客们盯上了，你的网络安全将会受到哪些影响呢？黑客们用AI又能做出哪些坏事呢？

被人工智能攻击容易预期，升级更智能的杀毒软件就是了。

但如果杀毒软件也能被黑客的AI接管，你还能想出什么辙？

拿人工智能技术（AI）来作恶？

没错！为什么不呢？

如果这个人工智能能让黑客找到更为敏感的隐私短信、艳照，岂不可以拿去勒索财务？

如果这个人工智能能让黑客把你联网的机器统统报废，黑客一键下去，岂不让你的机器完全听命于他？

如果黑客无比贪婪，不仅要控制你的手机，联网设备，还要直接摧毁你的杀毒系统，防护系统，打得你毫无招架之功，你是不是可怜得跟一个小兔子一样，任人宰割？

可是，这样的时代，正在到来，无论你恐慌，还是回避。人工智能，正如一个魔法强大的权杖，给你带来福利的同时，也让暗黑势力蠢蠢欲动。

他们在黑暗中，阴险地盯着这个技术的发展，一旦成熟，立马用于黑产，觊觎你的财务和你的安全。

AI的黑暗面

Business Insider在 2016年发表过一篇文章：《人工智能驱动型恶意软件正在到来，后果将不堪设想》，探究了黑客如何操纵AI进行网络犯罪。

在这篇文章中，专栏作家Rob Price采访了时任英国Darktrace公司技术总监的资深网络安全专家Dave Palmer。Darktrace公司以其基于AI的网络安全平台而闻名。

Palmer认为，AI驱动型恶意软件的出现只是时间问题——即使当下这类恶意软件还没出现。 Palmer通过3个例子表明自己对恶意软件借助AI技术提升攻击性的担忧。

• 勒索软件

他认为，在机器智能的帮助下，智能恶意软件会配合其他勒索软件，共同攻击网络系统，破坏受害者的防御系统。

• 物联网(IoT)设备

AI技术的应用将会使得网络罪犯勒索物联网(IoT)设备变得更加容易。

“我确信，我们将会看到针对资产和数据的勒索现象——工厂设备、医院的核磁共振设备以及零售设备……种种需要支付赎金才能恢复联机的设备。没有这些设备，企业就无法运作。数据可以备份，但如果机器停止了工作，那你就完全无法营利了。”

• 出版业

Palmer认为，基于AI的恶意软件还可以搜索攻击对象的电子邮件与其他文件，模仿受害者的写作风格，进而利用获得的信息部署真假难分的钓鱼信件。

既然黑客可以借助AI攻击很多领域，那为什么不直接攻击网络安全系统？

网络罪犯可能感兴趣的另一个领域是AI算法，尤其是与生产网络安全平台相关联的算法。

为了进一步了解这个领域，我们采访了北京大学信息科学技术学院的研究员胡巍巍（Weiwei Hu）和谭营（Ying Tan）。

两人在其论文《基于生成对抗网络的黑箱攻击的对抗性恶意样本生成》的导论中写道：

“多数研究人员专注于研究如何增强恶意软件检测算法的性能。” “面对恶意攻击，多数机器学习算法都很脆弱。基于机器学习的恶意软件检测算法，如果可以被某些对抗方法轻易避开，那它就无法在实际中应用。”

依据Szegedy等人的研究，胡巍巍和谭营得出了上述结论。Szegedy通过窜改信息（对抗样本）将恶意软件的分类误差最大化，成功绕过了恶意软件检测算法，使得检测算法无法发现恶意软件。

胡巍巍和谭营提出在运用生成式神经网络的同时改变原始样本，以生成输入和输出对抗样本。

两位研究员表示：

“神经网络固有的非线性结构使它们能够生成更为复杂和更为灵活的对抗样本，从而欺骗目标模型。”

他们称该生成式神经网络为MalGAN，并研究如何训练MalGAN生成能骗过恶意软件检测器的对抗样本。

他们表示：

“试验结果表明，生成的对抗样本能够有效地避开恶意软件检测器”

以上只是简单介绍了AI的黑暗面，但种种迹象表明，心怀不轨的人已经在开发类似于MalGAN这样的算法，从而生成可以避开恶意软件检测算法的对抗样本。最终将会出现利用“AI”战胜“AI”的结局。

原文链接

http://www.techrepublic.com/article/using-ai-enhanced-malware-researchers-disrupt-algorithms-used-in-antimalware/

相关阅读

http://www.techproresearch.com/article/cybersecurity-in-2017-a-roundup-of-predictions/ http://www.businessinsider.com/darktrace-dave-palmer-artificial-intelligence-powered-malware-hacks-interview-2016-10 https://arxiv.org/pdf/1702.05983v1.pdf

小 ai 说

在AI给我们带来期待的同时，也露出了其黑暗的一面。虽然这是任何事物都具有的两面性，但用“AI”战胜“AI”，想必不是我们想要的结果。

对此，你是怎么想的呢？

今日荐文

人工智能是不可怕，但你也得会用啊！ http://geek.ai100.com.cn/2017/03/14/776

➤版权申明：该文章版权归AI100所有，如需转载、摘编、复制等，请后台留言征得同意。若有直接抄袭，AI100将追究其责任。