病毒、木马变身AI后,你的杀毒软件还有意义吗?

图片:iStock

人工智能也被黑客们盯上了,你的网络安全将会受到哪些影响呢?黑客们用AI又能做出哪些坏事呢?

被人工智能攻击容易预期,升级更智能的杀毒软件就是了。

但如果杀毒软件也能被黑客的AI接管,你还能想出什么辙?

拿人工智能技术(AI)来作恶?

没错!为什么不呢?

如果这个人工智能能让黑客找到更为敏感的隐私短信、艳照,岂不可以拿去勒索财务?

如果这个人工智能能让黑客把你联网的机器统统报废,黑客一键下去,岂不让你的机器完全听命于他?

如果黑客无比贪婪,不仅要控制你的手机,联网设备,还要直接摧毁你的杀毒系统,防护系统,打得你毫无招架之功,你是不是可怜得跟一个小兔子一样,任人宰割?

可是,这样的时代,正在到来,无论你恐慌,还是回避。人工智能,正如一个魔法强大的权杖,给你带来福利的同时,也让暗黑势力蠢蠢欲动。

他们在黑暗中,阴险地盯着这个技术的发展,一旦成熟,立马用于黑产,觊觎你的财务和你的安全。

AI的黑暗面

Business Insider在 2016年发表过一篇文章:《人工智能驱动型恶意软件正在到来,后果将不堪设想》,探究了黑客如何操纵AI进行网络犯罪。

在这篇文章中,专栏作家Rob Price采访了时任英国Darktrace公司技术总监的资深网络安全专家Dave Palmer。Darktrace公司以其基于AI的网络安全平台而闻名。

Palmer认为,AI驱动型恶意软件的出现只是时间问题——即使当下这类恶意软件还没出现。 Palmer通过3个例子表明自己对恶意软件借助AI技术提升攻击性的担忧。

  • 勒索软件

他认为,在机器智能的帮助下,智能恶意软件会配合其他勒索软件,共同攻击网络系统,破坏受害者的防御系统。

  • 物联网(IoT)设备

AI技术的应用将会使得网络罪犯勒索物联网(IoT)设备变得更加容易。

“我确信,我们将会看到针对资产和数据的勒索现象——工厂设备、医院的核磁共振设备以及零售设备……种种需要支付赎金才能恢复联机的设备。没有这些设备,企业就无法运作。数据可以备份,但如果机器停止了工作,那你就完全无法营利了。”

  • 出版业

Palmer认为,基于AI的恶意软件还可以搜索攻击对象的电子邮件与其他文件,模仿受害者的写作风格,进而利用获得的信息部署真假难分的钓鱼信件。

既然黑客可以借助AI攻击很多领域,那为什么不直接攻击网络安全系统?

网络罪犯可能感兴趣的另一个领域是AI算法,尤其是与生产网络安全平台相关联的算法。

为了进一步了解这个领域,我们采访了北京大学信息科学技术学院的研究员胡巍巍(Weiwei Hu)和谭营(Ying Tan)。

两人在其论文《基于生成对抗网络的黑箱攻击的对抗性恶意样本生成》的导论中写道:

“多数研究人员专注于研究如何增强恶意软件检测算法的性能。” “面对恶意攻击,多数机器学习算法都很脆弱。基于机器学习的恶意软件检测算法,如果可以被某些对抗方法轻易避开,那它就无法在实际中应用。”

依据Szegedy等人的研究,胡巍巍和谭营得出了上述结论。Szegedy通过窜改信息(对抗样本)将恶意软件的分类误差最大化,成功绕过了恶意软件检测算法,使得检测算法无法发现恶意软件。

胡巍巍和谭营提出在运用生成式神经网络的同时改变原始样本,以生成输入和输出对抗样本。

两位研究员表示:

“神经网络固有的非线性结构使它们能够生成更为复杂和更为灵活的对抗样本,从而欺骗目标模型。”

他们称该生成式神经网络为MalGAN,并研究如何训练MalGAN生成能骗过恶意软件检测器的对抗样本。

他们表示:

“试验结果表明,生成的对抗样本能够有效地避开恶意软件检测器”

以上只是简单介绍了AI的黑暗面,但种种迹象表明,心怀不轨的人已经在开发类似于MalGAN这样的算法,从而生成可以避开恶意软件检测算法的对抗样本。最终将会出现利用“AI”战胜“AI”的结局。

原文链接

http://www.techrepublic.com/article/using-ai-enhanced-malware-researchers-disrupt-algorithms-used-in-antimalware/

相关阅读

http://www.techproresearch.com/article/cybersecurity-in-2017-a-roundup-of-predictions/ http://www.businessinsider.com/darktrace-dave-palmer-artificial-intelligence-powered-malware-hacks-interview-2016-10 https://arxiv.org/pdf/1702.05983v1.pdf

小 ai 说

在AI给我们带来期待的同时,也露出了其黑暗的一面。虽然这是任何事物都具有的两面性,但用“AI”战胜“AI”,想必不是我们想要的结果。

对此,你是怎么想的呢?

今日荐文

人工智能是不可怕,但你也得会用啊! http://geek.ai100.com.cn/2017/03/14/776

版权申明:该文章版权归AI100所有,如需转载、摘编、复制等,请后台留言征得同意。若有直接抄袭,AI100将追究其责任。

本文分享自微信公众号 - AI科技大本营(rgznai100)

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2017-05-08

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏AI科技大本营的专栏

AAAI 2018 杰出论文出炉,两位中国留学生共同获奖

编辑 | 周翔 作为人工智能的顶级会议,AAAI 2018 将于 2.2~2.7 在美国路易斯安那州的新奥尔良举行。然而,大会还没开始,获奖信息就已经在网上传播...

391140
来自专栏机器学习AI算法工程

中国快递包裹总量的预测-基于SARIMA模型

国家邮政局发布的数据显示,2015年4月底,快递业务量完成15亿件,同比增长50.9%。目前,快递业务量增速已连续50个月超过50%,尤其是网购旺季(双十一、双...

38540
来自专栏量子位

AI说:你的书法有咖喱味丨看字识国别

18220
来自专栏AI科技大本营的专栏

冠军奖30万!刘强东搞了个“猪脸识别”比赛,中美两地同时启动(附比赛详细日程及赛题说明)

编辑 | Katerina Donna 润色 | 鸽子 11月6日,由京东金融与红杉资本联合主办的首届“JDD-2017京东金融全球数据探索者大会”在751大罐...

42190
来自专栏新智元

2018全球计算机与工程学科排名:MIT夺冠,清华第7,中国23所高校上榜

【新智元导读】日前,世界四大权威大学排名之一的软科正式发布了《2018软科世界一流学科排名》,在计算机科学与工程学科排名中,MIT、斯坦福、CMU位列前三,中国...

8520
来自专栏深度学习与数据挖掘实战

头条|全球OCR文字识别测试最新结果公布:中国AI企业霸屏

今天,国际文档分析与识别大会(ICDAR)数据集最新结果公布,中国高校及企业包揽排行榜前五。据了解,云从科技提出的Pixel-Anchor框架在多个ICDAR测...

49020
来自专栏人工智能快报

人工智能力助肾脏诊断

科研人员利用超级计算机和人工智能技术对肾脏受损程度和寿命进行了预测。 现在,科研人员已经能够通过基于人工智能(AI)的超级计算机模型,借助患者前往医院进行肾脏活...

41080
来自专栏DT数据侠

如何用数据找到“钱多事少离家近”的工作?

“钱多事少离家近,位高权重责任轻,睡觉睡到自然醒,数钱数到手抽筋”, 这样的工作真的存在吗?快随本文数据侠,一起搜罗吧~

11600
来自专栏DT数据侠

张翰娜扎为何分手?这个“科学配对实验”已洞穿一切

连张翰娜扎这种外形登对的高颜值组合都宣告分手,圣诞节独守空房的你有什么资格老泪纵横。在这个什么都讲究精准配对的时代,遇不到真爱可能真的是概率问题。

9600
来自专栏华章科技

机器学习Lasso算法的前世今生

众所周知,机器学习的模型与统计有着千丝万缕的联系。阅读本文后,你才恍然发现,鼎鼎大名的Lasso算法思想锤炼的背后,蕴藏着学生氏分布关于酿酒的小秘密,还可以窥视...

15220

扫码关注云+社区

领取腾讯云代金券