专家谈人工智能可能带来的安全威胁

英国网络安全公司Darktrace的技术总监Dave Palmer在接受“Business Insider”杂志采访时谈到了人工智能可能带来的安全威胁，包括：

1

智能病毒可通过工业设备进行勒索

目前一些地方出现了勒索软件，这种恶意软件会对受害者的计算机或网络上的所有内容进行加密，然后要求受害者支付比特币赎金才能解密，如果受害者未在设定的时间内付款，被加密的数据则会永久丢失。

人工智能勒索软件会大大增加这些攻击带来的风险——通过自组织使损失最大化并寻求新的更有利可图的目标。勒索软件首先会潜入网络，然后突然攻击，某些时候会出现关于资产和数据的敲诈勒索事件，而人们不得不为了让工厂设备、医疗仪器、零售设备等重新上线运行而支付赎金，因为没有这些设备就无法继续开展业务。虽然数据可以备份，但如果设备停运，企业便无法继续盈利。

2

恶意软件将学习如何模仿人的行为

人工智能软件已经实现了利用循环神经网络学习模仿人的写作风格，未来的恶意软件能够查看某人的通信内容并学习此人的交流风格，然后通过模仿此人去感染其他目标。

Palmer举了一个例子，Nadia的笔记本电脑感染了一种恶意病毒，此病毒可以浏览并读懂她所有的邮件、消息、日历内容，然后模仿她的说话风格向与她通信的人发送信息，比如向Palmer发送的信息会带有调侃的语气，而向不熟悉的人发的信息就很有礼节。如果Nadia与某人约定了一次会面并在其日历中备忘了这件事，恶意病毒就会以Nadia的身份向对方发送一份关于见面地点的位置图，对方容易轻信并打开信息，而该图中早已被植入了病毒。

还有一类更复杂的“财务邮件”或“信任攻击”骗局，骗子假装成公司职员向财务人员发送一封请求转账的电子邮件，据美国联邦调查局估算，在过去三年内此类攻击已使企业损失近23亿美元。

3

恶意攻击通常具有隐蔽性

2015年12月，乌克兰发电站受到了一次前所未有的攻击而瘫痪，8万人因此无法用电，而受俄罗斯国家支持的黑客被认为应对此事件负责，这一事件说明了现代世界在黑客面前有多么不堪一击，但Palmer认为未来破坏性最强的攻击的隐蔽性也会大大提高。

Palmer指出，如果只是让某台石油钻机出了故障，工人们会发现并修复故障，而如果黑客真的想谋害一家油气公司，则需要通过植入恶意软件篡改物探数据，而这些数据正是油气公司决定如何选址购买开采权的依据。在很长一段时间后油气公司便会根据错误的信息在错误的地方购买开采权，最后发现这些油井的产量比预计的产量低很多，给企业运营造成严重亏损，而这些受害的公司却很难发现是如何被攻击的。

人们也许会认为应该检查一下他们的数据库内是否有任何恶意软件，但未来的黑客可能首先攻击的是收集数据的物联网传感器、潜水艇、扫描设备，而这些攻击很难被发现。

4

人工智能革命的阴暗面

目前是人工智能技术革命的早期阶段，涵盖了无人驾驶汽车、癌症治疗等各个领域，而目前人工智能的发展并不深入，随着这些技术变得更加先进、更加容易获取，难免会有人将之用于作恶。

Palmer表示，只需要经过一年左右的训练，一项人工智能就可以被用于网络攻击，而参考谷歌DeepMind团队在自然语言方面的进展速度，以上情况在未来几年内将成为现实。