专家谈人工智能可能带来的安全威胁

英国网络安全公司Darktrace的技术总监Dave Palmer在接受“Business Insider”杂志采访时谈到了人工智能可能带来的安全威胁,包括:

1

智能病毒可通过工业设备进行勒索

目前一些地方出现了勒索软件,这种恶意软件会对受害者的计算机或网络上的所有内容进行加密,然后要求受害者支付比特币赎金才能解密,如果受害者未在设定的时间内付款,被加密的数据则会永久丢失。

人工智能勒索软件会大大增加这些攻击带来的风险——通过自组织使损失最大化并寻求新的更有利可图的目标。勒索软件首先会潜入网络,然后突然攻击,某些时候会出现关于资产和数据的敲诈勒索事件,而人们不得不为了让工厂设备、医疗仪器、零售设备等重新上线运行而支付赎金,因为没有这些设备就无法继续开展业务。虽然数据可以备份,但如果设备停运,企业便无法继续盈利。

2

恶意软件将学习如何模仿人的行为

人工智能软件已经实现了利用循环神经网络学习模仿人的写作风格,未来的恶意软件能够查看某人的通信内容并学习此人的交流风格,然后通过模仿此人去感染其他目标。

Palmer举了一个例子,Nadia的笔记本电脑感染了一种恶意病毒,此病毒可以浏览并读懂她所有的邮件、消息、日历内容,然后模仿她的说话风格向与她通信的人发送信息,比如向Palmer发送的信息会带有调侃的语气,而向不熟悉的人发的信息就很有礼节。如果Nadia与某人约定了一次会面并在其日历中备忘了这件事,恶意病毒就会以Nadia的身份向对方发送一份关于见面地点的位置图,对方容易轻信并打开信息,而该图中早已被植入了病毒。

还有一类更复杂的“财务邮件”或“信任攻击”骗局,骗子假装成公司职员向财务人员发送一封请求转账的电子邮件,据美国联邦调查局估算,在过去三年内此类攻击已使企业损失近23亿美元。

3

恶意攻击通常具有隐蔽性

2015年12月,乌克兰发电站受到了一次前所未有的攻击而瘫痪,8万人因此无法用电,而受俄罗斯国家支持的黑客被认为应对此事件负责,这一事件说明了现代世界在黑客面前有多么不堪一击,但Palmer认为未来破坏性最强的攻击的隐蔽性也会大大提高。

Palmer指出,如果只是让某台石油钻机出了故障,工人们会发现并修复故障,而如果黑客真的想谋害一家油气公司,则需要通过植入恶意软件篡改物探数据,而这些数据正是油气公司决定如何选址购买开采权的依据。在很长一段时间后油气公司便会根据错误的信息在错误的地方购买开采权,最后发现这些油井的产量比预计的产量低很多,给企业运营造成严重亏损,而这些受害的公司却很难发现是如何被攻击的。

人们也许会认为应该检查一下他们的数据库内是否有任何恶意软件,但未来的黑客可能首先攻击的是收集数据的物联网传感器、潜水艇、扫描设备,而这些攻击很难被发现。

4

人工智能革命的阴暗面

目前是人工智能技术革命的早期阶段,涵盖了无人驾驶汽车、癌症治疗等各个领域,而目前人工智能的发展并不深入,随着这些技术变得更加先进、更加容易获取,难免会有人将之用于作恶。

Palmer表示,只需要经过一年左右的训练,一项人工智能就可以被用于网络攻击,而参考谷歌DeepMind团队在自然语言方面的进展速度,以上情况在未来几年内将成为现实。

原文发布于微信公众号 - 人工智能快报(AI_News)

原文发表时间:2016-11-11

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏大数据

以大数据之名,变身!——In big data we trust

先关注一则旧闻11月20日,德国联邦网络局禁止在该国销售儿童智能手表,穿戴设备的麦克风,可让家长听到孩子的环境,涉嫌侵犯他人隐私。另10月,挪威消费者理事会在报...

1876
来自专栏PPV课数据科学社区

【观点】大数据背后的道德隐患

70万人,无人告知的在线实验,全球第一大社交网络脸书(Facebook)隐秘进行的情感测试近日曝光天下,业界一片哗然。虽然Facebook的二把手SherylS...

3195
来自专栏量子位

中国安卓开发者的新红利?谷歌高管:AR了解一下

? 意义不简单。 如果你关注到Google在开发平台方面的最新动作,一定知晓了上周发布的安卓AR软件工具开发包ARCore 1.0,而且与中国开发者息息相关...

3064
来自专栏腾讯大讲堂的专栏

张小龙发布2018微信全新计划(内附演讲全文)

2018 年我们希望能做一些新的尝试,我认为探索线下的精彩生活,这是我们下一步想要尝试的一个方向。

1.6K11
来自专栏Java学习网

技术团队负责人应该具备怎样的能力

技术团队负责人应该具备怎样的能力 正好写2015年终总结,其实今年不太想写的,但是公司层面要求有个人总结要弄,写了个开始就情不自禁多写了一些,谈谈这方面的总结...

2826
来自专栏量子位

搜狗赴美上市:首日涨3.8%,王小川哽咽感谢母亲

千平 发自 凹非寺 量子位 出品 | 公众号 QbitAI ? 搜狗和王小川终于完成上市这件事。 关于目前的搜狗和王小川,量子位在之前的报道里,已经有过较为详细...

3507
来自专栏腾讯大讲堂的专栏

不能不说的设计秘密——4个步骤提升交互思维

良好的用户体验包含很多内容:服务、产品、参与者的感受等等,显然产品功能的强大、界面的美观并不能完全概括体验。体验还包含在产品与用户之间的互动、产品与场景的交互、...

1815
来自专栏腾讯大讲堂的专栏

张小龙发布2018微信全新计划(内附演讲全文)

大家好!我是张小龙。欢迎大家来到微信公开课。 ? 刚刚出现的是我打游戏的画面,被大家看到了,那个不是我最好的水平,因为有点紧张,我最高分曾打到6000多分。当然...

3477
来自专栏新智元

【I/O大会】Google Home今晚亮相,智能家居谷歌出牌预测

【新智元导读】《纽约时报》今日消息,谷歌有可能在即将举行的 I/O 大会上宣布进军家庭声控设备市场,推出一款叫 Google Home 的家庭语音控制设备。各大...

34612
来自专栏机器人网

手机人工智能时代,华为Mate 10这些功能一定要知道

人工智能给用户带来的便利,正在潜移默化地改变着人们的生活。人工智能正在以摧枯拉朽的势态向各产业渗透。这是近十年来科技领域最大的技术变革,对于已经处于缓慢技术演进...

4679

扫描关注云+社区