牛津、剑桥等专家联合发布报告:警惕AI在未来的恶意使用

作者 James Vincent

编译 Mika

当谈到人工智能所带来的危险,我们通常强调的是意想不到的副作用。我们担心可能在无意间创造了超级智能AI,但在编程中没有加入道德约束; 或者我们部署了刑事判决算法,这些算法包括了训练数据的偏见。

但这只是一方面。

但是那些想把AI用于不道德行为、犯罪或恶意目的的人呢?这些人群是否更有可能利用AI进行恶意攻击?

来自牛津大学的人类未来研究所、剑桥大学的潜在风险研究中心和Elon Musk支持的非营利性OpenAI十四家组织机构的二十六名专家认为,以上两个问题的答案是肯定的。

在上周发布的《人工智能的恶意使用:预测、预防和缓解》(The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation)的报告中,这些学者和研究人员列举了在未来5年内AI可能给我们生活带来危害的方式,以及能够阻止这些危害的方法。虽然AI给人们带来新型的攻击,该报告的合著者,来自人类未来研究所的Miles Brundage认为,我们并不该感到恐慌或放弃希望。

“我倾向于保持乐观,我们可以采取许多措施,”Brundage认为。“这篇报告的目的并不是描述未来惨淡的前景,而意味着我们可以采取大量防御措施,并且还有很多需要学习的东西。我并不认为这是没有希望的,这篇报告更像是倡导书。”

近100页的报告内容广泛,当中重点介绍了AI将加剧数字、物理安全系统的威胁,以及创造新型危险的方式。还阐述了解决这些问题的五条建议:包括让AI工程师了解他们研究中可能存在的恶意使用; 启动政策制定者和学者之间的交流对话,避免政府和执法机构对此一无所知。

AI将减少威胁成本

其中最主要的威胁在于:AI能够让需要人工完成的任务自动化,从而大大减少攻击成本。

比如,钓鱼攻击,即某人发送其中特别设计的信息,诱使他人放弃安全凭证(比如冒充银行的电子邮件)。当中的大部分工作可以由AI自动完成,映射出个人的社交和专业网络,然后生成消息。比如通过创建聊天机器人冒充好友,向你索要邮箱密码等。

这种攻击听起来很复杂,但一旦你创建了这些软件,那么就可以反复使用,而不需要额外成本。钓鱼邮件已经带来了足够的危害,比如2014年好莱坞名人iCloud照片泄露事件,以及希拉里克林顿的竞选主席John Podesta私人邮件的泄露事件。

AI将增加威胁的新维度

第二大要点是,AI会为现有威胁增加新的维度

比如在钓鱼攻击中,AI不仅可用于生邮件和短信,还可以用来伪造音频和视频。AI可以通过几分钟的语音来模拟目标人物的声音,甚至生成虚假的视频。这种新型的威胁形式将在未来五年成为不可忽视的问题。

AI将带来的全新威胁

最后,报告介绍了AI带来的全新威胁。当中列出了一些可能出现的场景,比如恐怖分子将植入炸弹的清洁机器人带入政府部门。机器人利用内置的视觉感应系统追踪特定的目标,当靠近目标时炸弹引爆。这利用了AI的新产品(清洁机器人)和其自主功能(机器视觉追踪)。

这些情景听起来似乎有些不切实际,但我们已经目睹了利用AI进行的新型攻击。比如用deepfakes用深度学习技术,在未经同意的情况下所合成将名人的脸合成到色情视频中。虽然目前还未出现引人注目的案例,但不法分子可以利用这种方式进行骚扰和勒索。

我们能做什么

报告中的这些例子让你不禁思考:我们能做什么?

报告中提出了五个主要建议:

· AI人员应该告知研究中可能被恶意使用的情况;

· 决策者需要向技术专家了解这些潜在威胁;

· AI领域需要向网络安全专家学习如何更好地进行系统保护;

· 需要制定AI的道德伦理框架,并严格遵循;

· 需要有更多的人的参与。不仅仅是AI科学家和决策者,还包括伦理学家,企业和普通大众。

换句话说:我们需要更多的交流以及更多的行动。

原文发布于微信公众号 - CDA数据分析师(cdacdacda)

原文发表时间:2018-02-27

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏罗超频道

DT时代,云计算的十大趋势

DT(DataTechnology)时代,是马云热衷于步道的新概念。这是继IT(信息技术)之后的又一次技术变革,主旨是挖掘海量数据的价值,让数据成为新的经济增长...

4616
来自专栏孟永辉

头部内容时代,内容创业的痛点到底在哪?

3407
来自专栏云计算D1net

微软谷歌在云计算上奋力紧追亚马逊

7月27日消息,据国外媒体报道,路透社近日报道称“虽然利润有所下降,但微软上一季营收增长18%,这多亏于其云计算产品对企业的销售增长强劲所致。”分析师称,微软在...

3376
来自专栏人称T客

Analytics—新Office工具面世将改变我们的办公方式

如果你是一位数据科学家,那么分析工具用处多多。如果你不是,那非常不幸,你有的只是一堆无用的数据。专栏作家Rob Enderle 说BeyondCore应用在Of...

3266
来自专栏企鹅号快讯

2018消费趋势报告:一半受访者会被类人机器人吓跑

据爱立信官网报道,通过对约翰内斯堡、伦敦、墨西哥城、莫斯科、纽约、旧金山、圣保罗、上海、悉尼以及东京等地的5141名高级互联网用户进行的在线调查,爱立信消费实验...

1867
来自专栏人称T客

全球EMM份额调查报告:市场分割仍在继续 但格局已定

注: 2014年,占比(%),增长率(%)和收入(美元); 据公认会计准则估计收入; 资料来源:互联网数据中心(IDC),2015年。 摘要: 2014年企业移...

3698
来自专栏新智元

【致敬程序员节】科大讯飞发布1024计划,10.24亿倾注AI开发者

【新智元导读】 程序员节这一天,科大讯飞在合肥发布打造AI生态,汇聚AI开发者的“1024计划”。科大讯飞将启动10.24亿生态扶持基金,助力AI开发者。此外,...

3736
来自专栏编程一生

盖洛普Q12在团队中的应用

结果效果很好,超出我的预期。超出我的预期的原因在于大家的回答给人非常大的正能量,感觉很受鼓舞。通过大家的发言了解到美团、美团基础架构在业界的口碑都非常好,和通过...

1283
来自专栏钱塘大数据

工业互联网与智能制造,须以解决业务问题为突破口

智能工厂牵涉到的范围非常广泛,除如智能机器人、集成产品生产模拟、添加性制造/3D打印等等专门技术领域外,很大程度上主要围绕在这样一个核心课题: 即如何把信息和...

3678
来自专栏新智元

诺奖评委、工业 4.0 教父沃夫冈解读AI研究大趋势

沃夫冈 · 瓦尔斯特尔 德国人工智能研究中心首席执行官,诺贝尔奖评审委员会成员 新智元 AI 技术峰会 演讲:沃夫冈 · 瓦尔斯特尔 【新智元导读】德国...

3547

扫码关注云+社区

领取腾讯云代金券