前沿报告 | 牛津、剑桥、OpenAI联合发出AI预警《人工智能的恶意使用》(附下载)

大数据文摘作品

作者:龙牧雪

无人车、无人机、视频生成……这些AI应用在让我们激动万分的同时,也有可能带来前所未有的灾难——如果无人车队被恶意操纵来撞你,该怎么办?这次让我们看看AI政策研究学者怎么说。

2月20日,26位来自牛津大学、剑桥大学、OpenAI、电子前沿基金会(一个非营利数字版权组织)、新美国安全中心(一家美国智库)等多个研究机构的研究人员发布了一份AI预警报告,针对AI的潜在恶意使用发出警告,并提出相应的预防及缓解措施。

报告作者之一、来自牛津大学人类未来研究所的Miles Brundage在推特上发布报告

报告链接:

https://maliciousaireport.com/

在大数据文摘公众号后台回复“预警”即可下载报告PDF全文

新兴技术对人类安全的影响一直是个热门话题。牛津、剑桥、OpenAI这些重量级研究所此次发布的这份报告名为《人工智能的恶意使用:预测、预防和缓解》,预测了未来十年网络犯罪的快速增长、无人机的滥用、使用“机器人(bots)”操纵从选举到社交媒体等恶意利用人工智能的场景,号召政府及企业重视当前人工智能应用中的危险。

报告也建议采取以下干预措施以减轻恶意使用人工智能造成的威胁:

  • 政策制定者和技术研究人员现在需要共同努力来理解和为应对恶意使用人工智能做出准备。
  • 人工智能有许多积极的应用,但是是一把双刃剑,人工智能研究人员和工程师应该注意并积极预测其滥用的可能性。
  • 人工智能应该从具有较长的处理风险的历史的学科(如计算机安全)中学习。
  • 积极扩大参与预防和减轻恶意使用的利益相关者范围。

这份长达100页的报告关注与恶意使用人工智能特别相关三个安全领域:数字安全(digital)、物理安全(physical)和政治安全(political)。它表明,人工智能会破坏规模(scale)和效率(efficiency)之间的权衡,并使大规模、精细目标和高效的攻击成为可能。

例如,自动黑客攻击,用于模拟目标的语音合成,使用从社交媒体获取的信息的精确目标垃圾邮件,或利用AI系统本身的漏洞等新型网络攻击。

同样,无人机和网络系统的扩散将允许攻击者部署或重新调整这些系统用于有害目的,例如让自动驾驶车队相撞,将商业无人机变为可以定位目标的导弹,或劫持重大基础设施以索要赎金——自主武器系统在战场上的崛起可能会导致失控。

在政治领域,借由详细的分析、有针对性的宣传、便宜且高度可信的虚拟视频,可以操控公众舆论,而这种操控的规模在以前是无法想象的。利用人工智能,可以大规模聚集、分析和处理个人信息,这可以实现监控,可能侵犯隐私,并从根本上改变个人、企业和国家之间的权力。

为了减轻这些风险,报告作者探索了几种干预措施,以减少与AI滥用相关的威胁。这些措施包括重新思考网络安全,探索信息共享的不同开放模式,促进责任文化,制定有利于安全防御的政策和技术。

报告作者之一,剑桥大学生存风险研究中心执行主任Seán Ó hÉigeartaigh博士说道:

人工智能是一个改变游戏规则的机器,这份报告已经想象出未来五到十年内世界会变成什么样子。 我们所生活的世界可能变为一个充满因滥用人工智能而导致的危害的世界,我们需要处理这些问题,因为风险是真实存在的。我们现在需要做出选择,而我们的报告号召全球政府、机构和个人的行动。 几十年来,人工智能和机器学习方面的宣传超过了事实。但现在不再是这样了。这份报告着眼于那些不再适用的做法,并提出了一些可能有所帮助的方法:例如,如何设计不易被攻击的软件和硬件,以及可以采取什么类型的法律和国际法规。

不过,在报告开篇,作者也承认:“对于人工智能相关的安全攻击和相应的防卫措施之间的长期平衡,我们并没有给出解决方案”。

网络上也存在着批评的声音。GigaOm评论员Jon Collins指出,对于所有提出的风险,报告并没有定量描述,而只是以“可能出现(plausibly)”的字眼概述,这不是对风险的科学描述方式。风险有多大?我们也不得而知。此外,报告中的许多地方也明确表示,“报告的多位作者对此持有不同观点”。所以就此看来,报告起到的唤醒作用可能远大于对实际操作的指示。

在大数据文摘公众号后台回复“预警”即可下载报告PDF全文

素材来源:

https://www.cser.ac.uk/news/malicious-use-artificial-intelligence/

https://gigaom.com/2018/02/21/whats-missing-from-the-malicious-use-of-artificial-intelligence-report/

原文发布于微信公众号 - 大数据文摘(BigDataDigest)

原文发表时间:2018-02-22

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏PPV课数据科学社区

大数据真正的财富蕴含在产业链条而非消费链条

摘要: 大数据真正的财富蕴含在产业链条而非消费链条之中,因此,大数据与产业融合将成为落地的根本。目前随着基础设施布局的逐渐完善,大数据的发展已经走到一个新的临界...

30230
来自专栏大数据文摘

周鸿祎:物联网时代的三大威胁

19450
来自专栏灯塔大数据

将AI应用到供应链中的三个步骤

导读:上一期了解了关于比特币相关的法律问题的相关介绍,今天我们来了解一下关于将AI应用到供应链中的相关内容(文末更多往期译文推荐) 现代全球供应链是由规模来定义...

48580
来自专栏企鹅号快讯

正在更好地利用大数据的Z世代

人们可能都知道什么是千禧一代。但是听说过Z世代吗?Z世代是美国及欧洲的流行用语,是指在1990年代中叶至2000年后出生的人。他们又被称为网络世代、互联网世代,...

26850
来自专栏云计算D1net

云计算价值实现 忌醉翁之意不在“云”

“如果还有哪个行业比服装界更赶潮流的话,那便非IT行业莫属了”,对于云计算在几年间迅速崛起,甲骨文CEO拉里·埃里森有此感概。数据显示,2013-2017年全球...

37360
来自专栏企鹅号快讯

大数据促进共享经济的5种方式

共享经济时代是数字时代得到进一步演进和发展的时代。共享经济让有机会利用资源的众多企业和个人获得了赚钱的机会。事实上,很多企业已经加入共享经济。即使人们以前没有听...

32340
来自专栏云计算D1net

云计算产业服务标准需完善

阿里云、政务云、公有云、私有云……当前,云计算已经成为热点。在日前召开的第六届中国云计算大会上,有的专家认为,云存储的服务发展已经逐步成熟,云计算已迎来爆发式增...

49970
来自专栏BestSDK

全球领军广告Vungle发布定制版安卓SDK:高精准数据追踪,让开发者变现更高效

此次 Vungle 发布的国内定制版 SDK 可以直接通过 APP 内下 载,与其他下 载方法相比更为简单、高效。

11730
来自专栏机器人网

大众对机器人技术的理解都有哪些谬误?

投资公司LuxCapital的合伙人ShahinFarshchi,在著名的科技网站IEEE发文,说他作为一个投资人,是怎样认识正在突飞猛进的机器人技术。 更快...

31950
来自专栏新智元

余承东:华为三到五年内研发费用全球第一;每年投10亿给开发者

【新智元导读】昨天,余承东全面阐述华为的全场景智慧生活生态战略,通过硬件、内容&服务突破,构建起“汽车、家庭、办公、运动健康”几大主要场景。还首次公开面向全球的...

11700

扫码关注云+社区

领取腾讯云代金券