OpenAI等机构联合发布《人工智能恶意使用》报告

OpenAI、牛津大学、剑桥大学等14家机构和高校联合发布《人工智能恶意使用:预测、预防和缓解》,调查了恶意应用人工智能技术会造成的潜在威胁,以及预测、预防和减少这些威胁的方法。

牛津大学召开了一次为期两天的研讨会。来自人工智能、无人机、网络安全、自主武器系统、反恐等领域的众多专家共同探究了伴随着人工智能的发展可能带来的安全问题。时过一年,OpenAI、牛津大学、剑桥大学等14家机构和高校于2018年2月底联合发布《人工智能恶意使用:预测、预防和缓解》,该报告指出人工智能和机器学习技术正以前所未有的速度发展,这些技术在机器翻译、医学图像处理等领域有着广泛的应用前景,在未来很长一段时间内,基于这些技术所开发出的应用程序也会越来越多。然而,很少有人会注意到这些技术会被恶意使用。研究人员调查了恶意应用人工智能技术会造成的潜在威胁,以及预测、预防和减少这些威胁的方法,同时,还展示了如果防御不当的话可能会遭受到的攻击。

1 威胁变化

随着人工智能技术变得越强大,应用范围越来越广泛,报告指出人工智能技术可能造成的威胁变化包括:

(1)现有威胁范围会扩大

随着AI技术越来越多的应用于依赖人力、智力和专业知识的领域,攻击的成本也会变得越来越低,从而会产生更多的攻击者,攻击的速度和潜在攻击目标的数量也会提升。

(2)产生新的威胁

AI技术可能会完成人类黑客无法完成的攻击任务,此外,AI更容易发现和利用安全维护人员所部署的AI系统的漏洞进行新的攻击。

(3)安全威胁的典型特征会发生改变

随着AI技术的使用越来越频繁,AI攻击会变得越来越高效、攻击目标会越来越明确,攻击属性会越来越难以确定。这将在很大程度上改变传统网络安全的典型特征。

2 特定领域分析

该报告还分析了三个领域所面临的威胁,并通过实例给予展示:

(1)数字安全领域

传统网络攻击的规模和效率往往呈现此消彼长的态势,但使用人工智能自动执行网络攻击将会实现攻击规模与效率的平衡,这可能会扩大劳动密集型网络攻击(如鱼叉式钓鱼攻击)的规模。新型的攻击还有可能利用人类弱点(如使用语音合成冒充人类)、现有软件漏洞(如通过自动黑客攻击)或AI系统的漏洞(如对抗性实例和数据中毒)等。

(2)物理安全领域

使用人工智能自动执行与无人机和其他物理系统(如自主武器系统的部署)攻击有关的任务可能会增加与这些攻击相关的威胁。新型的攻击可能会破坏网络物理系统(如造成自动驾驶系统的崩溃)或者造成远程控制系统失灵(如影响无人机系统)。

(3)政治安全领域

使用人工智能自动执行监视任务(如数据的分析)、宣传任务(如针对性的宣传)以及欺骗任务(如操纵视频)可能会扩大与隐私侵入和社交操纵有关的威胁。新型的攻击可能会通过大量收集的数据分析公民的行为、情感和信仰,这些将会对专制国家带来很大的威胁,但不可否认也将威胁民主国家(例如能否维持公开辩论的真实性)。

3 高级建议和干预措施

为了应对不断变化的威胁情况,该报告提出了四项高级建议:

(1)政府相关负责人应该与技术研究人员密切合作,调查、预防和减少人工智能潜在的恶意用途。(2)人工智能领域的研究人员需要重视他们研究内容的双重实用性所产生的积极或消极影响,在研究过程中时刻留意研究成果被错误使用的可能性,同时在预见到研究成果将会产生有害作用是主动与相关人员合作解决。(3)由于人工智能技术的双重实用性,在进行相关研究时应该采用更加成熟的技术手段,例如借鉴网络安全防护领域的成熟地方法。(4)联合更多的业界相关人员和领域专家,共同讨论面对这些挑战的解决措施。

更多干预措施建议包括:

(1)学习网络安全领域相关经验:由于网络安全和人工智能攻击存在交集,需要研究并尝试使用形式验证方式、公开人工智能漏洞、安全工具和硬件等。(2)探索不同的开放模式:由于人工智能和机器学习技术的双重实用性变得越来越明显,围绕开放性研究重新设置规范制度变得越来越重要。在重要技术发布之前需要进行严格的风险评估,并采用有利于安全保障的中心准入制度和共享模式。(3)形成责任文化:人工智能研究人员和其雇佣单位在塑造人工智能世界的安全环境方面处于独特的地位。因此需要强调教育、道德和标准约束的重要性。(4)制定技术和政策解决方案:一些有前景的技术和政策干预措施有助于建立更安全的未来人工智能环境。这些更高级的领域包括隐私保护、人工智能在公共安全领域的应用、人工智能资源的监控以及立法和监管政策等。

原文发布于微信公众号 - 人工智能快报(AI_News)

原文发表时间:2018-04-11

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏人称T客

T客汇:《云计算中国市场实践专题研究报告》之《零售业篇》

T客汇官网:tikehui 撰文 | T客汇 本研究报告通过对国内云计算市场发展的背景和企业用户的实践情况作出梳理,初步理清了目前企业用户实践云计算的驱动力、遇...

2584
来自专栏腾讯云智慧零售

林璟骅:零售品牌怎样拥抱第三次数字化机遇

零售可以不必局限于特定时间和空间,而是透过互联网工具的连接,让客户离开了原店之后可以继续完成会员转化和交易行为,这是我们定义的智慧。 10月11日,腾讯集团副...

2083
来自专栏数据猿

智能制造:有大数据不一定能成,但没有一定不能成

数据猿导读 一份来自麦肯锡的调查报告显示,制造企业在利用大数据技术后,其生产成本能够降低10%—15%,大数据对于工业企业的重要性不言而喻。不同层面的制造企业在...

27610
来自专栏企鹅号快讯

浅析大数据如何助力制造业智能化

在《中国制造2025》行动纲要中,明确指出:促进工业互联网、云计算、大数据在企业研发设计、生产制造、经营管理、销售服务等全流程和全产业链的综合集成应用。加强智能...

2277
来自专栏企鹅号快讯

Gartner预测:2025年,人工智能将创造200万个新增就业机会

对于与人工智能(AI)有关的就业动态来讲,2020年将是极其重要的一年,人工智能将带动整体工作机会的正增长。 受人工智能影响的工作数量将因产业而异;2019年时...

2325
来自专栏新智元

IDC | 2016 数字化转型十大预测

作者:David H.Deans是GeoActive小组的创立者,技术、媒体、电信分析师,顾问,专栏作家,数字化多平台的实践家。 你的老板有对于2016年有伟...

2715
来自专栏镁客网

镁伽机器人黄瑜清:有需求没供给,协作机器人市场存在“两极现象” | 镁客请讲

1490
来自专栏灯塔大数据

荐读|知道未来的8个趋势,让你少奋斗10年

每件新事物的兴起的时候,或者一个新的时代将要到来的时候,总会有很小的部分人会提前觉察到,进而引领着这个新事物或者新时代的发展,这样的人不多,大概只有2%。 还有...

2604
来自专栏腾讯云智慧零售

腾讯工具箱跟零售商有哪些化学反应?看这四个数字就知道了!

5月24日下午,在2018云+未来峰会智慧零售分论坛现场,腾讯公司副总裁林璟骅提出了智慧零售的“1个中心,2个目标,3个要素以及7个数字化工具”,将腾讯智慧零售...

3961
来自专栏腾讯云智慧零售

腾讯工具箱跟零售商有哪些化学反应?看这四个数字就知道了!

5月24日下午,在2018云+未来峰会智慧零售分论坛现场,腾讯公司副总裁林璟骅提出了智慧零售的“1个中心,2个目标,3个要素以及7个数字化工具”,将腾讯智慧零...

1152

扫码关注云+社区

领取腾讯云代金券