专栏首页CDA数据分析师牛津、剑桥等专家联合发布报告:警惕AI在未来的恶意使用

牛津、剑桥等专家联合发布报告:警惕AI在未来的恶意使用

作者 James Vincent

编译 Mika

当谈到人工智能所带来的危险,我们通常强调的是意想不到的副作用。我们担心可能在无意间创造了超级智能AI,但在编程中没有加入道德约束; 或者我们部署了刑事判决算法,这些算法包括了训练数据的偏见。

但这只是一方面。

但是那些想把AI用于不道德行为、犯罪或恶意目的的人呢?这些人群是否更有可能利用AI进行恶意攻击?

来自牛津大学的人类未来研究所、剑桥大学的潜在风险研究中心和Elon Musk支持的非营利性OpenAI十四家组织机构的二十六名专家认为,以上两个问题的答案是肯定的。

在上周发布的《人工智能的恶意使用:预测、预防和缓解》(The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation)的报告中,这些学者和研究人员列举了在未来5年内AI可能给我们生活带来危害的方式,以及能够阻止这些危害的方法。虽然AI给人们带来新型的攻击,该报告的合著者,来自人类未来研究所的Miles Brundage认为,我们并不该感到恐慌或放弃希望。

“我倾向于保持乐观,我们可以采取许多措施,”Brundage认为。“这篇报告的目的并不是描述未来惨淡的前景,而意味着我们可以采取大量防御措施,并且还有很多需要学习的东西。我并不认为这是没有希望的,这篇报告更像是倡导书。”

近100页的报告内容广泛,当中重点介绍了AI将加剧数字、物理安全系统的威胁,以及创造新型危险的方式。还阐述了解决这些问题的五条建议:包括让AI工程师了解他们研究中可能存在的恶意使用; 启动政策制定者和学者之间的交流对话,避免政府和执法机构对此一无所知。

AI将减少威胁成本

其中最主要的威胁在于:AI能够让需要人工完成的任务自动化,从而大大减少攻击成本。

比如,钓鱼攻击,即某人发送其中特别设计的信息,诱使他人放弃安全凭证(比如冒充银行的电子邮件)。当中的大部分工作可以由AI自动完成,映射出个人的社交和专业网络,然后生成消息。比如通过创建聊天机器人冒充好友,向你索要邮箱密码等。

这种攻击听起来很复杂,但一旦你创建了这些软件,那么就可以反复使用,而不需要额外成本。钓鱼邮件已经带来了足够的危害,比如2014年好莱坞名人iCloud照片泄露事件,以及希拉里克林顿的竞选主席John Podesta私人邮件的泄露事件。

AI将增加威胁的新维度

第二大要点是,AI会为现有威胁增加新的维度

比如在钓鱼攻击中,AI不仅可用于生邮件和短信,还可以用来伪造音频和视频。AI可以通过几分钟的语音来模拟目标人物的声音,甚至生成虚假的视频。这种新型的威胁形式将在未来五年成为不可忽视的问题。

AI将带来的全新威胁

最后,报告介绍了AI带来的全新威胁。当中列出了一些可能出现的场景,比如恐怖分子将植入炸弹的清洁机器人带入政府部门。机器人利用内置的视觉感应系统追踪特定的目标,当靠近目标时炸弹引爆。这利用了AI的新产品(清洁机器人)和其自主功能(机器视觉追踪)。

这些情景听起来似乎有些不切实际,但我们已经目睹了利用AI进行的新型攻击。比如用deepfakes用深度学习技术,在未经同意的情况下所合成将名人的脸合成到色情视频中。虽然目前还未出现引人注目的案例,但不法分子可以利用这种方式进行骚扰和勒索。

我们能做什么

报告中的这些例子让你不禁思考:我们能做什么?

报告中提出了五个主要建议:

· AI人员应该告知研究中可能被恶意使用的情况;

· 决策者需要向技术专家了解这些潜在威胁;

· AI领域需要向网络安全专家学习如何更好地进行系统保护;

· 需要制定AI的道德伦理框架,并严格遵循;

· 需要有更多的人的参与。不仅仅是AI科学家和决策者,还包括伦理学家,企业和普通大众。

换句话说:我们需要更多的交流以及更多的行动。

本文分享自微信公众号 - CDA数据分析师(cdacdacda),作者:CDA数据分析师

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2018-02-27

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 在追赶AI浪潮时髦之前,要先问自己三个问题

    稍微有点想法的公司不是已经部署了AI项目就是在部署AI项目的路上。确实,在全面商业化的今天,这种激情促进了人工智能的普及,也在一定程度上降低了企业的成本,提高效...

    CDA数据分析师
  • 一文看懂70年的人工智能进化简史

    这篇AI“图文简史”涵盖了AI从概念起源到诞生、发展过程中的重要里程碑和技术节点,对AI技术的主要分类方式和重要技术应用方向。70年AI发展史,一文纵览。

    CDA数据分析师
  • 斯坦福重磅发布 丨AI 指数年度报告丨附报告下载

    ? 斯坦福大学近日重磅发布了 AI 指数 2017 年度报告,从学术、产业、技术等多个角度盘点了 AI 领域的动态和进度。 毋庸置疑 ,AI 是近年来的行业...

    CDA数据分析师
  • 埃森哲最新报告:到2035年,AI 会让12个发达国家经济增长率翻一倍

    【新智元导读】国际著名市场调查公司埃森哲(Accenture)对12个发达国家经济中AI所发挥的影响进行研究,发现到2035年,通过改变工作属性并创造新型的人机...

    新智元
  • 人工智能的革命:通向超级智能之路(上)

    Peter Lu
  • 疯狂刷屏你朋友圈的超级AI梗,你真的看懂了么?

    VRPinea
  • 基于图像识别的AI自动化测试框架:GAME AI SDK平台解析

    导语 | GAME AI SDK 是腾讯 TuringLab 研发的首个开源项目,着重解决自动化测试工具中的通用性问题,最初主要用于游戏 AI 自动化测试服务,...

    腾小云
  • 2017年七大 AI 趋势观察

    用户1737318
  • 为什么AI人才这么贵、需求这么迫切?

    用户1737318
  • 腾讯绝悟AI完全体限时开放体验,研究登上国际顶会与顶刊

    感谢阅读腾讯AI Lab微信号第112篇文章。本文将介绍绝悟 AI 完全体升级版本的技术方法,也欢迎读者到王者荣耀 app 亲身体验其技术实力。 腾讯 AI ...

    腾讯技术工程官方号

扫码关注云+社区

领取腾讯云代金券