专栏首页量子位不造AI杀人武器当然好,但牛津学者觉得马斯克们忽略了重点

不造AI杀人武器当然好,但牛津学者觉得马斯克们忽略了重点

圆栗子 发自 凹非寺 量子位 出品 | 公众号 QbitAI

上个星期,马斯克 (Elon Musk) 刚刚带领一众AI专家,签订了一份承诺书。

内容是,永不开发自主杀人武器 (Lethal Autonomous Weapon Systems)。

理由有二。一,不该把生杀大权交给机器。二,致命AI武器的存在,会让国家和个人承受危险的动荡。

意图自然是好的,但牛津大学的学者Mariarosaria Taddeo (简称玛利亚) 说,他们忽略了一个重点

而且,把万众目光集中在“AI杀手”上,人们就更难注意到那个重点了。

表面“静止”

智能机器人统治世界,支配人类,这样的极端场景,的确非常吸引眼球。

但那并不是AI技术唯一的隐患。

美军曾经把AI分成两种:一是移动的 (AI in Motion) ,二是静止的 (AI at Rest) 。

前者表示依托于实体机器人的AI,后者表示仅仅存在于软件系统的AI。

美国海军有自动驾驶的军舰,以色列有自主识别、打自主击目标的无人机,这些军用设备里的AI,是移动型。

但战争并非只有硬碰硬,比如,网络世界 (Cyber Space) 就从不和平。

玛利亚觉得,后者才更需要重视,“静止”也不代表不危险

暗潮汹涌

网络世界里,大大小小的国际争端,可能每天都在发生。

今年3月,美国谴责了俄罗斯,说对方几个月来,一直攻击美国关键的基础设施

这样的话,事情就不像WannaCry抢比特币那样简单。

如果,有人能利用AI,造成全国范围的停电,或者供暖系统瘫痪,就可能导致非常严重的后果。

停电不是小事

虽然,还没有发现AI直接造成物理伤害的事件,但不代表以后也不会有。毕竟,AI正在飞速普及。

玛利亚说,社会的运转越依赖AI,系统之间的冲突越可能带来物理伤害。

AI与AI之间,有了自主打击、自主防御行为,就算没有实体机器人,局面还是可能失控。

一线之隔

现在,许多国家都在建立自己的AI网络防线。

玛利亚说,“网络军备竞赛 (Cyber Arms Race) ”可能就要开始了。

可是,防御与攻击,仅一线之隔

现在,国际上依然没有法规,能够规范网络防御 (Cyberdefence) 行为。

早在2004年,联合国就成立了信息安全政府专家组 (Group of Governmental Experts on Information Security) ,目的便是达成共识,用统一的法条来规范各国在网络空间里的行为。

然而,会开了很多次,共识到今天都没有达成。

今年4月,玛利亚的一篇文章在Nature上发表。她写道,网络防御要三步走——

第一步,划定法律界限。

第二步,在友好邦国之间,测试防御策略。

第三步,建立监管机制,强化法规执行。

她给每一步,都描绘了一些合理的设想。

不过,还不知道这个世界,哪天能走出第一步。

Nature文章传送门: https://www.nature.com/magazine-assets/d41586-018-04602-6/d41586-018-04602-6.pdf

本文分享自微信公众号 - 量子位(QbitAI)

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2018-07-24

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 从AI打王者荣耀到自动驾驶,高通一口气公布了5G+AI未来的无数种可能

    孟樸认为,2019年是5G元年,而且5G展开的速度比4G要快得多。今年已经有20多家运营商将开始部署5G网络,还有20多家OEM厂商将推出5G终端设备。

    量子位
  • AI全面超越人类还需多少年?352名专家预测(附论文)

    安妮 编译整理自Inverse 量子位出品 | 公众号 QbitAI ? 展望未来,AI可以在10年后模仿出斯威夫特的歌曲,37年后可以代替人类进行手术,86年...

    量子位
  • 商汤组了「最强大脑」局,正儿八经解释为啥搞起电竞AI

    许多现实生活中的 AI 应用,都涉及到多个智能体在复杂环境中的相互竞争和协调合作。

    量子位
  • 奥巴马的经济顾问说:现在AI对经济没什么影响,对就业率也没什么影响

    量子位
  • 全新DPU处理器三年算力跨千倍,你的AI还能跟上么?

    第二波驱动力来自乔布斯的智能手机和4G,今天全球已有30多亿人通过多点触摸的方式连上了移动互联网。

    新智元
  • 【福布斯】O‘reilly人工智能大会,LeCun 等解读人工智能12大痛点

    【新智元导读】如今人工智能发展到底处于何种状态,面临哪些难点,未来发展潜力如何?参加了O‘reilly人工智能大会的行业专家Gll Press带来了他的12个观...

    新智元
  • 2017 年关于 AI 的九项预测

    T客汇官网:tikehui.com 译者| 徐婧欣 ? AI 算是 2016 年的一个热点,并且热度在短期内并不会消散。投资、收购、尝试、重组和突破使 AI 产...

    人称T客
  • 【调查】The State of AI:关于人工智能的 6 大真相

    【新智元导读】柏林一家AI初创公司Explosion AI最近做了一份针对AI当前状态的调查(The State of AI),调查对象面向AI从业人员,调查的...

    新智元
  • 我从吴恩达AI For Everyone中学到的十个重要AI观

    曾经领导Google Brain 的吴恩达教授公开的Coursera 课程:AI For Everyone[1]非常有意义。这堂课不谈技术术语,专注在与非技术人...

    kaiyuan
  • CCAI 2020 | 探秘AI的未来:对话Yolanda Gil

    2020年中国人工智能大会(Chinese Congress on Artificial Intelligence 2020,简称“CCAI 2020”)将于8...

    马上科普尚尚

扫码关注云+社区

领取腾讯云代金券