决不允许AI杀人武器研发!马斯克领衔2400名科学家签署联名宣言

允中 发自 凹非寺 量子位 报道 | 公众号 QbitAI

从产能“地狱”归来的马斯克,刚刚领衔2000多名AI专家签署了一份特殊协议。

这份协议核心目的有且只有一个:承诺永不发展致命的AI武器系统。

在瑞典斯德哥尔摩举行的IJCAL 2018上,由MIT著名物理学家Max Tegmark发起,其任职主席的生命未来研究所(Future of Life Institute,FLI)起草,该协议一经发出就应者如云。

包含企业领域的马斯克、DeepMind联合创始人哈萨比斯、穆斯塔法,Shane Legg;Skype创始人Jaan Tallinn;全球顶尖AI学者Yoshua Bengio、Stuart Russell、Jürgen Schmidhuber等2400全球AI科学家,都郑重签下了大名。

就国籍和企业归属而言,他们分属90个国家、160多家AI企业或机构。

这也是全球首个AI武器系统开发的民间反对组织,不出意外,也将是影响力最大的一个。

《致命性自主武器宣言》

这份协议全称《致命性自主武器宣言》(lethal autonomous weapons pledge),核心内容就是宣誓不参与致命性自主武器系统(LAWS)的开发、研制工作,而且LAWS的研发及使用应当被严格禁止。

宣言称:人类个体生死的决定权,决不能交给机器。这一方面是出于道德层面的考虑,“掌控他人生死”这件让人产生负罪感的事,绝不能由没有感情的机器做出。

而且致命的AI武器,不受人类干涉、自主选择攻击目标,可归责性与难度都前所未有,它们将成为暴力活动中的强大工具,尤其是与监控、数据系统相结合时。

宣言还强调:致命性自主武器的特征不同于核武器、化学武器及生物武器,研发团队可以单方开启军备竞赛,而国际社会缺乏实行管制的技术手段。谴责并避免这场军备竞赛,是维护全球安全的优先考虑事项。

所以今日签署之协议,也是呼吁各国政府及首脑为了地球的未来,共同商议抵制LAWS的国际规范、法律。

“我们这些未参与LAWS的人,需要以更高标准要求自己:我们绝不参与或支持LAWS的发展、生产、贸易与使用。我们呼吁科技企业、组织及其领袖、决策者与其他民众,共同履行该承诺。”

军方加速、学界反对、企业夹心

AI致命的话题,早已不新鲜。

在AI的所有应用场景中,这是最具争议的一个,而且由于不同组织怀抱不同利益诉求,状态非常尴尬。

在军方,自主武器从2013年开始就开始在美国、英国、以色列和韩国等军方实验室中诞生。

区别于其他武器,致命性自主武器,能够在无人控制情况下,自主完成寻找目标、定位、击杀敌人这一整套工作,而AI系统和技术应用,是这些武器最强大的“驱动力”。

一旦将这些武器派上战场,它们就能自主辨别敌人并给出致命一击,没有情感,没有更多判断,人类的生死权,在机器眼里就是二元的“敌人=死亡”。

然而硬币另一面,这些武器也不是没有可能落入反派之手,或者被恶意指定攻击目标,结果也就不堪设想。

于是从AI致命武器出现开始,舆论反对的声音就未曾停歇。

在科学界,斯蒂芬-霍金、马斯克等知名人士早在2015年就联合千余名AI学者、科学家等向联合国提交过联名公开信,警示AI致命武器潜在风险,以及正在发生的军备竞赛,呼吁颁布相关禁令。

目前为止也有了一些初步结果。在2016年联合国《常规武器公约》审议大会上,AI致命武器首次被纳入讨论范围。

其后今年4月举行的最近一次会议上,包括中国在内的26国发表联合声明,支持对AI致命武器颁布禁令。

这一禁令已有先例:此前,出于人道、伦理原因及潜在的危害性,联合国已经对生物武器、化学武器及太空武器颁布禁令。

但是,正式的AI致命武器国际公约,现在仍未达成共识。

而且还将不少企业拖入军方和科研拉锯战的夹心层中。

今年4月,先是韩国国防公司Hanwha Systems和韩国科学技术院联合建立国防和AI融合研究中心,遭遇全球50多名AI知名学者联名抵制。

其后谷歌AI参与美国国防部的MAVEN军事计划曝光,一时让这家“人类希望”公司内外交困,几乎被骂成“筛子”,3000多名员工联名抗议,不少员工选择离职。

最后在遭受猛烈抨击之后,谷歌推出了新准则,作为公司研发AI技术的道德指导。

准则中称,不会将人工智能设计或应用于武器、监视或“其目的违反了广为接受的国际法和人权准则”的技术。

然而谷歌并非个例。微软、亚马逊等巨头与政府相关的AI合作也相继被曝光,在运用人脸识别进行身份监控等问题上,舆论、股东和员工抗议始终没有停止。

还可以肯定的是,随着AI技术的进一步成熟和各领域应用,权力所求、利欲熏心,争议必然还会始终存在。

视频内容

AI杀人武器模拟

最后,放一段最近很火的视频。

艺术家Alexander Reben最近放出了一段视频,也许这可以看成是行为艺术吧。

在这段30秒的视频里,Reben没有动手,但是语音发出了一个命令:“OK Google,开枪”。

不到一秒的转瞬之间,Google Assistant人工智能助手,扣动了一部手枪的扳机,击倒了一颗红苹果。随即,蜂鸣器发出刺耳的嗡嗡声。

嗡嗡声持久不绝。

到底是谁开了枪?

在这个案例中,Reben告诉AI开枪。Engadget在报道中说,如果AI足够智能以预测我们的需求,或许有一天AI会主动除掉那些让我们不开心的人。

Reben说,讨论这样一个装置,比是否存在这样一个装置更重要。

作者系网易新闻·网易号“各有态度”签约作者

原文发布于微信公众号 - 量子位(QbitAI)

原文发表时间:2018-07-19

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏机器人网

揭秘大疆创新:极客与“硬球”

开启了个人电脑时代的传奇极客——苹果公司联合创始人沃兹尼亚克,在给极客公园创始人张鹏的邮件中兴奋的讲述了一大段自己与 DJI 的四轴无人飞行器 Phantom ...

35680
来自专栏腾讯研究院的专栏

斯坦福演讲视频曝光,创始人陈一丹直言腾讯面临两大挑战

  腾讯创始人陈一丹几天前在斯坦福大学演讲原始视频曝光了!身藏美国的腾讯CXO(首席探索官)网大为(David Wallerstein)现身助阵!短短一个小时...

30330
来自专栏腾讯技术工程官方号的专栏

周末荐

26830
来自专栏新智元

【达沃斯论AI】李飞飞推特评会议科技含金量不高;马云:AI是人类威胁

作者:闻菲 弗朗西斯 张乾 【新智元导读】第48届世界经济论坛年会于1月23日至26日在瑞士达沃斯召开。各国政要、企业领袖、科学家们齐聚阿尔卑斯山下雪镇,今年,...

31250
来自专栏机器之心

现场报道 | 联合国召开首次人工智能峰会:让AI助力17个可持续发展目标

机器之心原创 记者:李九喻 参与:吴攀、李泽南 今天,人工智能的重要性不言而喻。虽然在过去,技术的发展方向是由市场决定的,但对于人工智能来说,社会需要事先考虑规...

37550
来自专栏专注研发

移动互联网10年,传奇一直在发生

一位记者问:“这都是哪请来的托,太敬业了!”工作人员只得实话实说:“都是自己来的,我们也没想到。”

20520
来自专栏科技向令说

响铃:新零售迷上了形象类IP,搭便车,还是打错了车?

“这个世界上本来不存在新零售,新零售是靠人创造出来的,今天我们正在走这条路的过程当中。给任何深入浅出定性的描述都是不完整的,最终都要靠实践不断地去探索。

10520
来自专栏罗超频道

为什么中国互联网公司爱作恶?

众所周知,Google企业文化是“不作恶(Don’t be evil)”,这是Google在1999年提出的非正式口号,是保留至今成为企业文化和行为准则。200...

29860
来自专栏科技向令说

响铃:淘品牌后生存时代,除了“绑架”网红还该干啥?

如今的电商已是个传统行业,依托淘宝商城成长起来的那些淘品牌依次上演了各自的兴亡记,如初裂帛并购天使之城,森马20亿元收购GXG,更多的如麦包包、绿盒子、芳草集等...

9330
来自专栏deed博客

解读中国在线视频史上的四次结盟

16360

扫码关注云+社区

领取腾讯云代金券