业界 | 千人签署阻止「杀人机器」承诺,马斯克、哈萨比斯位列其中

选自Guardian

作者:Ian Sample

机器之心编辑部

在斯德哥尔摩举行的 IJCAI 2018 大会上,众多学者与从业者们共同签署了阻止致命性人工智能武器的承诺,Google DeepMind 的联合创始人丹尼斯·哈萨比斯和 SpaceX 的首席执行官埃隆·马斯克位列其中。该承诺誓言:绝不将人工智能技术应用于自主杀人机器的研发。

一名男子在武器交易会上走过武装机器人系统。摄影:Brendan Smialowski/ Bloomberg /Getty Images

数千名专门从事人工智能(AI)的科学家宣称,他们将不参与开发或制造能够在无人监督的情况下识别和攻击人类的机器人。

Google DeepMind 公司的丹尼斯·哈萨比斯和美国火箭公司 SpaceX 的埃隆·马斯克与 2400 多人和 170 多个组织共同签署了一项承诺书,旨在阻止军事公司和各个国家建立致命性自主武器系统。签署协议的其他人包括 Yoshua Bengio、Jeff Dean、Stuart Russell 等人;而 UCL、NNAISENSE 和 ElementAI 等大学和研究机构也位列其中。

完整名单:https://futureoflife.org/lethal-autonomous-weapons-pledge/?cn-reloaded=1&cn-reloaded=1

此举是相关科学家和组织的最新举措,旨在强调将生死交付给 AI 机器是极度危险的事情。接下来是呼吁颁布技术禁令,参与此活动的人认为,AI 技术可能会导致新一代大规模杀伤性武器的出现。

该承诺书由总部位于波士顿的未来生命研究所精心策划,要求各国政府商定规范、法律和法规,以有效扼制杀人机器人的发展。在今天没有此类措施的情况下,签署方承诺「既不参与也不支持致命性自主武器的研发、制造、交易或使用。」今天斯德哥尔摩的人工智能联合会议(IJCAI)宣布,超过 150 个与 AI 相关的公司和组织在此承诺书中签署了他们的名字。

来自蒙特利尔算法学习研究所的 AI 先驱 Yoshua Bengio 告诉《卫报》,如果这项承诺能够让那些制造自主武器的公司和军事组织自惭形秽,舆论也不会倾向于他们。他说:「尽管美国等主要国家没有签署禁雷条约,但由于国际条约和公众的约束,这种做法实际上在禁雷上已起到作用。美国公司已经停止制造地雷。」Bengio 签署了承诺书,表示会「强烈关注致命性自主武器。」

军方是人工智能技术的最大资助者和采纳者之一。有了先进的计算机系统,机器人可以在敌方领域执行任务,在地面导航,在海底巡逻。更先进的武器系统正在酝酿中。周一,英国国防部长 Gavin Williamson 公布了一项 20 亿英镑的新皇家空军战斗机计划——Tempest,使战斗机不需要飞行员操控。承诺书签署者呼吁各国政府采取更多措施,规范和限制这种自主杀人机器的使用,担心各国将展开一场失控并威胁世界稳定的军备竞赛。他们警告说,自主杀人机器可能比「核生化武器」更加危险,因为军备竞赛很容易失控,脱离国际组织的管理。他们指出,政府监管还不够完善,无法应对如此严重的威胁。

对于许多研究人员来说,让机器决定人的生死跨越了道德底线。

英国的部长们表示,英国不会发展致命性自动武器系统,其部队将始终监督、控制其部署的武器。但活动人士警告说,人工智能和其他领域的迅速发展意味着,人类现在可以制造未经人类同意就自主识别、跟踪和射击人类目标的尖端武器。对于许多研究人员来说,让机器决定人的生死跨越了道德底线。

「我们需要创造一项国际惯例,拒绝接受自动武器。」悉尼新南威尔士大学(University of New South)的人工智能教授 Toby Walsh 在承诺书上签了字,他说:「人必须永远遵守这项惯例」。

他补充说:「「我们不能阻止意志坚定的人制造自动武器,就像我们不能阻止意志坚定的人制造化学武器一样。」但如果我们不希望无赖国家或恐怖分子轻易就能获得自动武器,我们必须确保武器公司不公开出售这些武器。」

研究人员可以选择不做自主武器研究,但其他人如何利用他们的研究突破就不在他们的控制范围之内了。兰开斯特大学(Lancaster University)科学与技术人类学教授 Lucy Suchman 也签署了这份承诺书,他指出,虽然研究人员无法决定别人如何利用他们的研究成果,但如果他们对该技术抱有疑虑时,他们可以介入并干预。

她说:「如果我是一名签署了承诺书的机器视觉研究人员,我会首先承诺追踪自己所研发技术的后续用途,并公开反对将这些技术应用于自动化目标识别,其次拒绝直接协助将这些技术用于自动武器系统的研究,并拒绝为其提供建议。」

除了伦理问题之外,许多批评者担心这些武器还可能易受黑客攻击,最终进入黑市或落入 ISIS 等恐怖组织手中。

人工智能的发展引起了许多人的担忧,包括埃隆·马斯克。2017 年 9 月,马斯克发推特称人工智能可能引发第三次世界大战。此外,马斯克还敲响了人工智能的警钟,称未来几十年内,人工智能将「全面击败人类」,并称其为人类面临的「最大风险」。

原文链接:https://www.theguardian.com/science/2018/jul/18/thousands-of-scientists-pledge-not-to-help-build-killer-ai-robots

本文为机器之心编译,转载请联系本公众号获得授权。

原文发布于微信公众号 - 机器之心(almosthuman2014)

原文发表时间:2018-07-19

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏华章科技

李开复│百亿美元独角兽CEO的共同特点:偏执、强大、think big

在新京报“寻找中国创客第二季启动仪式,创新工厂创始人李开复在启动仪式上做了《我们应向硅谷学习什么》的导师致辞,他分享了和35位创业者CEO,通过参观美国硅谷科技...

623
来自专栏DT数据侠

用代码和数据改变世界,他们只需要48小时!

吃着披萨,唱着歌;打开电脑,玩代码。你还觉得做数据、玩编程的都是呆头呆脑的程序员?那你一定是没有参加过真正的极客派对——“黑客松” (Hackathon)。香槟...

1040
来自专栏AI科技评论

国际系统动力学协会年会 ISDC 2018 大会演讲回顾:如何改变行为方式以拯救地球?

AI 科技评论按:2018 年 8 月 3 日-10 日,国际系统动力学协会年会 ISDC(International System Dynamics Conf...

1192
来自专栏新智元

AI芯片年度最大融资,地平线将融资10亿美元!AI芯片学者地图出炉

据金融时报报道,AI芯片公司地平线正在进行新一轮融资,计划筹资最多达10亿美元,本轮融资估值在30亿至40亿美元之间,这次融资也成为中国新兴AI芯片领域最大的融...

1453
来自专栏大数据文摘

李开复:百亿美元独角兽CEO的共同特点就是偏执、强大、think big

862
来自专栏量子位

净利润大涨三倍、股价飙升,百度新上了一个秘密武器:强化学习

现在可以拿财报数据说话了。在这位集团总裁兼COO入职的第一个季度,百度当时的营收是169亿元、净利润17.77亿元,但12个月后,数据分别变成了209亿元和67...

913
来自专栏镁客网

严肃探讨:苹果万亿美金身家怎么花?

美东时间8月2日中午11点48分左右,苹果股价直抵207.05美元,成为了美国历史上首个市值突破1万亿美元的上市公司。

952
来自专栏互联网数据官iCDO

iCDO一周数据要闻:因“侮辱英烈”被约谈 抖音等五家公司暂停广告业务;Google推出多款广告产品新品牌;朋友圈广告升级

6月26日 腾讯霸占中国App Store畅销榜,五年半期间共76款App打入前十

975
来自专栏科技向令说

巨头争食下的互联网+体育,离成功还有多远?

在“互联网+”的推波助澜下,各个行业都在深度融合互联网,全面改造各自生态,沐浴在政策红利之中的体育产业,也在挖掘产业的巨大市场空间。随着以阿里、万达为首的巨头进...

952
来自专栏机器人网

机器人外骨骼将进入工业化时代,市场规模超10亿美元?

机器人外骨骼能使得人类跑得更快、跳的更高、更具攻击性,最开始主要应用在军事和医疗领域,随着技术的发展,机器人外骨骼已经开始进入工业领域,市场分析机构ARISPl...

4016

扫码关注云+社区

领取腾讯云代金券