美俄坚决反对！联合国全面禁止AI自主武器正式谈判无果而终！

新智元报道

来源：politico.eu、nypost.com

编辑：大明

【新智元导读】由于美俄等大国的阻挠，联合国日内瓦会议未能就全面禁止AI驱动的“完全自主武器”举行正式谈判，会议只达成了一系列非约束性的文件，目前，全面禁止AI杀人武器仍然任重而道远。

日前，在为期一周的日内瓦首脑会议上，联合国常规武器公约（CCW）的一个小组讨论了是否就AI驱动的完全自主武器问题展开正式谈判，制定一个禁止AI驱动的完全自主武器的条约。

但是，最终参与国只是达成了一系列非约束性建议，对是否继续进行正式谈判的问题避而不谈。

“阻止杀手机器人运动”协调员Mary Wareham表示，反对将该问题付诸正式谈判的主要国家包括俄罗斯，美国，韩国，以色列和澳大利亚等国。

“这当然是令人失望的，少数大型军事强国就可以阻碍多数人的意志。”她说。

Mary Wareham所在团体代表了32个国家的75个非政府组织，他们正在争取禁止完全使用人工智能技术确定攻击目标的武器。该组织表示，现在有26个国家支持全面禁止这些武器，理由是其违反了人权标准。

在整个会议期间，有许多国家再次呼吁对此加强监管，推动联合国明年开始正式谈判。

本次日内瓦会议期间在会场外示威的抗议者

这样做将成为约束国际规则的下一步，但禁令的反对者坚定不移。会议结束时发表的文件中只是建议继续进行非约束性的会谈。

“现在看来，任何一个国家都可以阻碍任何进展，目前情况就是如此。”韦勒姆说。

世界各地的军队和武器制造商正在对AI驱动的“杀手机器人”展开测试，这种机器人很快就能以低成本的优势超越现有的部分军事技术。

2013年底，联合国将该议题列入议程，但此后几乎没有什么进展。联合国各国甚至无法就“完全自主致命武器”的定义达成一致意见。与此同时，专家表示，各国在谈判桌上的立场变得更加强硬了。

慕尼黑联邦国防军大学的自动武器专家Frank Sauer说：“在这个问题上，持不同立场的各国之间的分歧越来越大，从本周的谈判中就能看出这一点。”

各国计划于11月在日内瓦再次举行会议继续讨论这一问题。

马斯克、哈萨比斯等2000多学者签署宣言：决不允许杀人机器人出现！

不过，与联合国的政治家们对此事的暧昧态度相比，AI领域的科学家和企业家们的态度则鲜明得多：决不允许“杀人机器人”出现！

今年7月，来自数百家公司的2000多名科学家，其中许多是机器人和人工智能领域的著名的研究人员和工程师，联名签署宣言，誓言绝不将他们的技能用于开发自主杀人机器。新智元对此曾做了详尽报道：点击阅读

这场宣誓行动由总部位于波士顿的非盈利组织未来生命研究所（Future of Life Institute）发起，来自36个国家的多达160个人工智能相关的公司、覆盖90个国家的2400名个人签署了宣言，他们承诺：

在世界上的任何一个国家，自主武器都对公民构成了“明显而现实的危险”，他们“绝不参与自主武器的开发”。

签署之一承诺的著名人士还包括顶尖的人工智能研究人员Demis Hassabis、Stuart Russell、Yoshua Bengio、Anca Dragan、Toby Walsh以及特斯拉和SpaceX的创始人伊隆·马斯克。

泰格马克教授

这场宣誓行动由泰格马克创办的未来生命研究所发起。今年9月20日，新智元AI WORLD 2018大会有幸邀请到泰格马克教授作为演讲嘉宾，他将带来对AI和生命的最新观点，相信也定将给中国产业界带来极大启发，让更多中国人思考自己的命运，思考这个世界未来的命运。

国内学者也曾参与禁止研发自主武器，周志华展望中国AI原生创新和重大理论突破方向

AI界对全自主武器的担忧一直存在。今年4月，Hinton、Bengio、Jürgen Schmidhuber、Stuart Russell等50多名学者联名向韩国KAIST发出公开信：停止研发全自主武器！

其中，南京大学的周志华教授作为发起人邀请的唯一来自中国大陆的学者，也签署了这封公开信。

周志华教授

作为全部学位均在中国内地获得的学者，AI领域会士“大满贯”得主，AAAI 2019程序主席、IJCAI 2021程序主席，周志华教授可以说是华人AI界最受关注的研究者之一。

在他的带领下，南京大学LAMDA发表了众多优秀论文和技术成果，周志华教授本人提出的“深度森林”也成为AI学界关注的热点。在深度学习狂热的鼎盛时期，周志华教授清醒地意识到深度学习的局限，开始探索深度神经网络以外的方法，充分展现了中国AI学界对原创理论的探索和追求。

2018年伊始，周志华教授出任南京大学计算机科学与技术系主任，3月，南大宣布成立人工智能学院，由周志华教授担任院长，致力于建设一流的AI基础研究和人才培养基地，形成基础研究、人才培养、产业创新协同发展的态势。

产学研深度有机融合是AI产业发展的必然趋势，在中国AI产业发展的关键时间点，在深度学习理论突破和创新需求愈发迫切的2018年，周志华教授如何看待AI理论和技术发展的痛点与关键？如何推动AI的产学研综合发展？