周志华:为什么要抵制韩国大学研发自主武器

最近,韩国科学技术院大学(KAIST)因为与军工企业“韩华 Systems”合作研发自主武器,遭到来自全球20多个国家的50多名AI学者联名抵制,其中就包括南京大学计算机系主任、人工智能学院院长周志华教授。

昨天,周志华教授接受了新智元采访,他认为,KAIST的做法,其危险之处在于让机器自己去决定是否进行对人类的毁灭性打击,就像公开信中所说的:如果这样的武器开发出来,自主武器将导致战争的第三次革命,战争将比以往任何时候都更容易发生并且更残忍。

同时,周志华教授还认为,迄今为止主流人工智能领域的研究,都不支持让机器拥有自主意识。霍金等人所担忧的,实质上就是强人工智能。

周志华:自主武器和一般意义上的智能武器不是同一个概念

在公开信中,学者们提到,KAIST与韩国武器公司Hanwha Systems合作开设了“国防和人工智能融合研究中心”,据报道,该中心的目标是“开发应用于军事武器的人工智能(AI)技术,参与全球开发自主武器的竞争。”

周志华告诉新智元,大家反对 “autonomous weapons lacking meaningful human control”,即缺乏起码的人类控制的自主武器。“请注意’自主’,这和一般意义上的智能武器已经不是同一个概念。”

周志华说,一般的智能武器,或者叫“智能化武器”,其实早就有了,例如自动瞄准装置、导弹定位系统等等,但是最终做决定的都是人类。

而自主武器,是要把这个“决定权”交给机器,让机器自己去决定是否进行对人类的毁灭性打击,这太危险了。

正如公开信中所说:它们(自主武器)有可能成为恐怖分子的武器。暴君和恐怖分子可以利用它们对付无辜的人群,他们不会理会任何的道德限制。如果打开了这个潘多拉魔盒,将很难关闭。与过去禁用其他技术,例如禁用激光致盲武器(blinding lasers)一样,我们可以简单地决定不开发自主武器。我们敦促KAIST遵循这样的共识,致力于改善人们的生活,而不是伤害人的生命。

自主武器从伦理到理论上均不符合主流人工智能研究

周志华认为,自主武器首先在伦理上就是错误的。迄今主流人工智能领域的研究,都不支持让机器拥有自主意识。

《中国计算机学会通讯》今年初曾刊载周志华的《关于强人工智能》一文。在文中,周志华认为,强人工智能“不能做、不该做!”,并从技术上、研究方向上以及对人类的威胁上阐述研究人员不该碰触强人工智能的观点。

霍金、马斯克等人所担忧的“人工智能威胁人类”,实质上就是在担忧强人工智能。

其次,周志华认为,在理论体系上,从来就不是往“让机器做最终决定”这个方向去走的。

例如机器学习的理论基石、计算学习理论里面最基础的PAC模型,已经明确表明了我们所考虑的是“概率近似正确”,绝对不是考虑机器“绝对正确”,甚至连近似正确都仅是概率意义上的。所以整个领域研究的基础,都是考虑在给人提供辅助,让人类自己去做更明智的决策。没有技术能保障“自主”机器不犯下对人类毁灭性的错误。

Toby Walsh教授联系上周志华,多次呼吁禁止自主武器

周志华告诉新智元,KAIST的事情,是新南威尔士大学Toby Walsh教授找到他,问他是否反对,周志华回复说:当然反对。

“Toby说他在组织一个联名抗议活动,希望邀请各国/地区在国际人工智能界有声望的一两位学者加入,一起给KAIST施加压力,问我是否同意,我同意。”于是周志华就成了公开信中唯一一名署名的内地教授。

Toby Walsh教授是澳大利亚科学院院士、AAAI Fellow、欧洲人工智能协会Fellow,也是本次公开信的发起者。

Toby Walsh教授

4月5日,Toby Walsh教授在英国卫报上发表题为“It's not too late to save the world from killer robots”的文章,阐述禁止自主武器的重要性。

在文章中,Toby Walsh教授认为,与核武器不同的是,自主武器将是廉价且最终非常有效的武器,世界上的军火公司将会对每一场冲突的各方都出售自动武器。

自主武器超越了道德,它能够彻底消除人类,成为大规模杀伤性武器。而只需要一名程序员就能够完成以前由人类组成的军队,这就是为什么在发明了火药和核武器之后,自主武器被称为战争的第三次革命。

因此,Toby Walsh教授也是禁止自主武器的积极推动者。

去年IJCAI开幕式上,Toby Walsh教授也曾发表公开信,呼吁联合国紧急应对应对致命性自主武器的问题,当时来自26个国家的116名机器人和人工智能公司的创始人签署了这封公开信,其中就包括马斯克以及DeepMind的联合创始人Mustafa Suleyman。

参考链接:

https://www.theguardian.com/commentisfree/2018/apr/06/its-not-too-late-to-save-the-world-from-killer-robots

https://futureoflife.org/2017/08/20/killer-robots-worlds-top-ai-robotics-companies-urge-united-nations-ban-lethal-autonomous-weapons/

原文发布于微信公众号 - 新智元(AI_era)

原文发表时间:2018-04-08

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏罗超频道

与惠普合作智能打印云盒,钉钉会成为智能办公的小米么?

今天,阿里钉钉与惠普联合发布了一款智能硬件产品:钉钉智能打印云盒P1。P1具有“简单、安全和省钱”三大属性,具体来说,可以兼容惠普旗下的主流打印机,连接后企业员...

11820
来自专栏AI科技大本营的专栏

AI 一分钟 | 谷歌发布72量子比特处理器,或将为机器学习应用提供加速;百度已经发起对景驰撤诉,但不会对王劲撤诉

整理 | Leo 一分钟AI 查理·芒格评人工智能商业化:我靠自己的常识已经生活得很好了,从未想过进入人工智能领域 谷歌发布72量子比特处理器,或将为机器学习应...

30380
来自专栏罗超频道

脱水版演讲实录:听傅盛讲如何做一款紫牛产品

7月4日的MIIC2014大会上,猎豹移动CEO傅盛又抛干货,谈“紫牛”理念,干货不断,极为精彩。下面是我整理、脱水傅盛的演讲实录,并附上演讲PPT,请果断收藏...

402100
来自专栏机器人网

新闻述评:众包机器学习与ReWalk外骨骼

华盛顿大学发布了一种比个人示教更高效,使用众包技术教育机器人完成物体识别和操作任务的技术。通过众包获取的大量数据,能够提高机器学习模型的准确度并提供备用场景。随...

28250
来自专栏镁客网

开启脑洞模式,一个关于安保无人机的未来构想

11430
来自专栏SAP最佳业务实践

从SAP最佳业务实践看企业管理(100)-精益生产

精益生产产生的背景 丰田的TPS就是为企业的现金流做贡献、消除库存,缩短制造时间。佐佐木元给出一个令人震惊的数据:制造过程降低10%的成本=经营层面在市场扩大销...

32930
来自专栏人称T客

盘点:年末岁首,厂商火拼移动OA

随着中国移动4G在12月6日正式发牌,云计算、大数据等技术大量兴起,社交网络、大平台化的日益普及,以云计算化、移动化、社交化、协同化为特征的办公管理软件应用大潮...

27330
来自专栏我是极客人

互联网广告之殇

  一个事件的背后不仅是一家公司的作恶,更反映了盘综复杂的商业利益和监管制度巨大的缺口,没有哪个环节可以撇清责任。在人命攸关的问题上,看看大公司和国外的监管体系...

11630
来自专栏人称T客

WPS的逆袭之路

一个人,一个偏僻的小房间,一年零四个月敲完了12万两千行代码,WPS 1.0横空出世填补了国内文字处理市场的空白。

28900
来自专栏CSDN技术头条

全球最“有料”的15家大数据公司

导读:大数据公司是现在最火热的行业之一,目前全球大数据企业主要分为两大阵营:一部分属于单纯以大数据技术为核心的新兴企业,以实力和创新力为市场带来新方案并推动技术...

199100

扫码关注云+社区

领取腾讯云代金券