AI领导人Musk,Tegmark和DeepMind呼吁禁止自动武器系统

著名的人工智能思想领袖,包括SpaceX和特斯拉首席执行官Elon Musk,Skype创始人Jaan Tallinn,谷歌DeepMind子公司的三位联合创始人,以及生命未来研究院院长Max Tegmark, 在2018年国际人工智能联合会议(IJCAI)上抗议自主武器本周在瑞典斯德哥尔摩举行。

他们与来自90个国家的160家公司的2,400名其他高管,研究人员和学者签署了一份公开信,承诺不“参与或支持自主武器的开发,制造,贸易或使用”,他们警告说这可能是每个国家和个人都“危险地破坏稳定”。

“数以千计的人工智能研究人员同意,通过消除风险、可归属性和困难的人的生命,致命的自主武器可以成为强大的暴力和压迫工具,尤其是当连接到监视和数据系统,”他们写道。“决定人类的生命决不应该委托给机器。”

签署国还呼吁各国政府先行禁止自主武器。

“我很高兴看到人工智能领导人从谈话转向行动,实施政治家迄今未能实施的政策,”泰格马克在一份声明中说。“人工智能有巨大的潜力来帮助世界 - 如果我们知廉耻并防止其滥用。自主决定杀人的人工智能武器与生物武器一样令人厌恶和不稳定,应以同样的方式处理。

这只是支持AI监管的最新努力。

今年4月,来自AI和机器人影响中心的一组研究人员和工程师发表了一封信,呼吁抵制韩国高等科学技术研究院(KAIST),他们指责他们与国防承包商Hanwha Systems合作开展AI用于军事系统。2017年11月,300多名加拿大和澳大利亚科学家致信总理贾斯汀·特鲁多和马尔科姆·特尔贝尔,要求禁止使用自主武器。2015年,马斯克,斯蒂芬霍金,史蒂夫沃兹尼亚克和数百名技术领导人签署了生命未来研究所论文,以支持自治武器立法。

到目前为止,他们的请求已被置若罔闻。在过去一年中,印度,智利,以色列和俄罗斯等国家都在寻求自主坦克,飞机,侦察机器人,舰载导弹系统和武器化无人机。在美国,包括国防部国土安全部在内的联邦机构正在寻求通过机器学习实现项目现代化。(国防部的“战争法”手册明确支持在武装部队中使用自治系统。)

在某种程度上,私营部门已将事情掌握在自己手中。谷歌在员工和公众的压力下,于6月份发布了一套指导性人工智能道德原则,取消了与五角大楼有争议的Project Maven无人机合同。与此同时,微软停止了与移民和海关执法部门的合作,并成立了一个内部顾问小组 - 以太委员会 - 以批评其人工智能的使用。

在7月的一篇博客文章中,微软总裁布拉德史密斯还呼吁立法者调查面部识别算法的问题以及指导其使用的工艺政策。

但还有很多工作要做。一个最近的一份报告由美国国家情报总监办公室委托人工智能和战争的结论是,因为AI的潜力,以“大规模扩大”军事实力,国家将几乎不可避免地打造自主武器系统。这就是为什么反对者说,通过监管来限制这些武器是至关重要的,为时已晚。

“一旦发展起来,致命的自主武器将允许武装冲突的规模比以往任何时候都大,并且比人类能够理解的时间更快,”来自26个国家的埃隆马斯克,穆斯塔法苏勒曼和116名机器学习专家去年写道。“这些可能是恐怖武器,暴君和恐怖分子用来对付无辜人民的武器,以及被砍掉的武器以不良方式行事。”

  • 发表于:
  • 原文链接https://venturebeat.com/2018/07/18/ai-leaders-musk-tegmark-and-deepmind-call-for-autonomous-weapons-systems-ban/
  • 如有侵权,请联系 yunjia_community@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券