马斯克等116人联名上书，呼吁联合国禁止“杀人机器人”

安妮 编译整理 量子位 出品 | 公众号 QbitAI

据外媒Fortune报道，昨天，116名机器人和AI公司创始人和CEO联手签署了一封给联合国的公开信，呼吁禁止使用机器人武器，也就是常说的“杀人机器人”。

其中，特斯拉及SpaceX的创始人伊隆·马斯克和DeepMind的联合创始人穆斯法塔·苏莱曼等人都参与其中。

△ 左：伊隆·马斯克；右：穆斯法塔·苏莱曼

这封信描述了机器人武器的风险，表示迫切需要采取强有力的手段在早期禁止它发展。马斯克等人希望呼呼联合国官员，考虑在联合国常规武器公约中加入机器人武器。

该公开信在昨天墨尔本召开的国际人工智能联合会议（IJCAI）开幕式上公布，有趣的是，原计划今天召开的联合国常规武器公约审查会议，现已推迟到11月。据外媒报道，目前已经有19个成员国完全禁止机器人武器。

这封来自26个国家的公司代表签署的公开信，可能也会给联合国带来些许压力。

在公开信中，马斯克等人写道：

致命的机器人武器将带来战斗形式的第三次变革。一旦发展起来，军事冲突的规模比以往任何时候都要大，并且战斗速度也会超出人类的想象。这些是让人恐怖的武器，暴君和恐怖分子用来报复无辜平民的武器，可能被黑客不正当利用的武器。 留给我们的时间不多了。一旦打开这个潘多拉魔盒，再想关上就很难了。

深度学习大牛、Element AI的创始人Yoshua Bengio也是公开信的签署人之一，他关心的不仅仅是自主武器带来的直接伤害，还指出自主武器无形中损害了AI应用的积极发展。这也是是他参与联名活动的主要原因。

目前，联合国常规武器公约中被禁止的武器类型包括化学武器、激光致盲武器、地雷和为士兵带来不必要不合理痛苦以及不加地区伤害平民的武器。

最后，附公开信及116名创始人和CEO名单：

https://futureoflife.org/autonomous-weapons-open-letter-2017