一批在人工智能领域工作的知名研究人员和包括埃隆马斯克在内的一些科技界知名人士呼吁人工智能实验室停止大规模人工智能系统开发工作。这一呼吁是通过一封“公开信”发出的,强调了人们对人工智能“对社会和人类构成深远风险”的担忧。
在未来生命研究所发表的信中;有人指出,人工智能实验室目前正处于一场“失控的竞赛”中,以开发和使用“没有人——甚至他们的创造者——无法理解、预测和自信地控制”的机器学习系统。
信中写道:“因此,我们呼吁所有 AI 实验室停止训练比 GPT-4 更强大的 AI 系统至少 6 个月。这种暂停应该是公开的和可验证的,并且包括所有关键参与者。如果不能迅速实施这种暂停,政府必须介入并启动暂停。”
这封信的签名者中,除了埃隆·马斯克,还有作家尤瓦尔·诺亚·哈拉里、苹果公司创始人史蒂夫·沃兹尼亚克、Skype 创始人简·塔林、政治家杨安泽。在人工智能领域工作的研究人员和首席执行官,包括 Stuart Russell、Yoshua Bengio、Gary Marcus 和 Emad Mostaque,也签署了这封信。还提到一些签名者的名字可能是作为一个玩笑并且违背他们的意愿添加到信中的。
目前,像谷歌和微软这样的大公司都急于推出他们以人工智能为中心的新产品。在这种环境下,安全和道德问题似乎也被搁置了。因此,此次通话不太可能对当前的气候产生影响。
尽管如此,可以肯定地说,这封信表明人们越来越强烈反对可以概括为“现在提供,以后修复”的做法。这些反对意见也可能使该问题在未来一段时间内被政治力量提上议事日程。
埃隆·马斯克 (Elon Musk) 和朋友呼吁进行独立审计
在埃隆·马斯克和他的朋友们写的信中,审计的呼声也跃然纸上:“人工智能实验室和专家们应该利用这次休息时间来创建一个高级协议,并由独立组织进行精心审计。这些协议必须确保与其相连的系统是安全的,无可置疑。”
领取专属 10元无门槛券
私享最新 技术干货