一封公开信在Future of Life网站上发布,呼吁暂停巨型人工智能实验。公开信认为,人工智能可能代表地球生命史上的深刻变化,因此需要投入相应的关注和资源进行规划、管理。然而,最近几个月,人工智能实验室陷入了一场失控的竞赛,争相开发和部署更强大的人工智能系统,这样的失控导致连他们的创造者都不能完全理解、预测或可靠地控制它们。这些人工智能系统可能对社会和人类构成深远的风险。
截至发稿,这封公开信已收到1000多人的支持,其中包括特斯拉CEO埃隆·马斯克、苹果联合创始人史蒂夫·沃兹尼亚克、伯克利大学计算机科学教授Stuart Russell等多位商界和学界的知名人物。另外,ChatGPT母公司OpenAI的CEO Sam Altman可能也在签署名单之列。
公开信呼吁暂停人工智能系统的训练,并引入各国政府的介入监管。作者提出各界应共同制定一套安全协议,由独立的外部专家进行严格审计和监督,确保人工智能系统的安全。这并不意味着人工智能开发的永久停止,只是将这项新技术从危险的竞争中拯救出来。
虽然公开信的作者极力表达对AI过快发展的担忧,并且获得了众多权威人士的支持,但外网网友对信中所期望的结果并不抱乐观态度。一些网友认为,没有人会停止训练,甚至会得到相反的结果;有些网友则表达了反对态度,认为“潘多拉的盒子已经打开了,与其停在这里,不如改变我们自己的不道德行为”。还有一些网友认为,支持这封公开信的人只是想让他们背后的公司能有时间赶上GPT。
无论公开信背后的动机以及最终的结果如何,人工智能的趋势已经不可阻挡,关于AI安全性的讨论也还会持续很久。不过,这封公开信呼吁业界共同制定安全协议,让人工智能技术在适当的监管和规划下发展,以确保其能够为人类带来更多的利益。