马斯克带头千人呼吁暂停开发更强大AI：会对人类构成风险

据路透社29日报道，美国亿万富翁埃隆·马斯克和一群人工智能（AI）科技领域专家和企业高管在一封公开信中呼吁，在6个月的时间内暂停开发比OpenAI公司新推出的GPT-4更为强大的系统，理由是他们主张那会对人类社会构成潜在风险。

本月早些时候，美国初创公司OpenAI发布了其智能聊天工具ChatGPT的第4次迭代版本GPT-4。

29日，非营利组织未来生命研究所（Future of Life Institute）公布的这封公开信称：“只有当我们确信它们的效果是积极的，风险是可控的，我们才能去开发强大的人工智能系统。”根据在欧盟的登记信息，该非营利组织主要由马斯克基金会、总部位于伦敦的公益组织“创始人承诺”和硅谷社区基金会资助。

这封公开信敦促暂停开发先进的人工智能系统，直到独立专家制定出普遍适用的安全规范。信中还呼吁开发者与政策制定者就人工智能的治理问题开展合作。

“我们就应该让机器用宣传和谎言淹没我们的信息渠道吗？我们是否应该开发出非人类的头脑，让它们最终在数量上、智力上超越我们，淘汰并取代我们人类？”信中写道。

埃隆·马斯克 图源：视觉中国

包括马斯克在内的1000多人在这封信上签名，这些人包括Stability AI公司首席执行官伊马德·莫斯塔克（Emad Mostaque）、谷歌母公司Alphabet旗下人工智能公司DeepMind的研究人员、人工智能领域重量级人物、计算机科学家约书亚·本希奥（Yoshua Bengio），以及人工智能领域研究先驱斯图尔特·罗素（Stuart Russell）。

OpenAI首席执行官萨姆•奥特曼（Sam Altman）、Alphabet公司首席执行官桑达尔·皮采（Sundar Pichai）和微软公司首席执行官萨蒂亚·纳德拉（Satya Nadella）均不在签名者之列。

在信上签名的纽约大学教授加里·马库斯（Gary Marcus）说:“这封信并不完美，但其态度是正确的：我们需要慢下来，直到我们更好地理解其后果。”

路透社报道提到，马斯克本月早些时候曾说:“人工智能让我压力太大。”而他本人也是OpenAI公司的联合创始人之一，他的汽车公司特斯拉在把人工智能应用在自动驾驶系统中。此前，他还曾对监管机构对特斯拉自动驾驶系统的批评表达过不满。

美国康奈尔理工大学法学教授詹姆斯·格里梅尔曼（James Grimmelmann）表示：“考虑到在对其自动驾驶系统的人工智能技术存在缺陷追究责任这件事上，特斯拉一直极力表示反对，埃隆·马斯克签署这份公开信是非常虚伪的。这个暂停的想法很好，但这封信含糊其词，没有认真对待监管问题。”

目前走红全球的ChatGPT由美国初创公司OpenAI开发，于去年11月底发布上线。上线短短5天，ChatGPT用户量即超过百万，两个月后，月活用户突破1亿，是史上用户增长速度最快的消费级应用程序。其强大的语言处理能力、海量的数据积累等特点让用户感到惊讶甚至震撼。

在接受《环球时报》记者采访时，多名业内人士将ChatGPT的出现形容为“颠覆性”和“革命性”的，并预测其未来将有着更强大的能力，甚至可以取代一些基础性职业。但他们也提到，ChatGPT仍存在内容准确性不足、无法进行高级逻辑处理等局限，并且其在法律和伦理领域的潜在风险正在不断显现。欧洲刑警组织（Europol）日前警告称，ChatGPT可能被用于网络诈骗、传播虚假信息和网络犯罪。

（编辑：ZLQ）