害怕机器觉醒？千名大佬联名写信，呼吁停训练人工智能系统！

据路透社报道，一份公开信呼吁所有人工智能实验室在至少六个月内暂停训练比GPT-4更强大的人工智能系统，因为这种系统对社会和人类构成潜在风险。

这份信由非营利组织未来生命研究所（Future of Life Institute）发布，包括美国电动汽车巨头特斯拉和社交媒体巨头推特的总裁马斯克、苹果公司联合创始人沃兹尼亚克（Steve Wozniak）、Stability AI总裁莫斯塔克（Emad Mostaque）、人工智能企业DeepMind的多名研究员在内的1000多名科技界和人工智能重量级人物签署。

信中指出，具有与人类竞争智能的人工智能系统可能对社会和人类构成深远的风险。在最近几个月的竞赛中，人工智能实验室争相开发和部署更为强大的数字大脑，但没有人能理解、预测或可靠地控制这些系统。现在人工智能已经足够强大，能够在一般任务上与人竞争，人类必须问自己是否应该把所有的工作都自动化，包括那些有成就感的工作。我们是否应该开发非人类的大脑，它最终可能比人类还多，比人类聪明，淘汰并取代人类？

信中呼吁所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少六个月，并制定和实施一套共同的安全协议，并由独立专家进行审查。只有当我们确信强大的人工智能系统，其效果是积极的，风险是可控的，才可以开发。如果不能迅速实施这种暂停，政府应介入并实行暂停。

OpenAI公司和特斯拉公司的行动引起了公众对人工智能伦理和监管的关注。特斯拉公司上周发布了一份公开信，号召行业同行共同努力解决自动驾驶汽车可能带来的道德问题。然而，也有人对这封公开信提出质疑。康奈尔大学数字和信息法教授詹姆斯·格里梅尔曼表示，埃隆·马斯克签署协议是非常虚伪的。他认为，特斯拉一直在努力为其自动驾驶汽车中有缺陷的人工智能追究责任，而这封公开信含糊不清，没有认真对待监管问题。

另一方面，欧洲刑警组织星期一警告，人工智能聊天机器人ChatGPT可能被滥用于“网络钓鱼”、网络犯罪和散播虚假信息。ChatGPT由人工智能研究公司OpenAI开发，其竞争者也加速开发类似的语言处理工具。OpenAI公司创始人阿尔特曼还没在公开信上签名，OpenAI没回应，微软也拒绝对这封信发表评论。

公开信签署人之一纽约大学名誉教授马克斯表示，这封信并不完美，但其精神是正确的。他认为，我们必须放慢脚步，直至我们更清楚了解后果。人工智能可能造成严重伤害，大公司对他们正在做的事情越来越保密，这使得社会很难抵御可能出现的任何伤害。