失控警报？科技巨头呼吁暂停 ChatGPT 的进一步发展

科技名人、著名科学家和埃隆·马斯克警告说，开发和部署功能越来越强大的人工智能系统的“竞赛”将“失控”

一个由数百位著名人工智能专家、科技企业家和科学家联署的公开信呼吁暂停开发和测试比 OpenAI的语言模型 GPT-4更强大的人工智能技术，以便正确研究其可能带来的风险.

它警告说，像 GPT-4 这样的语言模型已经可以在越来越多的任务中与人类竞争，并且可以用于自动化工作和传播错误信息。这封信还提出了人工智能系统可以取代人类并重塑文明的不同前景。

这些签署人包括认为是现代人工智能的先驱、蒙特利尔大学教授历史学家 Yuval Noah Harari、Skype 、联合创始人 Jaan Tallinn 和 Twitter 首席执行官 Elon Musk。他们呼吁所有人工智能实验室立即暂停训练比 GPT-4 更强大的人工智能系统（包括目前正在训练的 GPT-5）至少 6 个月。

这封信由 专注于人类技术风险的组织未来生命研究所 (Future of Life Institute)撰写，信中补充说，暂停应该是“公开的和可验证的”，并且应该让所有从事 GPT-4 等高级人工智能模型工作的人都参与进来。

微软和谷歌没有回应对这封信发表评论的请求。签署者似乎包括来自众多正在构建高级语言模型的科技公司的人员，包括微软和谷歌。OpenAI 的发言人 Hannah Wong 表示，该公司在训练模型后花了六个多月的时间研究 GPT-4 的安全性和对齐。她补充说，OpenAI 目前没有训练 GPT-5。

这封信是在人工智能系统做出越来越大胆和令人印象深刻的飞跃之际发出的。GPT-4 仅在两周前发布，但其功能激起了相当大的 热情和相当多的 关注。该语言模型可通过 OpenAI 流行的聊天机器人ChatGPT获得，在许多 学术测试中得分很高，并且可以正确解决 棘手的问题，这些问题通常被认为需要比 AI 系统先前展示的更高级的智能。然而 GPT-4 也犯了许多 微不足道的逻辑错误. 而且，与其前身一样，它有时会“产生幻觉”不正确的信息，背叛根深蒂固的社会偏见，并且可能会被提示说出仇恨或可能有害的话。

这封信的签署者表达的部分担忧是，OpenAI、微软和谷歌已经开始了一场以利润为导向的竞赛，以尽快开发和发布新的人工智能模型。信中指出，以这样的速度，发展的速度超过了社会和监管机构所能接受的速度。

这封信由 专注于人类技术风险的组织未来生命研究所 (Future of Life Institute)撰写，信中补充说，暂停应该是“公开的和可验证的”，并且应该让所有从事 GPT-4 等高级人工智能模型工作的人都参与进来。它没有建议如何验证停止开发，但补充说“如果不能迅速实施这种暂停，政府应该介入并暂停”，这似乎不太可能在六个月内发生。

微软和谷歌没有回应对这封信发表评论的请求。签署者似乎包括来自众多正在构建高级语言模型的科技公司的人员，包括微软和谷歌。OpenAI 的发言人 Hannah Wong 表示，该公司在训练模型后花了六个多月的时间研究 GPT-4 的安全性和对齐。她补充说，OpenAI 目前没有训练 GPT-5。

这封信是在人工智能系统做出越来越大胆和令人印象深刻的飞跃之际发出的。GPT-4 仅在两周前发布，但其功能激起了相当大的 热情和相当多的 关注。该语言模型可通过 OpenAI 流行的聊天机器人ChatGPT获得，在许多 学术测试中得分很高，并且可以正确解决 棘手的问题，这些问题通常被认为需要比 AI 系统先前展示的更高级的智能。然而 GPT-4 也犯了许多 微不足道的逻辑错误. 而且，与其前身一样，它有时会“产生幻觉”不正确的信息，背叛根深蒂固的社会偏见，并且可能会被提示说出仇恨或可能有害的话。

这封信的签署者表达的部分担忧是，OpenAI、微软和谷歌已经开始了一场以利润为导向的竞赛，以尽快开发和发布新的人工智能模型。信中指出，以这样的速度，发展的速度超过了社会和监管机构所能接受的速度。

一些信件的签署者是当前人工智能热潮的一部分——反映出行业本身对这项技术正以潜在危险的速度发展的担忧。Stability AI的创始人兼首席执行官 Emad Mostaque 表示：“制造这些产品的人自己表示，它们可能对社会乃至人类构成生存威胁，但没有计划完全减轻这些风险 的信。他补充说：“现在是时候将商业优先事项放在一边，为了每个人的利益而暂停一下，而不是为不确定的未来而战。”

人工智能能力最近的飞跃与人们可能需要对其使用设置更多保护措施的感觉相吻合。欧盟目前正在考虑立法，根据所涉及的风险限制人工智能的使用。白宫提出了一项 AI 权利法案，其中阐明了公民应该受到算法歧视、数据隐私泄露和其他 AI 相关问题的保护。但这些法规甚至在最近的生成式 AI热潮开始之前就开始形成了 。

“我们需要按下暂停键，并考虑快速部署生成式人工智能模型的风险，”人工智能和数字政策中心的创始人兼主任马克·罗滕贝格说，他也是这封信的签署人。据其网站称，他的组织计划 本周向美国联邦贸易委员会提出申诉，要求其调查 OpenAI 和 ChatGPT 并禁止升级该技术，直到“适当的保障措施”到位。罗腾伯格表示，这封公开信“及时且重要”，他希望它能得到“广泛支持”。

当 ChatGPT 于去年年底发布时，其功能迅速引发了围绕其对教育和 就业影响的讨论 。GPT-4 显着提升的能力引发了更多恐慌。为 OpenAI 提供早期资金的马斯克最近在 Twitter 上警告 大型科技公司推动人工智能进步的风险。

签署这封信的一家大型科技公司的一名工程师表示，自 GPT-4 发布以来，他一直在使用 GPT-4。这位工程师认为这项技术是一个重大转变，但也是一个主要担忧。“我不知道六个月是否足够，但我们需要时间来考虑我们需要制定哪些政策。

卡内基梅隆大学人机交互助理教授Ken Holstein表示：对于许多人来说，人工智能的最新进展既令人瞠目结舌又令人不安。但担心我们正处于'快速行动并打破常规'的阶段。