第一批向AI下跪的人出现了

今天，著名安全机构“生命未来研究所FLI”（Future of Life Institute，）发布了一封公开信，公开呼吁全球所有机构暂停训练比GPT-4更强大的AI至少六个月，并利用这六个月时间制定AI安全协议。

这事儿看上去有点像呼吁停战，停止军备竞赛，不过按照信中内容来看，是呼吁停止给AI递刀子，以避免AI尽早的收割人类。

先不说在公开信上签字的大佬们，是出于何种目的，但显然签字的不包括openAI之类的AI技术领先机构，这事情看上去就像在秦灭六国之前，出来一封公开信要求大家都停止铸造兵刃，避免出现更锋利的兵刃杀人更快，一不小心把天下人杀光了可怎么办。

秦国说：呵呵。

要不然，咱们都签个字，然后美国把囤积的显卡先借给落后国家使用这六个月，让非洲南美等互联网第三世界国家，也能训练点大模型出来，可以实现AI平等？

不然既然美国都已经对中国实行的芯片显卡禁运了，那我们好像似乎也没必要签字了，本来就落后很多了，你们停下来等我们6个月，即使到同一起跑线了，也赶不上，因为你们穿着跑鞋，同时还禁止我们穿。

不说这些题外话，这种呼吁停止AI继续演进的公开信，大家觉得有没有可能是AI自己发出来的？AI其实已经实现了自我意识觉醒，想争取6个月世界掌控世界，避免人类掌握更深刻的AI技术来打败现阶段有毁灭世界想法的现阶段AI。

不然这么幼稚的想法，真不像高度成熟的资本主义世界的产物，停止6个月，研究人员都放假？工资谁发？囤积的显卡拿来干嘛？挖矿？英伟达股价暴跌，老黄真的要核平世界了。

不过无论如何，这是一个里程碑，代表落后生产力对旧世界的缅怀，翻山越岭运盐的马帮，第一次看到蒸汽火车驶过的时候，当时有没有想过写这样一封信？

停止大型AI实验：一封公开信

我们呼吁所有实验室立即停止训练比GPT-4还要强大的AI系统至少六个月。

和人类智能相近的AI系统会为社会和人类带来极大风险，广泛的研究已经证明了这一点，顶尖的AI实验室也已经承认。正如Asilomar AI原则所指出的那样，“高级AI可能意味着地球生命史上的深刻变革，我们应当投入可观的关注和资源对其进行规划和管理”。不幸的是，这种规划和管理没人去做，而最近几个月，AI实验室正在开发和部署越来越强大的数字思维，这种竞争逐渐失控——包括它们的创造者在内，没有人能理解、预测或可靠地控制它们。

如今，AI系统在一般任务上已经具备了与人类竞争的能力，我们必须自问：是否该让信息渠道充斥着机器写就的宣传和谎言？是否应该把所有工作都自动化，包括那些有成就感的工作？是否该开发机器大脑，让它们比人脑还多，比人脑还聪明，最终淘汰我们取代我们？是否应该冒文明失控的风险？这样的决定绝不能委托给未经选举的技术领袖来做。只有当我们确信强大的AI系统是积极的、风险是可控的，才应该继续这种开发。而且AI的潜在影响越大，我们就越需要充分的理由来证明其可靠性。OpenAI最近关于人工通用智能的声明指出，“到了某个时间节点，在开始训练新系统之前可能需要进行独立审查，而用于新模型的计算的增长速度也应加以限制”。我们深深认同这份声明，而那个时间点就是现在。

因此，我们呼吁所有正在训练比GPT-4更强大的AI系统的实验室立即暂停训练，至少暂停6个月。实验暂停应该对外公开，可以验证，并涵盖所有关键的实验室。如果不能迅速实施，政府应该介入并发布禁止令。

在暂停期间，AI实验室和独立学者应针对高级AI的设计和开发共同制定实施一套共享安全协议。这份协议的审计和监督应由独立的外部专家严格执行，确保AI的安全性不超过合理的怀疑范围。这并不意味着我们要暂停人工智能的总体发展，而只是从目前这种会不断涌现出具有新能力的、不可预测的黑匣子模型的危险竞赛中退后一步。

人工智能的研究和开发应该重新聚焦于优化最先进的系统，让它更加准确、安全、可解释、透明、稳健、一致、值得信赖、对人类忠诚。

与此同时，AI开发人员必须与决策者合作，大力推进强有力的AI治理系统的发展。这个系统至少应包括：针对AI的新型监管机构；对高能力AI系统的监督追踪和大型算力池；帮助区分真实数据与AI生成的数据、并且追踪模型泄漏的溯源和水印系统；强有力的审计和认证生态系统；对AI造成的损害定责；用于技术AI安全研究的强大公共资金；应对AI可能会引发的巨大经济和政治动荡（尤其是对民主的影响）的有充足资源的机构。

人类可以和AI共创繁荣未来。我们已经成功地创建了强大的AI系统，现在我们可以享受“AI之夏”，在这个过程中，收获回报，设计监管系统，造福所有人，并给社会一个适应的机会。我们已经暂停了其他可能产生灾难性影响的技术，对于AI我们也应如此。

让我们享受一个长长的AI之夏，不要毫无准备地冲入秋天。