谁应掌控人类的未来？硅谷AI内战背后的两个神秘流派

数智转型架构师

发布于 2025-10-30 12:46:23

740

今天读完周恒星的《奥尔特曼传》，其中最吸引我的是在硅谷，在ChatGPT美丽的光环背后，竟然隐藏着两个非常对立的AI流派，这像极了刘慈欣小说中面对三体人的降临，人类社会分裂为降临派、拯救派一样，充满了科幻色彩 ... ...

2023年11月，OpenAI董事会突然解雇了CEO山姆·奥尔特曼，整个科技界为之震动。表面上看，这是一次普通的人事变动，但背后却隐藏着一场深层次的意识形态争斗。OpenAI内部，首席科学家伊利亚·苏茨克韦尔与奥尔特曼在发展理念上产生了严重分歧。

这不仅仅是公司内部的权力争夺，而是硅谷两大对立思潮——有效加速主义与有效利他主义的激烈碰撞。

一场突如其来的“政变”

2023年11月16日，奥尔特曼在旧金山参加APEC峰会，代表公司发言一切正常。然而第二天，OpenAI突然发布声明，阿尔特曼被解除CEO职务！

奥尔特曼的老搭档、OpenAI联合创始人布罗克曼也随即辞去了董事会主席职务。布罗克曼在社交媒体上披露了这场人事变动的具体过程：那天中午，他收到OpenAI首席科学家苏茨克韦尔发来的短信，要求快速通话。在接下来的视频会议中，布罗克曼被告知他将被从董事会中除名，而阿尔特曼已被解雇。。

OpenAI在声明中称，奥尔特曼“与董事会的沟通中始终不坦诚”，董事会不再对他继续领导OpenAI的能力充满信心。

但业内观点认为，这本质上是一场有关人工智能发展理念的保守与激进之争。

两个神秘的哲学流派

在这场突如其来的“政变”背后，是两个极具影响力的哲学思想：有效加速主义（e/acc）和有效利他主义（EA）。

有效利他主义起源于1972年澳大利亚哲学家彼得·辛格的文章《饥荒、富足与道德》。该运动旨在利用证据和理性找到帮助他人的最佳方式。有效利他主义者认为，人工智能的发展应更注重安全而非速度，肆无忌惮地发展人工智能可能会毁灭人类，他们对这一点深信不疑。

与之相对，有效加速主义则主张尽一切可能加速技术创新步伐，并将其快速推向市场来颠覆社会结构。他们认为技术发展是推动社会进步的根本动力，应不惜加速其进程，主动迎接“技术奇点”的到来。

现实版“复仇者联盟”与“正义联盟”

如果将这场斗争比作漫画世界中的对抗，那么有效加速主义者就像是科技界的“复仇者联盟”，他们相信通过技术的无限突破可以解决人类面临的根本问题。他们的代表人物包括马克·安德烈森、山姆·奥尔特曼等。

而有效利他主义者则更像是“正义联盟”，试图通过谨慎和伦理来引导技术发展。这一阵营的代表人物包括“AI教父”杰弗里·辛顿、OpenAI首席科学家苏茨克韦尔等。

两派之间的分歧不仅体现在理论上，更直接影响了科技公司的发展路径。2020年底，OpenAI前核心员工达里奥·阿莫迪就因为安全问题带着10名心腹离开了OpenAI，创办了竞争对手Anthropic公司。

从理念到现实冲突

有效加速主义与有效利他主义的斗争不仅限于理论争论，已经演变为实实在在的商业决策和人事冲突。在OpenAI开发者大会结束后不久，ChatGPT在11月8日大规模宕机，随后微软宣布出于安全考虑暂时阻止员工使用ChatGPT。这些事件成为董事会行动的导火索。

对有效利他主义者来说，AI安全问题是不可妥协的核心议题。奥尔特曼对人工智能商业化的推崇越来越明显，这与苏茨克韦尔等董事会成员的分歧愈来愈深。一位OpenAI员工曾问苏茨克韦尔，奥尔特曼被解职是不是一场“政变”？苏茨克韦尔否认道，董事会是在履行非营利机构的职责。（当年OpenAI成立时的章程里明确说明自己是一家非营利机构）

当理想照进现实

有趣的是，这两大思潮在现实中的界限常常变得模糊。有些科技领袖试图在加速发展与安全保障之间寻找平衡。例如，埃隆·马斯克一方面对AI风险发出警告，另一方面又在脑机接口、太空探索等领域积极实践。这种矛盾心态在许多科技从业者中相当普遍。

科技行业内部也在不断调整对这两大思潮的态度。2024年5月，OpenAI甚至解散了超级对齐团队（OpenAI 的超级对齐团队是 OpenAI 于 2024 年 7 月成立的一个专门团队，旨在解决超级智能的对齐问题，即确保超智能（比人类智能更高的 AI 系统）能够遵循人类意图。），这一决定被解读为有效加速主义在实践中的一次胜利。