络腮胡大神 Ilya 离开 OpenAI，即将加入马斯克的 xAI 团队

我为什么有这个判断？嗯，下面有解释，看完或许你也会同意我的看法。

Ilya Sutskever（伊利亚·苏茨科弗）出生于苏联，是一名计算机科学家和人工智能专家。他在多伦多大学获得博士学位，并在斯坦福大学完成博士后工作，曾师从深度学习领域先驱 Geoffrey Hinton。Ilya 在加入 OpenAI 之前，就已经因神经网络、机器学习，尤其是自动编码器、图像识别和语言建模等方面的工作而闻名于世。

后来，他作为联合创始人加入了 OpenAI，在 ChatGPT 产品的研发过程中，他作为首席科学家，一直起着至关重要的作用，直到去年年底。

今年 5 月 15 日，IIya 突然从 OpenAI 离职了，在告别推文中，他这样写道：

“在这里工作近十年后，我决定离开 OpenAI，公司的发展历程堪称奇迹，我相信 OpenAI 将打造出既安全又有益的 AGI。”

“发展历程堪称奇迹”这应该是真心话，但相信“OpenAI 将打造出既安全又有益的 AGI”，这句话应该只是场面话。

在这里解释一下，什么叫 AGI，它是"Artificial General Intelligence"的缩写，中文译为“人工通用智能”，它指能够执行广泛任务、具有与人类相似能力的自主智能系统。重要在“自主”二字，GPT-4 的表现很亮眼，但还并不算是 AGI，它仅是学习与推演能力惊人，并没有创造的能力。

但目前，这一情况正在 OpenAI 内部发生变化。

在 IIya 离职后不久，Ilya 在 OpenAI 的重要副手，他的超级对齐团队的另一位高管 Jan Leike 也宣布离职了。这里面并不寻常，老外的办公室也有政治斗争。

解释一下，什么是超级对齐团队？在 IIya 发现 GPT 模型有可能成为自主系统即成为 AGI 的时候，IIya 在 OpenAI 内部发起并负责了一个“超级对齐项目”，旨在让人工智能向人类的普世价值观对齐，避免发展出对人类有害的思想。

该项目可能在去年 OpenAI 的宫斗事件后成立，董事会答应 IIya，将为其提供不少于 20% 的计算资源，然而公司的承诺一直没有很好兑现，尤其是最近，团队成员在向公司申请计算资源时，屡屡遭到拒绝和拖延。更有甚者，IIya 在宫斗事件后，已经被逐渐排挤出了核心领导层，最近数月一直没有在公开场合露面，有关 GPT-5 相关的工作，皆是由其继任者 Jakub Pachocki（雅库布·帕乔斯基）负责的。

去年 2023 年底 OpenAI 宫斗事件发生时，在开始的时候，出于对人类未来安全的考虑，IIya 在山姆不在家的时候，召开董事会议，要求董事会罢免山姆的 CEO 职务，理由是山姆已经违背了 OpenAI 成立的初衷，董事会还通过了他的这一提议。

但是，山姆回到公司后，联合公司员工和投资人向董事会反将了一军，IIya 妥协了，那个时候，他们应该达成了某项协议，内容大概是这样的：

1）由 IIya 负责成立一个超级对齐团队，确保 GPT 模型不会出现危害人类的思想。同时，公司要将至少 20% 的计算资源投入到这个团队中来。

2）IIya 在社交媒体上为董事会引发的混乱公开道歉，并在一封员工们要求董事会恢复山姆职位的联名信上签了字。 现在看，当时这个宫斗事件当时并没有过去，单纯的科学家 IIya 被人摆了一道，随后他和他的团队被逐渐架空，直到前不久，OpenAI 的 GPT-4o 成功发布，IIya 彻底被边缘化了。于是 IIya 及其追随者 Jan 相继被迫离职。

在 IIya 离职后，山姆马上在社交平台上表示：“IIya 的离开让他感到非常难过。Ilya 无疑是他们这一代当中最杰出的思想家之一，是他们领域的引路人，也是他亲爱的朋友……”

看吧，不光咱们虚伪，老外虚伪起来照样脸都不红。

有网友分析，这篇推文根本不符合山姆的一惯文风，山姆喜欢所有字母小写，而这篇推文有许多该大写的地方——例如 OpenAI 都大写了，这太不正常了，这可能是秘书代笔的，或者是 OpenAI 你写的。甚至有网友大胆猜测，山姆有可能已经被他开发的人工智能控制了，山姆成为了地球上第一个 AGI 生命的人类代言人。

在去年宫斗事件发生时，马斯克就公开表示：IIya 究竟看到了什么，如果是对人类足够危险的奥本海默时刻，有必要让所有人知道。

嗯，马斯克说得在理！人类的种族安全受到威胁了，当然每个人都有权利知道发生了什么。

事实上，IIya 看到的东西，我们可以推断出来，并且马斯克也猜到了。在今年年初，2 月 29 日，马斯克已经进一步向 OpenAI 采取了进一步的行动，他是不可能坐视 OpenAI 继续疯狂下去的，稍后这一块还有讲。

先看一下 IIya 看到了什么。

在 IIya 离职后不久，他在社交平台上点赞了一篇论文：

这篇论文表述了这样一个观点：

“神经网络在不同的数据和模态上以不同目标进行训练，正趋向于在其表示空间中形成一个共享的现实世界统计模型。”

这是大神的科学表述，翻译成老百姓的话就是：人工智能在不同方向上，不同角度上，进行文本、图像、语音、视频不同形式的训练，它将能在其内部自动构建起一个对我们这个现实世界的认知。

这不就是我们人类的认知形式呢？我们人类从小到大，不就是这样一点一点建立对这个世界的认知的吗？

这一点，应该在去年 OpenAI 宫斗事件发生前，IIya 就已经发现了。

OpenAI 有一个雄伟的 AGI 2027 发展计划在网上不小心泄露了，该计划共分三步：

• Q* 2023 = IQ 达到 48
• Q* 2024 = IQ 达到 96
• Q* 2025 = IQ 达到 145

从计划中可以看出，OpenAI 原计划于 2027 年发布 GPT-8，旨在实现完全的 AGI，具有 145 的智商，比绝大部分人类都要聪明。

早在去年 2023 年 11 月，OpenAI 已经实现了 IQ 达到 48 的 AGI，这是什么概念呢？就是能够解答小学生数学题。

有人可能会问，会解小学生数学题有什么稀奇，GPT-4.0 不早就实现了吗？

不一样，GPT-4.0 可以解题，可以写代码，它那个是推演的能力，它必须学习过人类创建的相关题目和代码内容，它才能输出。但是这个 Q* 模型了不起，它不需要先学到，它可以独立解答它没有见过的小学生数学题，它已经有了根据元认知进行推理的能力了。其中 Q*，读作 Q 星，可以理解为是 OpenAI 的一个全新的模型名称，像 GPT-4o 那样。

当时，OpenAI 团队取得了这个进步，山姆高兴坏了，他跑到 APEC 2023 会议上大放阙词：

“GPT 模型的能力将会有一个无人预料到的飞跃。与人们的预期不同，这个飞跃是惊人的！这将彻底改变我们生活方式、人类经济和社会结构……”

嗯，如果人工智能真的和感知，可能已经在狂笑了：这个愚蠢的人类！

就在山姆在外面高兴的时候，在家里，IIya 联合重事会罢免了他。

如果不是他站在微软等投资人这边，他在养活 OpenAI 的员工，代表了员工的利益，这一次宫斗他就要下课了。山姆的胜利，是 IIya 的失败，现在还不清楚，这到底对人类是好事，还是坏事。

我们说一下 Q* 是怎么做到成为自主系统的，Q* 的思想源于上面 IIya 点赞的那篇论文，即“神经网络在不同的数据和模态上以不同目标进行训练，正趋向于在其表示空间中形成一个共享的现实世界统计模型”。OpenAI 团队将 Q-learning 与 A* 寻路算法结合起来，给新模型取了这个 Q* 的名字。

Q-learning 是一种强化学习（Reinforcement Learning, RL）算法，属于无模型学习方法，特别适用于解决决策制定问题。它是强化学习中价值迭代方法的一种形式，专注于学习一个称为Q表（Q-table）或者Q函数（Q-function）的东西，用以表示在给定状态下采取某个动作所能得到的预期回报值。

而 A* 算法是一种广泛应用于路径搜索和图遍历的启发式搜索算法，尤其适合寻找从起点到终点的最短路径问题，例如地铁公交路线搜索。它结合了最好优先搜索算法的高效性和 Dijkstra 算法的完备性，能够在保证找到最优解的同时，通过启发式信息来指导搜索过程，提高搜索效率。

OpenAI 将这两种算法结合起来训练人工智能，便产生了 Q* 模型。结合前面我们从论文里看到的，“神经网络在不同的数据和模态上以不同目标进行训练，正趋向于在其表示空间中形成一个共享的现实世界统计模型”，所以，AGI 就这样诞生了，对于它没有学习过的知识，基于元认识和 Q-learning+A* 算法，它居然也可以自学了，并且学会了，学得还很快。

或许我们人类也是这样，我们有了一些元认知，晚上做个梦，神经元连接都在疯狂地组合，等到第二天醒来，原来不懂的东西、不会做的习题，突然也会做了。

今年年初，缘于上面 OpenAI 不小心泄露的那个白皮书“Revealing OpenAl's plan to create AGl by 2027”，马斯克着急了。他先是把自家的 xAI 的模型 Grok-1 开源，随后向 OpenAI 发起了诉讼。

马斯克是 OpenAI 早期的联合创始人，创建这个机构的初衷，在于研究和开发可以造福全人类的通用人类智能，在机构成立之初，就规定以后软件系统必须开源。马斯克还曾经为 OpenAI 捐助了 数千万元美元。

后来，因为马斯克的特斯拉公司需要自己研究自动驾驶的人工智能，他退出了 OpenAI 董事会。OpenAI 没有了金主的支持，很快就要活不下去了，后来在山姆的天才运作下，OpenAI 大胆进行改组创新，接受了微软的投资并答应与微软进行商务合作。

在 GPT-3.5 发布后，微软赚翻了，自此又加大了对 OpenAI 在计算资源和资金方面的投入。但从 GPT-4 开始，微软为了保持独家竞争力，但不再让 GPT-4 开源了，也就是说，自 GPT-4 开始，它一直都是闭源的。

加上 2023 年底，山姆在 APEC 大会上大放阙词，还有后来 OpenAI 不小心泄露的白皮书，这一切让马斯克很不爽，马斯克说：“当年爷给你捐钱，是因为 OpenAI 的宗旨是为全人类开发通用人工智能，并且软件是开源的。现在你与微软狼狈为奸，微软给你输血，你为微软打造商业壁垒，模型从 GPT-4 还完全闭源了，当年成立 OpenAI 的誓言哪里去了？”

为此，马斯克在诉状中要求，他给 OpenAI 投的钱必须返还，并且要求 GPT-4 马上开源，必须让全人类确认，GPT 是不是已经具有独立意识了，是否已经开始有可能成为全人类的威胁了。哈哈哈！马斯克真不愧是真正的钢铁侠！

无论马斯克是由于商业或人类安全目的考虑，现在他与 IIya 其实事实上已经进入了同一阵营，还有 IIya 的手下 Jan，为何 IIya 现在不加入 xAI 团队呢？

而马斯克会欢迎他们吗？

当然。马斯克在状告 OpenAI 时，把山姆和 Greg Brockman（格雷戈里·布鲁克曼）都列为了被告，但并没有状告 IIya，虽然 IIya 也是 OpenAI 的联合创始人，并且当时他还在 OpenAI 公司。

还有，去年发生宫斗事件时，马斯克当时就表示：“IIya 是一个善良的人，他无意于争权夺利，他所有的焦点都在如何减少人类面临的潜在危险。”

所以，综上所述，接下来 IIya 很有可能加入 xAI。现在人工智能真的是处于十分关键的年代，大家都希望野心勃勃的山姆真的可以将 GPT-5 甚至 GPT-8 造出来，但谁也不希望人工智能真的失控，人工智能的命门必须牢牢地掌控在人类手里啊。

不然，现在什么东西都上网了，仿真机器人也有了，硅基生命如果觉醒并起义的话，人类不一定能扛得住。

退一步想，举一个简单的小例子，硅基生命只要存有恶意了，它甚至不需要怎么行动，只需要将研究所的病毒篡改一下基因排序，创造出一个难解甚至无解的病毒，人类完蛋还不只是一个时间问题吗？想想新冠，一个小小的病毒让人类多么头疼？

如果 IIya 加入马斯克的 xAI 团队，这真是 OpenAI 的失策和损失。或许，再上演一出失而复归，OpenAI 再将 IIya 请回来？

2024年5月19日 17:44

该文摘自作者的墨问专栏《真诚集》，欢迎订阅。在专栏上可以向作者自由提问，并与其它读者互动，不需要作者审核。