OpenAI 的核心价值观

在 OpenAI 的招聘界面 上，有一段内容是关于 OpenAI 的 Core Values（核心价值观），刚刚 Logan 在 X 上粘贴了他们的新版价值观，我觉得相比原来的价值观目标更加明确了，简单记录并写一下我的思考。

原来的价值观有 6 项：

（原来的价值观也微调修改过，但改动不大）

1. Audacious：We make bold bets and aren't afraid to go against established norms.
2. Thoughtful：We thoroughly consider the consequences of our work and welcome diversity of thought.
3. Unpretentious：We’re not deterred by the “boring work” and not motivated to prove we have the best ideas.
4. Impact-driven：We’re a company of builders who care deeply about real-world implications and applications.
5. Collaborative：Our biggest advances grow from work done across multiple teams.
6. Growth-oriented：We believe in the power of feedback and encourage a mindset of continuous learning and growth.

这次修改后的价值观则有 5 项：

AGI focus：We are committed to building safe, beneficial AGI that will have a massive positive impact on humanity's future. Anything that doesn’t help with that is out of scope.

开宗明义，一切以 AGI 为导向，致力于建设安全、有益的 AGI，这就是 OpenAI 现阶段的使命。除了 AGI 之外，其他与此无关的事物都不在考虑范围内。

上次聊了聊 AGI 距离我们还有多远 ，乐观地估计也还要 5 年以上。如果 OpenAI 真的认为除 AGI 以外的工作全然不重要，那在这个阶段内，OpenAI 会如何推进他们的路线图，如何推出产品和付费盈利计划，又会如何推动开源共享工作，都是值得关注的。

Intense and scrappy：Building something exceptional requires hard work (often on unglamorous stuff) and urgency; everything (that we choose to do) is important. Be unpretentious and do what works; find the best ideas wherever they come from.

紧迫且发散？（这个标题不太好翻译）。创造杰出的事物需要努力的工作和紧迫感，而且往往是在那些不引人注目的事情上；我们选择去做的每一件事情都很重要。

谦逊务实，做那些有效果的事情；从任何地方寻找最好的想法。

（不知道为什么，这一条有种团结紧张严肃活泼的既视感…）

Scale：We believe that scale—in our models, our systems, ourselves, our processes, and our ambitions—is magic. When in doubt, scale it up.

一个字（词）：「规模/尺度」。熟悉的配方，熟悉的 Scale it up。Scale 就是解决模型、系统、自身、流程和目标抱负的魔法，不论有什么疑虑，先梭一把规模再说，大力出奇迹。很符合大家对 GPT-4 的刻板印象。

从这一点上也说明，OpenAI 目前依然看好「规模/尺度/缩放定律」，甚至在他们看来，目前单纯通过扩大规模仍然可以收到很好的效果。

正如「发展可以解决一切问题」那样，「Scale up」在现阶段依然可以解决大部分问题，与其在摇摆中浪费时间，不如心无旁骛地堆资源、堆参数。壕无人性的打法，不知道 OpenAI 还能烧多久，也不知道他们炉子里会烧出什么样的怪物。

Make something people love：Our technology and products should have a transformatively positive effect on people’s lives.

创造人们喜欢的东西。这是产品角度的价值观，技术和产品要对人们的生活产生深远的正面影响。

Team spirit：Our biggest advances, and differentiation, come from effective collaboration in and across teams. Although our teams have increasingly different identities and priorities, the overall purpose and goals have to remain perfectly aligned. Nothing is someone else’s problem.

团队精神。Nothing is someone else’s problem. 既强调合作，也强调担当。

关于 AGI（通用人工智能），OpenAI 的首席科学家 Ilya 在最近的一次访谈中说：

AGI is not meant to be a scientific term, It’s meant to be a useful threshold, a point of reference. It’s the point at which AI is so smart that if a person can do some task, then AI can do it too. At that point you can say you have AGI.

AGI并不是科学术语，它是一个有用的阈值，一个参考点。当人工智能聪明到能完成人类所完成的工作时，我们就可以说产生了通用人工智能（AGI）。

然后他聊了神经网络和大脑：

他将神经网络和大脑运作方式进行了类比。两者都会吸收数据，汇总来自这些数据的信号，然后根据某个简单的过程（在神经网络中是数学，在大脑中是化学物质和生物电）传递或者不传递这些信号。这只是一个极度简化的比喻，但原理是成立的。 如果你有一个非常大的人工神经网络，它应该可以做很多事情。特别是，如果人脑能够做某件事情，那么一个大型的人工神经网络也可以做类似的事情。 “如果你足够认真对待这个领悟，一切就都会随之而来，”他说，“而我的工作中很大一部分可以通过这样解释。”

关于神经网络的这种认知，是 Ilya Sutskever 能够坚持研究的信念所在。

OpenAI 现在 allin AGI 的企业目标，我们不知道他们手中是否有比 GPT-4 更强的模型，但可以预见的是，AI 在我们的生活中将扮演更加重要的角色。