行业 | OpenAI将目光转向“超级智能”

OpenAI首席执行官山姆·奥特曼（Sam Altman）在个人博客上发布的一篇文章中表示，他相信OpenAI已经“知道如何构建（传统意义上的）人工通用智能（AGI）”，并正开始将目标转向“超级智能”。

“我们热爱当前的产品，但我们是为了更加辉煌的未来而来，”奥特曼在文章中写道。“超级智能工具能够极大地加速科学发现和创新，远远超出我们自身的能力范围，进而极大地增加社会的丰富度和繁荣度。”

奥特曼此前曾表示，超级智能可能“距离我们还有几千天”，并且其到来将“比人们想象的更加猛烈”。

人工通用智能（AGI）是一个模糊的术语，但OpenAI有其自己的定义：“在大多数具有经济价值的工作中表现超越人类的高度自主系统。”OpenAI与其紧密合作伙伴兼投资者微软也对AGI有定义：能够产生至少1000亿美元利润的AI系统。根据这两家公司之间的协议，当OpenAI实现这一目标时，微软将失去对其技术的访问权。

那么奥特曼指的是哪个定义呢？他没有具体说明，但前者似乎最有可能。奥特曼写道，他认为AI代理（能够自主执行特定任务的AI系统）今年可能会“以某种方式加入劳动力大军”，并“实质性改变公司的产出”。

“我们仍然相信，不断将伟大的工具交到人们手中，会带来伟大且广泛分布的成果，”他写道。

这有可能实现，但同样不可否认的是，今天的AI技术仍存在重大局限。例如，它会产生幻觉，会犯任何人类都能看出的错误，而且成本可能非常高昂。

奥特曼似乎对克服这一切充满信心——而且时间紧迫。然而，如果过去几年我们从AI身上学到了什么，那就是时间表可能会发生变化。

“我们相当确信，在未来几年里，每个人都会看到我们所看到的，并且认识到在行动时保持极度谨慎，同时最大化广泛利益和赋能，这一点至关重要，”奥特曼写道。“鉴于我们工作的可能性，OpenAI不能成为一家普通公司。能够在这项工作中发挥作用，是多么幸运和谦卑的事情。”

人们希望，随着OpenAI将其关注重点转向其认为的超级智能，该公司将投入足够资源来确保超级智能系统的行为安全。

OpenAI曾多次写道，成功过渡到一个拥有超级智能的世界“远非板上钉钉”，而且它也没有所有答案。OpenAI在2023年7月的一篇博客文章中写道：“我们还没有找到引导或控制潜在超级智能AI并防止其失控的方法。人类将无法可靠地监督比我们聪明得多的AI系统，因此我们当前的对齐技术无法扩展到超级智能领域。”

然而，自那篇文章发表以来，OpenAI已经解散了一些专注于AI安全（包括超级智能系统安全）的团队，并且几位有影响力的安全研究人员也已离职。其中几位员工表示，他们离职的原因是OpenAI日益增长的商业野心。该公司目前正在进行企业重组，以使其对外部投资者更具吸引力。

在最近的一次采访中，当被问及有批评者称OpenAI对安全的关注不够时，奥特曼回应道：“我要指出的是我们的过往表现。”

- END -