ChatGPT之父Sam Altman最新文章：AGI及未来计划｜【经纬低调分享】

近日，ChatGPT之父Sam Altman在OpenAI 官网发布了他对AGI （通用人工智能）的看法和未来的计划。OpenAI再次强调，确保通用人工智能（AGI）造福于全人类，以及对短期和长期的目标做了明确的规划和方向。

在OpenAI看来，如果成功创造出AGI，它可以通过增加丰富度、推动全球经济发展以及帮助发现改变可能性极限的新科学知识来帮助我们提升人类水平。AGI有潜力赋予每个人不可思议的新能力，为人类的聪明才智和创造力提供巨大的力量倍增器。

然而，OpenAI也慎重提到，AGI也会带来严重的滥用、严重事故和社会混乱的风险。因此，OpenAI希望可以通过制定一些原则来确保 AGI 的好处最大化，并控制它的潜在巨大的风险。这些原则包括：（1）让AGI成为人类的放大器，促进人类最大程度地繁荣发展；（2）确保AGI的好处、访问权和治理得到广泛和公平的分享；（3）正确应对巨大风险，通过部署功能较弱的技术版本来不断学习和适应，以最大程度地减少“一次成功”的情况。通过这些原则，确保 AGI 的发展造福全人类。以下，Enjoy：

我们的使命是确保通用人工智能——通常比人类更聪明的人工智能系统——造福全人类。

如果 AGI 成功创建，这项技术可以通过增加丰富度、推动全球经济发展以及帮助发现改变可能性极限的新科学知识来帮助我们提升人类。

AGI 有潜力赋予每个人不可思议的新能力；我们可以想象这样一个世界，在这个世界中，我们所有人都可以获得几乎所有认知任务的帮助，为人类的聪明才智和创造力提供巨大的力量倍增器。

另一方面，AGI 也会带来严重的滥用、严重事故和社会混乱的风险。由于 AGI 的优势如此之大，我们不认为社会永远停止其发展是可能的或可取的；相反，社会和 AGI 的开发者必须想办法把它做好。[1]

虽然我们无法准确预测会发生什么，当然我们目前的进展可能会碰壁，但我们可以阐明我们最关心的原则：

我们希望 AGI 能够赋予人类在宇宙中最大程度地繁荣发展的能力。我们不期望未来是一个不合格的乌托邦，但我们希望将好的最大化，将坏的最小化，让 AGI 成为人类的放大器。

我们希望 AGI 的好处、访问权和治理得到广泛和公平的分享。

我们希望成功应对巨大风险。在面对这些风险时，我们承认理论上似乎正确的事情在实践中往往比预期的更奇怪。我们认为，我们必须通过部署功能较弱的技术版本来不断学习和适应，以最大程度地减少“一次成功”的情况。