OpenAI首席执行官萨姆·阿尔特曼对人工智能的未来有何期待
OpenAI首席执行官萨姆·阿尔特曼对人工智能的未来有何期待
Altman 认为 OpenAI 的使命是构建一个人工通用智能，并广泛传播其好处。
译自 What OpenAI CEO Sam Altman Really Expects In AI's Future，作者 David Cassel。
上周，OpenAI 发布了 GPT-4o，这是功能强大的聊天机器人的最新语音交互版本。但在发布前几天，OpenAI 首席执行官 萨姆·阿尔特曼 在“All-In”播客中接受了一个小时的采访，分享了一些出人意料的坦率想法。
由一群高级风险投资家主持 —— Chamath Palihapitiya、Jason Calacanis、David O. Sacks 和 David Friedberg —— 该播客让阿尔特曼有机会在更具对话性的环境中畅所欲言。
在长达一小时的广泛讨论中，阿尔特曼提供了有关他对 OpenAI 的长期愿景的线索——甚至包括世界发展 通用人工智能 的可能轨迹。作为 世界顶级人工智能公司 的负责人，阿尔特曼回答了有关安全性、可负担性、经济模式和下一个伟大目标的问题。
并且在某个过程中，他可能还瞥见了未来的发展方向。
本质上不同
当 宣布 GPT-4o 时，阿尔特曼指出了它在 OpenAI 产品演变中的位置。“最初的 ChatGPT 展示了语言界面可能实现的一丝希望；这个新事物感觉本质上不同。它快速、智能、有趣、自然且有用。对我来说，与计算机交谈从未真正感觉自然；现在感觉自然了。”
但正是通过播客，你才能感觉到这对他的长期愿景有多么重要。在讨论人类的下一个伟大技术是什么之后，阿尔特曼补充了这个发人深省的观点。“我认为语音是下一个事物的一丝希望。
“比如，如果你能使语音交互变得非常好，它就会感觉——我认为这感觉像是一种不同的使用计算机的方式。”
安全性如何？
上周，OpenAI 还因解散他们 10 个月前创建的团队 而登上头条，该团队探索了解决方案，“以引导和控制比我们聪明得多的 AI 系统”，因为该团队的两位领导人 都已辞职。（CNBC 指出，Ilya Sutskever 是 11 月投票罢免阿尔特曼的董事会成员之一，而 Jan Leike 在 Twitter 上抱怨 星期五，OpenAI 的“安全文化和流程已退居闪亮产品的次要地位。”）
在过去的几个月里，我的团队一直在逆风航行。有时我们为计算而苦苦挣扎，完成这项至关重要的研究变得越来越困难。 — Jan Leike (@janleike) [2024 年 5 月 17 日]
因此，在这些辞职宣布前几天，听到阿尔特曼对 11 月罢免 的评论很有趣。“看，显然并非所有这些董事会成员都是我世界上最喜欢的人。但我非常尊重他们对待 AGI 的严肃性以及正确实现 AI 安全性的重要性。即使我强烈不同意他们的决策和行动，但我确实不同意，我从未怀疑过他们对安全和有益的 AGI 这种共同使命的正直或承诺。”
我在 OpenAI 的时光是我人生的转折点，希望对世界也有一点帮助。最重要的是，我喜欢与如此有才华的人共事。 稍后会详细介绍下一步计划。 — 萨姆·阿尔特曼 (@sama) [2023 年 11 月 17 日]
阿尔特曼还直接解决了风险问题。“我认为在不久的将来，前沿 AI 系统将能够造成重大的全球损害。”他希望的是一个国际机构，确保对最强大的系统进行“合理的安全性测试”，以便“你知道，这些东西不会逃逸并递归地自我完善或其他……”他后来补充说，“也许什么都不会发生。但我认为，谈论我们认为可能发生的事情以及实现这一目标需要什么，是我们职责和使命的一部分……”
奥特曼将人工智能监管比作对核武器或生物技术的现有监督，“或那些真正可能产生非常负面影响、远远超出某个国家范围的事情”。
他针对方法论提出了具体建议（例如对输出进行安全测试，而不是让政府监管机构尝试审查所有公司的内部代码库并评估机器学习模型中使用的权重）。但奥特曼还有另一个担忧。“我对此的监管过度感到非常紧张。我认为我们可能通过做得太多，甚至做得稍微多一点，而把这件事搞砸。”
他立即承认，我们也可以“通过做得不够而把这件事搞砸”。但奥特曼担任创业加速器 YCombinator 总裁五年，也认识到了企业家的观点。“我们已经看到监管越权或捕获在其他领域变得非常糟糕。”
因此，他希望看到监管机构关注例如成本超过 100 亿美元的项目。“我认为这不会给初创企业带来任何监管负担。”
“去创造未来”
在谈话初期，奥特曼重申，免费提供先进技术是“我们使命中非常重要的一部分”。他不仅想构建人工智能工具，还希望“让它们得到广泛使用——免费或，你知道，不太贵，无论是什么——这样人们就可以使用它们去创造未来，而不是天上的神奇 AGI 创造未来，并将其倾泻在我们身上。
“这似乎是一条更好的道路。这似乎是一条更鼓舞人心的道路。我也认为这是事情实际发展的方向。因此，我们还没有想出如何向免费用户提供 GPT4 级技术，这让我感到遗憾。这是我们真正想做的事情……”
问：我想这只是非常昂贵？
萨姆·奥特曼：非常昂贵。
但奥特曼仍然预测，我们会看到一个人工智能廉价的世界。“这对我们很重要，对用户显然很重要，而且它将解锁很多东西。”
这是奥特曼上周在宣布 GPT-4o 时重申的一个主题。“我非常自豪，我们已在 ChatGPT 中免费提供了世界上最好的模型，没有广告或类似的东西。
“我们在创办 OpenAI 时的最初设想是，我们将创造人工智能，并利用它为世界创造各种好处。相反，现在看来，我们将创造人工智能，然后其他人将利用它创造出我们所有人都受益的各种惊人事物。
“我们是一家企业，会找到很多收费的事情，这将帮助我们为（希望）数十亿人提供免费、出色的 AI 服务。”
超越“全民基本收入”
奥特曼显然一直在思考未来——关于颠覆、经济模式以及世界将是什么样子。在播客中，奥特曼表示他对人工智能导师的可能性“非常兴奋”，以及“进行更快、更好的科学发现的可能性……这将是一场胜利”。
但奥特曼也以3000 人全民基本收入试验而闻名。因此，听到他对包含人工智能的新变体的最新坦率想法很有趣。
全民基本计算：人工智能时代全民基本收入的再构想，根据[@sama] 在上周的播客中，萨姆·奥特曼提出了对传统全民基本收入的看法： “现在我们看到人工智能发展的一些方式……我想知道未来是否看起来更像是全民基本…… —— All-In 播客 (@theallinpod) [2024 年 5 月 15 日]
首先，他谈到了全民基本收入的传统观念。“给人们钱并不能解决所有问题，”奥特曼说。“它肯定不会让人们快乐。但它可能会解决一些问题，它可能会给人们一个更好的视野，以便帮助他们自己。”
但奥特曼有另一个想法。“现在我们看到人工智能发展的一些方式……我想知道未来是否看起来更像是全民基本计算，而不是全民基本收入……每个人都像得到了一块 GPT-7 的计算能力，他们可以使用它，他们可以转售它，他们可以捐赠给某人用于癌症研究。但你得到的是不是美元，而是这部分。
“你拥有部分生产力！”
保留我们关心的事物
偶尔甚至会瞥见奥特曼的个人感受——比如当他谈到一个苹果广告时，艺术材料被压碎在一个液压机里（被一个苹果平板电脑取代）。
“我显然非常看好人工智能——但我觉得人类创造力和人类艺术表达中有一些东西很美，”奥特曼说。“你知道，对于一个只是做得更好的科学的人工智能来说？很好，那就去做吧。但一个人工智能将要进行这种深刻而美丽的人类创造性表达？我认为我们应该弄清楚……”
奥特曼在半句话中停顿了一下——然后说“它会发生的。它将成为一个工具，将我们带到更高的创造性高度。
“但我认为我们应该弄清楚如何以一种保留我们所有人在这里关心的精神的方式来做到这一点。”
还有一些关于版权和训练数据的讨论，奥特曼透露 OpenAI 决定“不做音乐……部分原因正是因为这些问题，你如何划清界限。”
“这将发生”
那么，当我们最终达到 AGI 的圣杯——一台能力与人类智能相匹配或超越人类智能的机器时，会发生什么？“我认为很多人都很害怕 AGI，这是可以理解的，”奥特曼承认。“或者非常害怕甚至当前的人工智能，并且对它非常兴奋——甚至更加害怕，并且对它的发展方向更加兴奋。”
“我们正在与之抗争，但我认为这是不可避免的，它将发生。”
他似乎意识到存在非常真实的破坏潜力，并同意“很多东西都会改变。而改变对人们来说非常不舒服。所以有很多事情我们必须做对。”
尽管如此，最终，奥特曼也相信这一切将被证明“非常有益。但我们确实必须找到一种合理的方法来实现这一目标。”在一点上，奥特曼甚至强调 OpenAI 的使命“是建立 AGI——并找出如何广泛地分配其好处。”
在奥特曼在采访中加入他对漫漫前路真诚的热情声明之前，他没有离开。“我真的很关心 AGI——并认为这是世界上最有趣的工作。”