Sam Altman直播预判AGI 20条速览：Ilya并没有看到AGI，我们也都还没有看到

钛媒体App 3月20日消息，OpenAI CEO Sam Altman近日在一次网络直播中围绕通用人工智能（AGI）展开了精彩讨论，其观点包括：1、Ilya从来没有见过AGI，我们任何人都还没有。他非常重视关于通用人工智能及其广泛的安全问题，这包括它可能对社会造成的影响。2、OpenAI今年会推出一个非常棒的新模型。还不确定我们最后会叫它什么名字。在GPT-5之前，我认为我们有一系列其他重要的产品需要优先发布。3、预计GPT-5和GPT-4之间的差距将和GPT-4与GPT-3的差距一样大。我们的职责是要有领先未来几年的视野。4、如果仅仅是打造一个比谷歌更优秀的搜索引擎，这严重低估了这项技术的潜力。或许存在一种全新的、更好的方法，来协助人们寻找、利用并整合信息。世界并不需要一个谷歌翻版。5、期待GPT-4在创意头脑风暴方面的表现，比如，帮忙“换个角度思考这个问题”，我认为这展现了一丝令我期待已久的东西。6、在某种意义上来说，我们的确需要同时做好两件事情：一是发明底层技术，二是搞清楚如何把它转化成人们爱不释手的产品。这不仅仅关乎产品本身的实际工作，还涉及到一个完全不同的阶段——怎样让产品与用户的需求保持一致，并真正发挥出它的用途。7、关于GPT在处理知识性任务时是否会编造一些假消息，今年是不可能完全解决所有问题的，随着的新版本会有很大改善。8、我们采用所谓的迭代部署方式不是秘密开发到 GPT-5，让全世界都关注这一进程，正视AGI的重要性，考虑我们正陷入紧迫境地并做出决策。我们的目标绝不是给世界带来令人震惊的更新，恰恰相反。9、可以将AGI开始的时间分为四个象限：慢起步的短时间线、长时间线，以及快起步的短时间线、快起步的长时间线。短时间线搭配慢起步是最安全的组合，也是最希望处于的状态。但确实很希望能确保实现慢起步。10、存在很多这种可能，让人们相信自己钟爱的假设比之前想象的更有可能成真。但对我个人而言，实现Sora工作并不排在我的重要性前五名之内。11、像Sora这样的产品我知道迟早会出现。它来得比我预想的快，不过我认为这并没有给我带来太大的惊讶。12、AGI失控目前来看，还不是最头疼的事。或许将来这会成为我最关注的问题。但至少现在，它还不是。13、人类会在什么时候构建出AGI？大家对于什么是 AGI有着截然不同的定义。所以更合理的讨论方式是，何时能够构建出能够执行特定能力X、Y或Z的系统，而不是什么时候模糊不清地越过某个里程碑。AGI并不是一个终点，它更像是一个开始，但它其实更多是一个里程碑。预计是到这个十年末或许甚至早于这个时候，会有非常强大的系统。14、未来会发生很多变化，可能将会有人完全使用自然语言来编写程序。15、我觉得如果我们有了AGI，但现实世界的事务只能靠让人类动手去完成的话，那真的挺让人沮丧的。所以衷心希望随着这种阶段性的变化，我们也能开发出人形机器人或其他能在物理世界中操作的机器人。OpenAI 在机器人技术方面已经有了一定的积累和经验，迟早会重新涉足机器人领域。16、核聚变或许可以解决大模型计算所需的能源问题。17、对人工智能的前景有些担心，人工智能最终会被左右两派的对立陷入纷争或者其他戏剧性风险。18、人们总是在讨论，五年内人工智能会取代多少工作岗位。但我个人的看法并不是围绕人工智能会做多少份工作，而是在未来某个时间点，它们能执行多少种任务。因为人工智能是一个工具，它将在不断延长的时间跨度内、以越来越高的复杂度来执行越来越多的任务，这让人类能够在更高层次上进行抽象思考。19、创造有价值数据的人们应该得到某种形式的经济补偿，因为他们的数据被利用了。我们还未见到经济系统发展的最终模式。20、至于是否开源，这件事往往会变成一种信仰之争，很难保持中立，但我相信寻找平衡点才是正确的做法。我确信开源模型绝对有其立足之地，尤其是那些人们可以在本地执行的体积较小的模型。未来会出现一些开源模型，也会有一些闭源模型，这一点上，它并不会与其他生态系统有所不同。