OpenAI神秘項目「草莓」曝光！自我进化已超越人类智能？马斯克嘲讽：回形针灾难

夕小瑶科技说 原创

作者 | 付奶茶

根据路透社的最新报道，OpenAI正在秘密开发代号为“草莓（Strawberry）”的全新项目！

根据路透社在五月份获得的OpenAI内部文件副本显示：虽然目前草莓项目的工作原理严格保密，但是OpenAI正在全力推动草莓项目的进行，项目目标在于利用草莓模型提升公司人工智能的推理能力，不仅能够生成查询的答案，还能够提前规划、自主地浏览互联网，并执行OpenAI称之为“深度研究”的复杂任务。

草莓项目的爆料

知情人士透露，草莓采用特殊的后训练技术（post-training，在模型经过大规模数据集预训练后进一步优化，使其在特定领域表现更加出色。

据爆料内容猜测，草莓与斯坦福大学 2022 年开发的一种名为 "自学推理"（Self-Taught Reasoner）或 "STaR "的方法有相似之处。其创造者之一 Noah Goodman 教授告诉路透社记者，STaR 能让 AI 模型通过反复创建自己的训练数据来 "引导"自己达到更高的智能水平，理论上可以用来让大语言模型超越人类智能水平。

推理是实现人工智能达到甚至超越人类智能水平的关键。尽管大型语言模型已经能够比人类更快速地总结复杂文本和撰写优雅散文，但在识别逻辑谬误和处理类似井字棋等直觉问题上，这项技术常常表现不佳。面对这类挑战时，模型往往会产生虚假信息的“幻觉”。

草莓项目被爆料为能够自主浏览互联网并进行“深度研究”，采用了CUA技术（Computer-Using Agent）。其主要目标是增强AI的推理能力，结合特殊的“后训练”方法，利用“深度研究”数据集来训练和评估模型。这种方法使得AI模型能够处理复杂的长期任务（LHT），提前规划并执行一系列操作。在接受Dwarkesh Patel的播客采访时，OpenAI的联合创始人之一John Schulman透露了关于这方面的最新进展。

如果草莓项目和爆料的内容一致的话，其实可以是一个大语言模型研究进程上的一个关键转折点,它标志着我们正在从单纯依赖大规模数据和计算能力的方法,转向更注重AI系统内在推理能力和自主学习的新范式～

这么大的瓜，怎么少的了我们的知名网友呢～马斯克也赶来吃瓜了：

▲过去人们常说，AI灾难可能会像回形针一样成为问题。但现在看来，更可能是草莓田了。（这里引用了哲学家尼克·博斯特罗姆的观点，他曾提到，高度智能的AI可能会被设计成类似回形针，如果我们给人工智能一个看起来简单而无害的任务，如尽可能提高回形针的生产量，这种全能型的AI可能会采取极端措施，比如将地球上所有可用资源都转化为回形针生产，最终导致整个地球变成一个巨大的回形针制造工厂。）

这不得不提到，ChatGPT之前还有一个关于草莓（Strawberry）的笑话呢：

AGI 等级评价标准

除了草莓项目，OpenAI最近还有一个大新闻！

近日OpenAI举行了一次全员大会，推出了全球智能评分体系（AGI），并展示了接近人类推理能力的模型。在会上，OpenAI高管告知员工，目前ChatGPT已处于第一级阶段，但即将达到第二级，被称为“推理者”。

以下是全球智能评分体系（AGI）五级评分系统的标准：

第一级（Level 1, ChatBots）：这类AI目前能够进行基本对话，如目前的ChatGPT。

第二级（Level 2, Reasoners）：这级别的AI能够进行基本推理和问题解决，类似于拥有博士学位的人，且不依赖外部工具。

第三级（Level 3, Agents）：这类AI能够在几天内代表用户执行任务，例如自动完成复杂工作流程。

第四级（Level 4, Innovations）：这级别的AI不仅能完成任务，还能提出新的解决方案或发明创新。

第五级（Level 5, Organizations）：最高级别的AI可以像一个组织一样运作，处理大量复杂任务，几乎可以完全替代人类在某些领域的工作。

奶茶对于这个分级没有异议，但是第五级的话，那我岂不是彻底失业了！！！如果给这个AGI进化历程加一个期限的话，我希望是一万年！！！

根据彭博的独家报道，一位OpenAI高管表示，目前正处第一级别，但预计很快将达到第二级别，即推理者。公司目前正在致力于在特定任务上实现博士级别的智能，预计可能在一年或一年半内实现～

参考资料