OpenAI成立新安全团队，Sam Altman领衔

2024年5月28日，据The Verge报道，人工智能研究实验室OpenAI组建了一个新的安全团队，由首席执行官Sam Altman领导，董事会成员Adam D’Angelo和Nicole Seligman参与。该委员会将就OpenAI项目和运营中的关键安全和安全决策提供建议，这是近期一些关键AI研究人员离职时所表达的共同担忧。

新团队的首要任务是“评估并进一步发展OpenAI的流程和保障措施”。随后，团队将向OpenAI董事会展示其发现，三位安全团队领导者均在董事会中占有一席之地。董事会将决定如何实施安全团队的建议。

新安全团队的成立是在OpenAI联合创始人兼首席科学家Ilya Sutskever离职后不久。Sutskever曾支持董事会试图推翻Altman的行动，并共同领导了旨在“引导和控制比我们更智能的AI系统”的Superalignment团队。在Sutskever离职后不久，Superalignment团队的另一位联合领导者Jan Leike也宣布离职，并在X上表示OpenAI的安全已经“退居次要位置，让位于闪亮的产品”。据Wired报道，OpenAI随后解散了Superalignment团队。上周，OpenAI政策研究员Gretchen Krueger也因类似的安全顾虑宣布辞职。

除了新的安全委员会，OpenAI还宣布正在测试一种新的AI模型，但并未确认是否为GPT-5。此外，OpenAI本月早些时候还公布了ChatGPT的新声音Sky，听起来与斯嘉丽·约翰逊惊人地相似，Altman甚至在X上暗示了这一点。然而，约翰逊随后确认她拒绝了Altman提供ChatGPT声音的提议。Altman后来表示，OpenAI“从未打算”让Sky听起来像约翰逊，并在公司选定声音演员后才联系了约翰逊。这一事件引起了AI粉丝和评论家的担忧。

OpenAI新安全团队的其他成员包括准备主管Aleksander Madry、安全主管Lilian Weng、对齐科学主管John Schulman、安全主管Matt Knight和首席科学家Jakub Pachocki。但有两位董事会成员——以及Altman本人——领导着新的安全委员会，这似乎并没有真正解决前员工的担忧。

参考链接:

https://www.theverge.com/2024/5/28/24166105/openai-safety-team-sam-altman