OpenAI承诺向美国政府提前提供下一代AI模型

科技巨头OpenAI于2024年8月1日宣布，将向美国人工智能安全研究所（US AI Safety Institute）提前开放其即将推出的AI模型，以加强AI领域的安全评估与合作。OpenAI首席执行官萨姆·奥特曼（Sam Altman）在推特上透露，公司已与该研究所紧密合作，共同推进AI评价科学的发展。此举旨在通过科学依据和实证支持，为全球AI安全制定指导方针和标准。

今年早些时候，美国国家标准与技术研究院（NIST）正式成立了人工智能安全研究所，尽管副总统卡玛拉·哈里斯早在2023年的英国AI安全峰会上就已宣布了这一计划。去年，OpenAI与DeepMind同样承诺与英国政府共享AI模型，然而近期有担忧指出，随着更强大AI模型的开发，OpenAI似乎降低了对安全性的重视。此前，OpenAI解散了旨在确保人类安全的超对齐团队（Superalignment team），并经历了团队领导层的变动，引发了外界对其内部安全文化和流程的质疑。面对这些挑战，OpenAI于今年五月重组了安全团队，但由包括奥特曼在内的董事会成员领导，这引发了自我监管的担忧。尽管如此，OpenAI重申了其对安全投入的承诺，表示将至少分配公司20%的计算资源用于安全努力。