首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

OpenAI 超级对齐团队发布新研究成果,可用低等级 AI 模型指导更复杂的模型发展

据 TechCrunch 报道,12 月 15 日,OpenAI 超级对齐(Superalignment)团队发布论文,展示了其关于超级智能对齐的新研究成果。目前,该团队正试图建立适用于未来强大人工智能系统的治理和控制框架。该团队目前确定的方法是,使用一个较弱、不太复杂的 AI 模型(例如 GPT-2)来指导更先进、更复杂的模型模型 (GPT-4) 朝理想的方向发展,远离不良的方向。

此外,OpenAI 启动了一项 1000 万美元的资助计划,以支持超级智能对齐的技术研究,其中部分资金将保留给学术实验室、非营利组织、个人研究人员和研究生。OpenAI 还计划在 2025 年初举办一次关于超对齐的学术会议,届时将分享和推广超对齐奖决赛入围者的工作。

OpenAI 于今年 7 月成立了 Superalignment 团队,由 OpenAI 联合创始人兼首席科学家 Ilya Sutskever 领导,旨在开发引导、规范和管理“超智能”AI 系统的方法。

  • 发表于:
  • 原文链接https://page.om.qq.com/page/ObWGVKnTxElLqIAud-gSrsRQ0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券