首页
学习
活动
专区
工具
TVP
发布

OpenAI发布通用人工智能研究纲领:以全人类的名义承诺

重大的任务需要重大的责任感,也需要全球的参与。

AI 科技评论按:近期 Facebook 泄露用户数据、针对性影响用户、Uber 无人车事故,以及全球学者联名抵制韩国开发自主武器的事情再次敲响了人工智能安全的警钟。OpenAI 也于昨日发表了一份自己的研究纲领, 表明了自己的科研使命和行动法则,希望担负起自己在「让人工智能造福全人类」这一伟大事业中的责任。文中也涵盖了他们在过去两年的研究中逐渐成形的研究策略,以及来自 OpenAI 内外的各种反馈声音。AI 科技评论编译如下。

OpenAI 的使命是确保通用人工智能(artificial general intelligence,AGI) - 能在多数有经济价值的工作中展现超越人类表现的高度自动化的系统 - 会为全人类带来福祉。OpenAI 不仅希望通过自己的努力直接建造出安全的、有益的通用人工智能,而且同样愿意帮助其它研究组织共同制造出这样的通用人工智能。

为了达到这样的目标,OpenAI 为自己设定了这些纲领:

广泛参与,广泛贡献

OpenAI 承诺,在通用人工智能的开发过程中 OpenAI 将动用所有的影响力,确保它可以造福全人类,以及避免把人工智能/通用人工智能用于会伤害人类的、或者任务中,以及避免它们被过于集中的权力控制。

OpenAI 承担的责任主要要对全人类负责。如果有必要的话,他们准备好了对外分享所有重要的研究资源;同时他们也会积极行动,尽量减小股东和 OpenAI 工作人员之间的利益冲突,保证让更多人从中受益。

通用人工智能的长远安全问题

OpenAI 承诺进行能够保证通用人工智能安全性的研究,并且在整个 AI 研究领域内推动这类研究的大规模展开。

OpenAI 担心末端的通用人工智能开发成为一场竞争性的比赛,在比赛中也就不会分配时间在必要的安全防护措施上。所以,如果在 OpenAI 研发自己的项目之前就出现了一个价值均衡、注重安全的通用人工智能项目,OpenAI 承诺将停止和它竞争,并转而辅助这个项目。OpenAI 未来会针对每个项目列出具体的执行细节,不过典型的触发规则可能会类似「未来两年内能够成功的概率超过一半一半」。

技术带头人

为了能有效地向整个社会展现通用人工智能的影响力,OpenAI 也需要站在 AI 能力开发的前沿 - 在政策和安全性方面仅仅发出声音是不够的。

OpenAI 相信人工智能在通用人工智能之前就会产生广泛的社会影响,OpenAI 也会在与自己的使命和经验相吻合的领域努力保持领导地位。

面向合作

OpenAI 会和其它研究机构以及策略制订机构积极合作,希望能够从中创建一个全球性的合作社区,共同应对通用人工智能的全球性挑战。

OpenAI 承诺将为全社会公开提供信息,帮助社会走向与通用人工智能共处的时代。目前要做的内容包括公开发表大多数的人工智能研究成果,同时 OpenAI 也希望,随着未来对安全和防护的担忧越来越多,他们的老式的成果发表将会减少,更多地转变为分享安全、策略和标准化的研究。

人类何时能研发出真正的通用人工智能还尚未可知,但 OpenAI 相信也希望自己的纲领可以引导自己在通用人工智能的研发过程中体现出全人类的最大利益。

这份纲领发出后,已经有一些学者给出了积极的反馈,非常欢迎 OpenAI 做出这样的举动,同时也认可 OpenAI 积极、坚定的态度,钦佩 OpenAI 公开做出这样的承诺。

AI 科技评论也非常期盼通用人工智能的到来,而且我们也希望它真的到来的那一天真的是全人类的福祉。相信到时肯定会有 OpenAI 的功劳在其中。

对了,我们招人了,了解一下?

4 月 AI 求职季

8 大明星企业

10 场分享盛宴

20 小时独门秘籍

4.10-4.19,我们准时相约!

┏(^0^)┛欢迎分享,明天见!

  • 发表于:
  • 原文链接http://kuaibao.qq.com/s/20180410A1863S00?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券