OpenAI发布AGI发展章程,重点关注安全与合作

AiTechYun

编辑:chux

今日,OpenAI发布了一篇关于AGI(通用人工智能)的发展章程,从人类共同利益出发,涉及现阶段和未来发展的一些典型问题,在总结了过去两年内行业人士对此的反馈后,虽然AGI的时间线仍不明朗,但仍找出了未来的发展路线和兴趣攻坚点。

AGI作为AI的“升级版”,是未来发展的新趋势,AGI将具有各个狭窄范围的AI能力结合起来,得到具有超强能力的集合体。

OpenAI的目标是确保AGI高级智能系统在最有经济价值的工作上可以超越人类,这样整个人类社会都可以因之受益。

AI的安全性一直是有争议的话题,创造安全性高的AI也是OpenAI的任务,另外,OpenAI也愿意为了达到共同的目标提供帮助。

因此,让我们来看看OpenAI所承诺的几个原则:

广泛的效益

目前AI涉及的范围并不算是宽广,即使在一个独有的领域内达到超前的水平,也不能够泛化。从对人类发展的角度上来讲,必然需要趋利避害,保证AGI的发展会带来广泛的效益,而减少可能会危害到人类的性质。

这也是出于对人类社会的责任考虑的,而OpenAI也承诺,为完成这一目标,虽然需要一些重要的资源和材料,但绝对会减少过程中员工与利益相关者的矛盾和争端,以达成共同利益和目标。

长远上的安全性

在现实中,已有不少影视作品已表现出未来AI的安全隐患,AI有着无限可能,但带来便利的同时也会引起不少威胁。

从AGI的发展现状来看,当AGI的后期发展到一定程度时,安全预防措施是非常有必要的,但可能不会有太充足的时间来准备应对安全隐患。

因此,OpenAI也提到了安全性这个令人担忧的问题,并表示一旦在他们之前出现有价值且关注安全性的项目,就会放弃竞争并协助这项工程。这样解决好逐个协议的细节问题,那么超出一般的突破发展机会可能会在之后两年出现。

技术领导力

若使AGI对社会的影响行之有效,OpenAI认为必须要站在AI性能技术的最前沿,只是主张有关政策和安全性是远远不够的。在AGI成熟前,AI也会对社会影响广泛,而在与其目标和专长相关的这些领域中,OpenAI会发挥其领导力。

合作导向型

在合作方面的展望,OpenAI可以说花了不少心思,无论是研究、政策制度,或是在全球社会处理AGI的相关挑战方面,都提出了合作的愿景。

比如,提供公共物资帮助社会寻找到通往AGI技术的最佳通路。

不过OpenAI也指出,如今这些做法包括发表大部分AI研究,但期望对安全性关注的同时,更加注重增加分享安全、政策和其他标准研究的重要性。

AI在人们的生活逐渐变得普遍,那么作为更高级的AGI时代的到来,也确实令人愈发期待。

  • 发表于:
  • 原文链接http://kuaibao.qq.com/s/20180410A0ZICJ00?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 yunjia_community@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券