OpenAI发布AGI发展章程,重点关注安全与合作

今日,OpenAI发布了一篇关于AGI(通用人工智能)的发展章程,从人类共同利益出发,涉及现阶段和未来发展的一些典型问题,在总结了过去两年内行业人士对此的反馈后,虽然AGI的时间线仍不明朗,但仍找出了未来的发展路线和兴趣攻坚点。

AGI作为AI的“升级版”,是未来发展的新趋势,AGI将具有各个狭窄范围的AI能力结合起来,得到具有超强能力的集合体。

OpenAI的目标是确保AGI高级智能系统在最有经济价值的工作上可以超越人类,这样整个人类社会都可以因之受益。

AI的安全性一直是有争议的话题,创造安全性高的AI也是OpenAI的任务,另外,OpenAI也愿意为了达到共同的目标提供帮助。

因此,让我们来看看OpenAI所承诺的几个原则:

广泛的效益

目前AI涉及的范围并不算是宽广,即使在一个独有的领域内达到超前的水平,也不能够泛化。从对人类发展的角度上来讲,必然需要趋利避害,保证AGI的发展会带来广泛的效益,而减少可能会危害到人类的性质。

这也是出于对人类社会的责任考虑的,而OpenAI也承诺,为完成这一目标,虽然需要一些重要的资源和材料,但绝对会减少过程中员工与利益相关者的矛盾和争端,以达成共同利益和目标。

长远上的安全性

在现实中,已有不少影视作品已表现出未来AI的安全隐患,AI有着无限可能,但带来便利的同时也会引起不少威胁。

从AGI的发展现状来看,当AGI的后期发展到一定程度时,安全预防措施是非常有必要的,但可能不会有太充足的时间来准备应对安全隐患。

因此,OpenAI也提到了安全性这个令人担忧的问题,并表示一旦在他们之前出现有价值且关注安全性的项目,就会放弃竞争并协助这项工程。这样解决好逐个协议的细节问题,那么超出一般的突破发展机会可能会在之后两年出现。

技术领导力

若使AGI对社会的影响行之有效,OpenAI认为必须要站在AI性能技术的最前沿,只是主张有关政策和安全性是远远不够的。在AGI成熟前,AI也会对社会影响广泛,而在与其目标和专长相关的这些领域中,OpenAI会发挥其领导力。

合作导向型

在合作方面的展望,OpenAI可以说花了不少心思,无论是研究、政策制度,或是在全球社会处理AGI的相关挑战方面,都提出了合作的愿景。

比如,提供公共物资帮助社会寻找到通往AGI技术的最佳通路。

不过OpenAI也指出,如今这些做法包括发表大部分AI研究,但期望对安全性关注的同时,更加注重增加分享安全、政策和其他标准研究的重要性。

AI在人们的生活逐渐变得普遍,那么作为更高级的AGI时代的到来,也确实令人愈发期待。

本文分享自微信公众号 - ATYUN订阅号(atyun_com)

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2018-04-10

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏人工智能快报

趋势观察:德国机器人及自动化技术贸易博览会2016

德国机器人及自动化技术贸易博览会2016(AUTOMATICA 2016)于2016年6月在德国慕尼黑举办。这场盛大展会以自动化、机械电子学、机器人及有关工业和...

35590
来自专栏腾讯研究院的专栏

大数据专家:小企业也能利用好大数据

表面看起来,大数据似乎只有大企业能够用得上。当人们首次听说海量的信息被用于反恐、治愈癌症或预测埃博拉疫情时,我们的第一印象是这些大数据很昂贵,且耗时费力。但实...

19980
来自专栏科技向令说

深度干货 :成为中国SaaS独角兽前,你需要解决这几关键问题

前有资本市场热捧,后有BAT巨头坐镇、无数创新创业者追随,中间有强大的市场需求,经历2015年的爆发式喧嚣,如今的SaaS行业规模已今非昔比,不论从融资规模、行...

11420
来自专栏人工智能

AI时代的互联网走向

人工智能红遍半边天,也不能不蹭一下热点。虽然目前真正落地的应用还寥寥无几,尤其是to C方面,离大面积到来还需假以时日,但无论如何这让从业人员感受到了焦虑。都说...

212100
来自专栏孟永辉

当你在期待苹果发布会的时候,你到底在期待什么?

我们对于一件事情的期待很多时候并不是内心真正所期待的,它与外界的鼓动与怂恿有着莫大的关系。正如苹果发布会一样,尽管我们知道今年的苹果发布会并不会给我们带来任何的...

7510
来自专栏企鹅号快讯

对比手游和PC游戏的发展,小程序会成为手游开发的热点?

看历来的PC端的发展,预测手机端(智能手机)很有价值。 一.单机vs休闲游戏 硬件和网络影响都会影响游戏行业的发展,单机,是比较好发展。 PC端,一步步发展而来...

24180
来自专栏人称T客

没有资源、没有靠山的SaaS创业者该如何白手起家?|SaaS峰会

编辑:T客汇 张宇婷 关键词:SaaS、创业 本文总结自第二届SaaS峰会圆桌对话环节。对话嘉宾:肯耐珂萨CEO沈健、销售易联合创始人郑翔、六度人和CEO张...

34840
来自专栏机器人网

谷歌已制造50个机器臂,就是任性坚决不卖

据AFR报道,谷歌本周公布了机器人研究细节,详细介绍其软件如何支持机器人互相学习。为了证明其技术,谷歌科学家展示了视频,显示机器人手臂在实验室中旋转的场景。谷歌...

37070
来自专栏人称T客

移动信息化研究中心分析师吴勇:用尽洪荒之力,做一个优胜CIO

T客汇官网:tikehui 撰文 |方方 由移动信息化研究中心和T客汇共同举办的中美SaaS峰会|2017年中国SaaS产业峰会于2017年5月10日在北京新云...

38060
来自专栏罗超频道

一点资讯在OPPO恢复真身,手机公司都会成互联网公司?

内容分发大战在2017年愈演愈烈。在今日头条不断扩张到问答等新领域、高调挖大V之时,个性化资讯客户端的另一个玩家一点资讯也加快了步伐。近日我注意到,OPPO手机...

34950

扫码关注云+社区

领取腾讯云代金券