谷歌联合OpenAI提出机器人五大安全准则

2016年6月27日,美国《连线》杂志(WIRED)发表文章称,谷歌联合OpenAI(由诸多硅谷大亨联合建立的非营利性人工智能研究机构)提出了机器人五大安全准则,包括:

(1)避免负面的副作用,或确保人工智能系统在追求目标时不会以消极方式破坏其所处环境。

(2)避免奖励机器人作弊。例如,我们不希望清洁机器人用它不能看透的材料把垃圾覆盖起来,以显示清洁工作“已完成”。

(3)可扩展的监督,或确保一个人工智能系统尊重那些“在培训过程中由于太昂贵而无法经常评估”的目标的各个方面。

(4)安全探索,或确保系统不进行可能会带来负面影响的探索性行动。

(5)分发转移的可靠性,或当人工智能系统被放置在一个不同于其训练环境的环境中时,确保其能够正确进行识别及行为。

原文发布于微信公众号 - 人工智能快报(AI_News)

原文发表时间:2016-08-31

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏企鹅号快讯

DeepMind哈萨比斯对话哈里王子:2018年AI最大的突破在生物或化学

新智元报道 编辑:刘小芹 胡祥杰 【新智元导读】BBC 电台第四台连续第14年在圣诞和新年之间,邀请公众人物以客座编辑身份参与制作时事节目 “Today”。今...

18110
来自专栏新智元

【V直播】网易有道周枫:神经翻译更懂人话,谷歌入华影响不大

嘉宾:网易高级副总裁、网易有道CEO 周枫 【新智元导读】本周,新智元V享圈请来网易高级副总裁、网易有道CEO周枫一起畅聊机器翻译。周枫分享了有道在自然语言处理...

32112
来自专栏新智元

【把机器人当人看】图灵发布具备情感和思维强化的机器人操作系统

今天北京初雪,但没有挡住众多机器人产业界精英对图灵机器人新品发布会的强烈好奇与热情。俞志晨是国内人工智能创业团队里最受关注的新星之一,他对机器人事业的虔诚...

34010
来自专栏机器之心

资讯 | DeepMind首个国际AI研究室落户加拿大, 强化学习之父Rich Sutton领导

选自 DeepMind Blog 机器之心编译 参与:黄小天、Smith 近日,DeepMind 在其官网上宣布在加拿大阿尔伯特省 Edmonton 市成立其...

32611
来自专栏机器人网

自动化如何影响我们?5天工作制或成过去

据BBC报道,越来越多的公司正开始引入智能机器,以取代效率低下、成本高昂的人类雇员。那么有关自动化你需要了解哪些东西?以及它会对你的工作造成什么样的影响?使用柔...

2606
来自专栏AI科技评论

专访百度吴恩达:深度学习能给一个公司带来什么价值

GAIR 今年夏天,雷锋网将在深圳举办一场盛况空前的“全球人工智能与机器人峰会”(简称CCF-GAIR)。大会现场,谷歌,DeepMind,Uber,微软等巨头...

3046
来自专栏量子位

谷歌AI研究大爆发:一年发218篇机器学习论文,近年研究人员增两倍

李杉 编译自 Technology Review 量子位 出品 | 公众号:QbitAI 《自然》、《美国国家科学院院刊》、《美国医学会期刊》,这些都是当今世界...

3006
来自专栏AI研习社

史蒂芬·霍金旧文回顾:我不认为人工智能必然会良性发展

2018 年 3 月 14 日,英国物理学家与宇宙学家史蒂芬·霍金(Stephen William Hawking)去世,享年 76 岁。 霍金于 1942 年...

3928
来自专栏人工智能LeadAI

报告丨2016年全球人工智能十大热点事件

? 2016年,全球人工智能技术和产业发展迅速,公众对人工智能的关注持续上升。在对该领域的重要事件进行分析和比较的基础上,选取了2016年该领域十个最具有影响...

2677
来自专栏罗超频道

专访吴恩达:加入百度一切比预想的要快

吴恩达,百度的首席科学家和技术名片,这位中文讲得一塌糊涂的美籍华人成为百度世界2014的一个“彩蛋”。吴恩达不算太长的演讲依然挑战了听众的耳朵。这是他第一次公开...

3357

扫描关注云+社区