谷歌联合OpenAI提出机器人五大安全准则

2016年6月27日,美国《连线》杂志(WIRED)发表文章称,谷歌联合OpenAI(由诸多硅谷大亨联合建立的非营利性人工智能研究机构)提出了机器人五大安全准则,包括:

(1)避免负面的副作用,或确保人工智能系统在追求目标时不会以消极方式破坏其所处环境。

(2)避免奖励机器人作弊。例如,我们不希望清洁机器人用它不能看透的材料把垃圾覆盖起来,以显示清洁工作“已完成”。

(3)可扩展的监督,或确保一个人工智能系统尊重那些“在培训过程中由于太昂贵而无法经常评估”的目标的各个方面。

(4)安全探索,或确保系统不进行可能会带来负面影响的探索性行动。

(5)分发转移的可靠性,或当人工智能系统被放置在一个不同于其训练环境的环境中时,确保其能够正确进行识别及行为。

原文发布于微信公众号 - 人工智能快报(AI_News)

原文发表时间:2016-08-31

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏java学习

为什么要学习java?

大家好!这个网站的目标是为了方便大家更好的学习java&android编程。不管你是初学者还是一个经验丰富的程序员,相信这个网站对你都会有很大的帮助。只要大家每...

4018
来自专栏微信小程序开发

小程序有哪些优势,你都知道嘛?

与其说小程序是互联网人的又一场盛宴,还不如说是传统行业(主要是第三产业)转型接入互联网+的契机。线下连锁实体和大型独立实体将是第一梯队,商家即将打开松散性联盟的...

35212
来自专栏ThoughtWorks

DevOps发展的9个趋势|洞见

DevOps包含了太多方面的技术和实践,很难通过一个统一的工具链来描述其发展。即便如此,我们仍然可以从ThoughtWorks技术雷达的条目变动中看出一些趋势。...

3644
来自专栏云计算D1net

部署IaaS要考虑SaaS

在部署IaaS之前,请首先考虑SaaS的选项,因为它可以为你的IT团队产生更大的回报。 亚马逊网络服务和基础架构即服务(IaaS)可能是市场上最引人注目的服务,...

3568
来自专栏SAP最佳业务实践

从SAP最佳业务实践看企业管理(63)-SOP-制造成本中心计划

SOP 176 制造成本中心计划 目的 在年度预算流程中,制造成本中心经理为他们各自成本中心的各种成本类型/要素计划成本。这些计划通常的起点是本年度/上一年度的...

2443
来自专栏做全栈攻城狮

语音合成技术,助你把文字变成声音

文章不是简单的的Ctrl C与V,而是一个字一个标点符号慢慢写出来的。我认为这才是是对读者的负责,本教程由技术爱好者成笑笑(博客:http://www.chen...

561
来自专栏人称T客

解读企业移动化时钟 哪些是朝阳更受资本关注?

对于每一个移动技术企业来说,应该清楚自已的产品在整个市场生命周期的位置并采取应对措施。我们使用12小时的钟面作为隐喻,清晰的呈现你所在的公司在12小时周期里是青...

2865
来自专栏大数据文摘

2014年微博用户发展报告(44PPT)

1062
来自专栏智能计算时代

研究人员说,测试是物联网安全的关键

据该研究人员介绍,与产品相关的所有元素建立有效的测试流程是确保物联网的关键 “最重要的一点是,当我们考虑物联网的安全性时,我们不要过分关注嵌入式技术硬件,这是研...

3505
来自专栏云计算D1net

混合云应用于灾难恢复的时机到了吗?

由于一系列重大发展,包括企业对混合云的兴趣与日俱增,2015年对企业采用云而言会是关键的一年。 混合云迎来高速发展 众多的报告和调查预测,混合云市场将迎来高速发...

2253

扫码关注云+社区