谷歌联合OpenAI提出机器人五大安全准则

2016年6月27日,美国《连线》杂志(WIRED)发表文章称,谷歌联合OpenAI(由诸多硅谷大亨联合建立的非营利性人工智能研究机构)提出了机器人五大安全准则,包括:

(1)避免负面的副作用,或确保人工智能系统在追求目标时不会以消极方式破坏其所处环境。

(2)避免奖励机器人作弊。例如,我们不希望清洁机器人用它不能看透的材料把垃圾覆盖起来,以显示清洁工作“已完成”。

(3)可扩展的监督,或确保一个人工智能系统尊重那些“在培训过程中由于太昂贵而无法经常评估”的目标的各个方面。

(4)安全探索,或确保系统不进行可能会带来负面影响的探索性行动。

(5)分发转移的可靠性,或当人工智能系统被放置在一个不同于其训练环境的环境中时,确保其能够正确进行识别及行为。

原文发布于微信公众号 - 人工智能快报(AI_News)

原文发表时间:2016-08-31

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏做全栈攻城狮

语音合成技术,助你把文字变成声音

文章不是简单的的Ctrl C与V,而是一个字一个标点符号慢慢写出来的。我认为这才是是对读者的负责,本教程由技术爱好者成笑笑(博客:http://www.chen...

1151
来自专栏java学习

为什么要学习java?

大家好!这个网站的目标是为了方便大家更好的学习java&android编程。不管你是初学者还是一个经验丰富的程序员,相信这个网站对你都会有很大的帮助。只要大家每...

4068
来自专栏腾讯大数据的专栏

智能可穿戴市场白皮书

本报告《2015智能可穿戴市场白皮书》针对市场现状、发展趋势等进行了研究和分析,详情如下。 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ...

2019
来自专栏微信小程序开发

小程序有哪些优势,你都知道嘛?

与其说小程序是互联网人的又一场盛宴,还不如说是传统行业(主要是第三产业)转型接入互联网+的契机。线下连锁实体和大型独立实体将是第一梯队,商家即将打开松散性联盟的...

36812
来自专栏ThoughtWorks

DevOps发展的9个趋势|洞见

DevOps包含了太多方面的技术和实践,很难通过一个统一的工具链来描述其发展。即便如此,我们仍然可以从ThoughtWorks技术雷达的条目变动中看出一些趋势。...

3704
来自专栏PPV课数据科学社区

大数据从小做起—中小企业的Big Data之道

任何一个时代或者模式的兴起,都离不开与之相关的Killer App,比如,C/S时代的SAP ERP,互联网 1.0 时代的门户,以及互联网 2.0时代的搜索和...

3305
来自专栏老九学堂

程序员的核心竞争力到底是什么?

核心竞争力最早由普拉哈拉德和加里·哈默尔两位教授提出,通常认为核心竞争力,即企业或个人相较于竞争对手而言所具备的竞争优势与核心能力差异。注意,以上都是废话,说白...

3675
来自专栏SAP最佳业务实践

从SAP最佳业务实践看企业管理(63)-SOP-制造成本中心计划

SOP 176 制造成本中心计划 目的 在年度预算流程中,制造成本中心经理为他们各自成本中心的各种成本类型/要素计划成本。这些计划通常的起点是本年度/上一年度的...

2523
来自专栏SDNLAB

Gartner战略技术趋势分析:需要为智慧世界提供强大的边缘和网络

上周,Gartner发布了2019年的十大战略技术趋势,并不令人感到意外的是,在这个名单中边缘和区块链技术从去年开始持续到了2019年。

1161
来自专栏腾讯大讲堂的专栏

如何利用各种“桥梁”,建立跨国沟通的信任

游戏业务运维能够接触现网环境作为玩家与业务项目组、代理开发商之间的”桥梁“,同时也作为业务项目组与代理开发商之间的技术”桥梁“,处于一个核心枢纽岗位的游戏运维人...

1995

扫码关注云+社区