谷歌联合OpenAI提出机器人五大安全准则

2016年6月27日,美国《连线》杂志(WIRED)发表文章称,谷歌联合OpenAI(由诸多硅谷大亨联合建立的非营利性人工智能研究机构)提出了机器人五大安全准则,包括:

(1)避免负面的副作用,或确保人工智能系统在追求目标时不会以消极方式破坏其所处环境。

(2)避免奖励机器人作弊。例如,我们不希望清洁机器人用它不能看透的材料把垃圾覆盖起来,以显示清洁工作“已完成”。

(3)可扩展的监督,或确保一个人工智能系统尊重那些“在培训过程中由于太昂贵而无法经常评估”的目标的各个方面。

(4)安全探索,或确保系统不进行可能会带来负面影响的探索性行动。

(5)分发转移的可靠性,或当人工智能系统被放置在一个不同于其训练环境的环境中时,确保其能够正确进行识别及行为。

原文发布于微信公众号 - 人工智能快报(AI_News)

原文发表时间:2016-08-31

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏熊二哥

项目管理深入理解06--风险管理

风险这一章节比较有意思,涉及蒙特卡洛分析(到目前为止不知道是啥)等内容,需要细心理解和记忆。几天大老板James又退休了,自己更加要好好努力,力争有更大进步。 ...

20110
来自专栏IT派

继浙大之后波士顿又发机器人视频了!

IT派 - {技术青年圈} 持续关注互联网、大数据、人工智能领域 Open AI的员工Jack Clark最近发布的一条推特,记录了波士顿动力Spot机器人...

3234
来自专栏镁客网

为什么老年人很健忘?科学家团队利用脑电波揭示了原因 | 黑科技

940
来自专栏钱塘大数据

最新全球计算机科学排名:清华力压CMU,人工智能第一

最新的计算机科学实力排名来了!近日,马萨诸塞大学计算机与信息科学学院教授 Emery Berger 发布一个全球院校计算机科学领域实力排名的开源项目 CSran...

1365
来自专栏新智元

【OpenAI对标DeepMind】马斯克要用开源对抗巨头,现在却饱受质疑

【新智元导读】 DOTA2的比赛让OpenAI 火了一把。对于Open AI, 我们知道它是一家非盈利的,要用开放的方法研究通用人工智能,为人类带来福祉的研究机...

3265
来自专栏大数据文摘

可视化告诉你,大数据究竟是什么?

823
来自专栏数据科学与人工智能

【陆勤阅读】从执行到专家,不同阶层数据分析师都在做什么呢

数据跟踪员:机械拷贝看到的数据,很少处理数据 虽然这个工作的人还不能称作数据分析师,但是往往作这样工作的人还都自称是数据分析师,这样的人,只能通过×××系统看到...

2078
来自专栏CDA数据分析师

从执行到专家:数据分析师的职业层级划分

1、数据跟踪员:机械拷贝看到的数据,很少处理数据 虽然这个工作的人还不能称作数据分析师,但是往往作这样工作的人还都自称是数据分析师,这样的人,只能通过×××系...

19410
来自专栏AI科技评论

业界 | 担心隐私泄露?微软亚洲研究院发布PrivTree项目保你安全

2011 年微软进行的一项调查显示,有 94% 的用户认为基于地理位置的服务具有价值。但是调查中也显示,52% 的人也关注与使用地理位置数据有关的隐私问题。 我...

2906
来自专栏大数据挖掘DT机器学习

从执行到专家,不同阶层数据分析师都在做什么呢

1数据跟踪员:机械拷贝看到的数据,很少处理数据 虽然这个工作的人还不能称作数据分析师,但是往往作这样工作的人还都自称是数据分析师,这样的人,只能通过×××系统看...

3397

扫码关注云+社区