谷歌联合OpenAI提出机器人五大安全准则

2016年6月27日，美国《连线》杂志(WIRED)发表文章称，谷歌联合OpenAI(由诸多硅谷大亨联合建立的非营利性人工智能研究机构)提出了机器人五大安全准则，包括：

（1）避免负面的副作用，或确保人工智能系统在追求目标时不会以消极方式破坏其所处环境。

（2）避免奖励机器人作弊。例如，我们不希望清洁机器人用它不能看透的材料把垃圾覆盖起来，以显示清洁工作“已完成”。

（3）可扩展的监督，或确保一个人工智能系统尊重那些“在培训过程中由于太昂贵而无法经常评估”的目标的各个方面。

（4）安全探索，或确保系统不进行可能会带来负面影响的探索性行动。

（5）分发转移的可靠性，或当人工智能系统被放置在一个不同于其训练环境的环境中时，确保其能够正确进行识别及行为。