机器人的第一场车祸该如何避免？

日前，一则机器人出逃的消息火爆了科技圈，据说是因为工程师忘了关门，Promobot机器人就从实验室偷偷溜了出来，结果却因为电量不够而被迫停在了马路中央，造成了不大不小的交通拥堵。还好，马路上的司机大佬都挺和善，否则机器人的第一场车祸就这么献出去了。

昨天，关于这个机器人出逃的事件又有了新进展：鉴于该机器人屡次出逃，而同系列机器人却没有逃脱倾向，研究人员准备将这台编号为IR77的机器人拆解。

事件的持续发酵似乎证明了某些人的猜想：这次机器人脱逃事件其实是实验室有意搞的噱头，为Promobot争取眼球。但是不可否认，类似的智能机器人确实给我们的生活带来了不大不小的麻烦，还有可能出现性命攸关的事故。

生活中的智能机器人捣乱事件

扫地机器人可以说是懒癌们的福音，能清扫、吸尘还擦地，但是扫地机器人每个月也总有那么几天，心情烦躁，莫名想骂人，感觉整个世界都不会好了……额，简单来说就是进入叛逆期了。时不时会弄翻家里的花花草草，横冲直撞吓坏家里的喵星人和汪星人，情绪崩溃可能还会离家出走，或者干脆躲在某个角落偷懒，就是不出来。

其实这些都是小事，下面的事情可能就让你感觉更不安了。

2013年在奥地利发生的一起机器人自杀事件，引起了一场火灾：男主人让Roomba760清洁机器人完成清理工作后关闭了机器人的电源开关留下它一人在家，然后主人和家人一起出门去了，全家人走 后，Roomba机器人就自己启动了起来，靠近电炉时将放在电炉上的锅子推开，然后自己蹲坐在电炉上选择自焚，引起的火灾让屋主一家因此无处居住...而 事后机器人的男主人坚称在出门前肯定有将这台机器人关闭，所以机器人的自动启动和神秘自杀事件就成了当年的悬案...

2015年，扫地机器人又在韩国惹出了事端，午睡在地板上的52女主人头发被器人吸尘器误当作脏污，而吸入吸尘器当中，在无法关闭机器人吸尘器的情况下，她不得不打电话给消防部门求助。最终，消防部门设法拆开机器人吸尘器，将其头发从其中拉出。

也是2015年，在德国大众位于卡塞尔附近的一家工厂，一名技术人员因突遭机器人攻击不幸丧生，事发时他正与同事一起安装机器人，但机器人却突然抓住他的胸部，然后使劲压在一块铁板上。据报道，这名技术人员因伤重不治身亡。

这一起起事故，是不是让你感觉有些触目惊心呢？不仅仅是工厂里的工业机器人，即使是生活中的智能机器人也如此“凶猛”，那么机器人的安全问题，是否值得我们反思？怎么样才能让这些机器人变得更安全呢？

让机器人更安全的五大法则

在机器人的发展之初，作家阿西莫夫就提出了机器人的三大法则，旨在规范他的科幻小说中的机器人的行为准则，那就是第一法则:机器人不得伤害人类，或坐视人类受到伤害；第二法则:除非违背第一法则，机器人必须服从人类的命令；第三法则:在不违背第一及第二法则下，机器人必须保护自己。

有了“三大法则”，阿西莫夫笔下的机器人就不再是“欺师灭祖”、“犯上作乱”的反面角色，而是人类忠实的奴仆和朋友。

这三大法则虽然管住了小说中、电影里的机器人，但是对于走入人们现实生活中的机器人却没有太大的作用，虽然这些机器人不会造成太严重的致命伤害，很可能给我们的生活带来极大的不便。

可以说，阿西莫夫的三大法则是一个理想中的安全法则，究竟该怎么让这些法则对我们身边的机器人起作用呢？不久前谷歌与OpenAI公司、斯坦福大学和伯克利大学联合发表一篇题为《AI安全的具体问题》的论文，阐述了开发出更智能、更安全机器人的五大规则，试图从机器人的设计上给出一个完美的解答。

下面以清洁机器人为例，谈谈谷歌的这五大法则：

避免不良负面影响：我们如何确保我们的清洁机器人在追求自己的目标时不会以一种负面的方式扰乱周围环境，比如打翻一个花瓶，这样它就能更快地清洁？如果不能用人工的方式确定机器人不应该做的事情，我们能做到避免不良影响吗？

避免奖励黑客行为：怎么确保清洁机器人不会在它的奖励函数上“耍花招”？比如，如果我们的奖励函数是当该机器人清除了脏乱就获得奖励，它可能就会关闭其 视觉部件，这样它就看不见任何脏乱了；或者用它无法看穿的材料将脏乱部分盖住；又或者当有人类在周围时躲起来，这样人类就不能告诉它哪里脏乱了。

可扩展的监督：我们可以怎样确保该清洁机器人会考虑因为成本太高而难以在训练过程中反复评估的目标的各个方面？比如，它应该扔掉不可能属于任何人的东 西，而放过那些可能属于某人的东西（它应该区别对待乱放的糖果包装和乱放的手机）。询问人类他们是否丢掉了什么可以对其进行检查，但这种检查必须要相对不 那么频繁——这个机器人能在有限的信息下找到正确做事的方法吗？

安全探索：我们怎么确保该清洁机器人不会做出有非常负面影响的探索？比如，该机器人应该实验拖地策略，但将湿拖布放到电插头上是件糟糕的事。

针对分布变化的稳健性：当使用环境不同于训练环境时，我们如何确保该清洁机器人能稳健地识别和行为？比如，其从清洁工厂车间中学到的启发，可能对办公室环境来说可能是相当危险的。