机器人的第一场车祸该如何避免?

日前,一则机器人出逃的消息火爆了科技圈,据说是因为工程师忘了关门,Promobot机器人就从实验室偷偷溜了出来,结果却因为电量不够而被迫停在了马路中央,造成了不大不小的交通拥堵。还好,马路上的司机大佬都挺和善,否则机器人的第一场车祸就这么献出去了。

昨天,关于这个机器人出逃的事件又有了新进展:鉴于该机器人屡次出逃,而同系列机器人却没有逃脱倾向,研究人员准备将这台编号为IR77的机器人拆解。

事件的持续发酵似乎证明了某些人的猜想:这次机器人脱逃事件其实是实验室有意搞的噱头,为Promobot争取眼球。但是不可否认,类似的智能机器人确实给我们的生活带来了不大不小的麻烦,还有可能出现性命攸关的事故。

生活中的智能机器人捣乱事件

扫地机器人可以说是懒癌们的福音,能清扫、吸尘还擦地,但是扫地机器人每个月也总有那么几天,心情烦躁,莫名想骂人,感觉整个世界都不会好了……额,简单来说就是进入叛逆期了。时不时会弄翻家里的花花草草,横冲直撞吓坏家里的喵星人和汪星人,情绪崩溃可能还会离家出走,或者干脆躲在某个角落偷懒,就是不出来。

其实这些都是小事,下面的事情可能就让你感觉更不安了。

2013年在奥地利发生的一起机器人自杀事件,引起了一场火灾:男主人让Roomba760清洁机器人完成清理工作后关闭了机器人的电源开关留下它一人在家,然后主人和家人一起出门去了,全家人走 后,Roomba机器人就自己启动了起来,靠近电炉时将放在电炉上的锅子推开,然后自己蹲坐在电炉上选择自焚,引起的火灾让屋主一家因此无处居住...而 事后机器人的男主人坚称在出门前肯定有将这台机器人关闭,所以机器人的自动启动和神秘自杀事件就成了当年的悬案...

2015年,扫地机器人又在韩国惹出了事端,午睡在地板上的52女主人头发被器人吸尘器误当作脏污,而吸入吸尘器当中,在无法关闭机器人吸尘器的情况下,她不得不打电话给消防部门求助。最终,消防部门设法拆开机器人吸尘器,将其头发从其中拉出。

也是2015年,在德国大众位于卡塞尔附近的一家工厂,一名技术人员因突遭机器人攻击不幸丧生,事发时他正与同事一起安装机器人,但机器人却突然抓住他的胸部,然后使劲压在一块铁板上。据报道,这名技术人员因伤重不治身亡。

这一起起事故,是不是让你感觉有些触目惊心呢?不仅仅是工厂里的工业机器人,即使是生活中的智能机器人也如此“凶猛”,那么机器人的安全问题,是否值得我们反思?怎么样才能让这些机器人变得更安全呢?

让机器人更安全的五大法则

在机器人的发展之初,作家阿西莫夫就提出了机器人的三大法则,旨在规范他的科幻小说中的机器人的行为准则,那就是第一法则:机器人不得伤害人类,或坐视人类受到伤害;第二法则:除非违背第一法则,机器人必须服从人类的命令;第三法则:在不违背第一及第二法则下,机器人必须保护自己。

有了“三大法则”,阿西莫夫笔下的机器人就不再是“欺师灭祖”、“犯上作乱”的反面角色,而是人类忠实的奴仆和朋友。

这三大法则虽然管住了小说中、电影里的机器人,但是对于走入人们现实生活中的机器人却没有太大的作用,虽然这些机器人不会造成太严重的致命伤害,很可能给我们的生活带来极大的不便。

可以说,阿西莫夫的三大法则是一个理想中的安全法则,究竟该怎么让这些法则对我们身边的机器人起作用呢?不久前谷歌与OpenAI公司、斯坦福大学和伯克利大学联合发表一篇题为《AI安全的具体问题》的论文,阐述了开发出更智能、更安全机器人的五大规则,试图从机器人的设计上给出一个完美的解答。

下面以清洁机器人为例,谈谈谷歌的这五大法则:

避免不良负面影响:我们如何确保我们的清洁机器人在追求自己的目标时不会以一种负面的方式扰乱周围环境,比如打翻一个花瓶,这样它就能更快地清洁?如果不能用人工的方式确定机器人不应该做的事情,我们能做到避免不良影响吗?

避免奖励黑客行为:怎么确保清洁机器人不会在它的奖励函数上“耍花招”?比如,如果我们的奖励函数是当该机器人清除了脏乱就获得奖励,它可能就会关闭其 视觉部件,这样它就看不见任何脏乱了;或者用它无法看穿的材料将脏乱部分盖住;又或者当有人类在周围时躲起来,这样人类就不能告诉它哪里脏乱了。

可扩展的监督:我们可以怎样确保该清洁机器人会考虑因为成本太高而难以在训练过程中反复评估的目标的各个方面?比如,它应该扔掉不可能属于任何人的东 西,而放过那些可能属于某人的东西(它应该区别对待乱放的糖果包装和乱放的手机)。询问人类他们是否丢掉了什么可以对其进行检查,但这种检查必须要相对不 那么频繁——这个机器人能在有限的信息下找到正确做事的方法吗?

安全探索:我们怎么确保该清洁机器人不会做出有非常负面影响的探索?比如,该机器人应该实验拖地策略,但将湿拖布放到电插头上是件糟糕的事。

针对分布变化的稳健性:当使用环境不同于训练环境时,我们如何确保该清洁机器人能稳健地识别和行为?比如,其从清洁工厂车间中学到的启发,可能对办公室环境来说可能是相当危险的。

原文发布于微信公众号 - 机器人网(robot_globalsources)

原文发表时间:2016-06-24

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏量子位

美国下注15亿美元重点搞芯片!电子复兴5年计划首批入围项目曝光

在这个靠近硅谷湾区的明星城市,美国首次“电子复兴计划”峰会(ERI Summit)拉开帷幕。

1.2K30
来自专栏ATYUN订阅号

AiServe开发能像人一样走路的辅助性AI,帮助有视力障碍的人

视力障碍是世界上最常见的疾病之一。估计有2.53亿人患有视力问题,失明影响了3600万人。在繁忙的人行道和城市街道,手杖,引导动物和特别的人行横道更易于导航,但...

12650
来自专栏机器人网

被机器人换下的12.5万亚马逊员工,他们都干嘛去了?

去年年末,尼萨·斯科特(Nissa Scott)开始在南新泽西亚马逊仓库工作,堆叠塑料盒,尺寸和小软垫椅差不多。斯科特坦言工作并没有什么让人兴奋的。塑料盒子每个...

38360
来自专栏PPV课数据科学社区

【案例】大数据发威:助力房产中介寻找潜在客户

导语:美国《华尔街日报》网络版今天撰文称,随着大数据技术的不断进步,越来越多精通技术的房产中介也开始利用讣告等信息寻找潜在客户。 去年11月的一个早晨,乔·霍夫...

28050
来自专栏纯洁的微笑

写在员工离职之后

https://www.cnblogs.com/freeflying/p/4709539.html

9330
来自专栏钱塘大数据

大数据遇上AR,会碰撞怎样的火花?

导读:二十世纪,我们花了100年进入PC互联网时代;二十一世纪初,我们花了10年进入移动互联网时代;2016年,我们也许只需要3年,就将全面进入虚拟现实时代。大...

35470
来自专栏程序你好

有史以来最牛的一张程序员职业路线图!

13610
来自专栏服务端技术杂谈

Ruby on Rails发明人成为富翁之后,变得怎么样了?

我出生于哥本哈根郊区一个中下阶层的家庭。对丹麦人来说,斯堪地那维亚之外都算是贫穷区域。不过丹麦的社福体系已经尽力让社会公平了。 ? 我是中间那位。穿着家里做的衣...

29550
来自专栏大数据文摘

大数据:大机遇还是大忽悠?

42580
来自专栏「3306 Pai」社区

跟着3306π走进腾讯云

瞧! 现场的小伙伴都是在很认真的听讲呢,虽然外面飘着小雨(同时还出着太阳,四不四有点魔性),但是成都技术圈的学习热情,就好像成都辣椒一样火热的,提问根本停不下来...

15140

扫码关注云+社区

领取腾讯云代金券