无人车的电车难题:生死攸关怎么办?

作者:Eric Schwitzgebel是加州大学河滨分校的哲学教授,也是“Perplexities of Consciousness”的作者。

那是2025年,你和你女儿坐着无人车行驶在太平洋海岸公路上。无人车行驶到一个拐角处,并且探测到一个充满孩子的十字路口。但是你车道突然布满了来自周边岩石带的沙土。此时无人车不受控制突然失灵了,你的车子做了一些计算:如果选择刹车的话,至少会撞死前面的三个小孩。为了保护三个小孩,它应该要带着你和你女儿往悬崖边上行驶吗?

这是一个无意义的想象实验。无人车将会被设计成能够避免与行人和其它交通工具的碰撞。并且它们也会被设计成能够保护它们乘客安全的交通工具,在一个紧急事件中当以上两个目标发生冲突时,接下来会发生什么?

加利福尼亚的机动车系正在起草关于无人车安全行驶的规章。这些条例或许没有具体指明,为了避免伤害他人而向乘客告知处在危险中的冲突避免程序,什么时候是可被接受认可的。例如,穿行两面—行驶在黄色线上或者在冰上进行的不确定移动。

谷歌操纵多辆无人车在加利福尼亚进行街头测试。设想DMW不能坚持特定功能的安全标准。然而,谷歌建议汽车制造商应该自己验证他们交通工具的安全性,从而能够让他们有足够的自由来研发他们认为合适的无人车冲突避免算法。

那对于私人公司来说所担负的责任太大了。因为决定一个无人车怎样在危险的状况下行驶是一个伦理决策的问题。设计无人车冲突避免的软件是一种伦理应用的表现。我们应该将这种无人车冲突避免的设计向公众开放,使得乘客能够看见并且对其进行评价。

管理机构需要设置一些权限。一些规则因为太自私可能被排斥在外。考虑那些不惜一切代价保护车里人的过简单规则。这即意味着如果这辆车经过计算后,认为避免杀死一个行人的唯一方式可能会涉及擦撞到停着的卡车,并且有5%的可能性会使车里的人受伤,基于此,车会转而杀死行人。

其它的规则对于乘客来说太具牺牲性。对于车里的人没有任何尊重的仅仅使其保住大多数人生命的简单规则,将会漠视个人责任。如果是其他司机——现实生活中正常的司机如果发现是他们自己正处于危险中,他们会怎么办?因为一个鲁莽的司机会在急转弯附近加速,难道无人车不仅仅威胁到了你的安全,甚至是还可能威胁到你的生命。

在加利福尼亚州山景城的谷歌实验室不被允许代表我们解决这些困难的问题。

那也就是说,一个好的监管机制在伦理限制的范围内,应该允许汽车制造商的变化和消费者的选择。制造商和车队运营商应该为消费者提供一系列的选择。“当你的孩子在车里的时候,我们随车携带的系统能够感知到,并且优先对后座的乘客进行保护”。车里可能带有激进模式(最大的可允许的行驶速度和竞争性)、安全模式、道德功利模式(可能被公布,并且其他人会赞赏你的仁慈)等等。

一些消费者的自由在伦理上看起来是可取的。要求所有的交通工具使用同一套冲突避免程序,可能会不必要地剥夺了人们选择反映他们价值观的算法的机会。一些人可能会优先选择保护孩子的安全性,胜过保护自己。其他人可能会倾向于平等地保护每位乘客的安全。一些人考虑到代表陌生人的利益,可能比政府要求市民的规则更具自我牺牲精神。

在速度和安全性方面总是能得到平衡,并且不同的乘客会以不同的角度来权衡速度和安全性,就像我们平常的手动驾车时对速度和安全性的考量一样。

此外,尽管我们希望面对紧急状况计算机能够比人更快地反应过来,但是目前我们最好的计算机程序在辨认位于异常、杂乱环境中的物体方面还是落后于人类视觉。假设你的车开着开着,偶然遇到了一个推着一架子衣服赶路的女人。车主们可能会坚持要求无人车执行某种程度上的权限转移,也就是让车辆不要再继续使用通常的算法(algorithm),以免车辆在前方的女人只是一个幻影的情况下也采取了真实情况下的应对、损害到车主们的利益。

关于轮子上设置控制把手的想法有点不切实际——即是关于它所担负的责任。但是未来的一代可能会惊讶我们允许16岁的孩子在车上放着震耳欲聋的音乐,以每小时65英里速度来驾驶无人车,伴随着生死攸关的方向盘转动。一个更好设计的无人车,也许能在长期做得更好。

无人车从不会醉酒驾驶,不会不注视前方道路而去转换收音频道,不会向坐在后座的孩子大喊,然而,它却有决定生与死的力量。我们需要公众一起参与,讨论应该怎样合理地运用这种力量。

原文发布于微信公众号 - 新智元(AI_era)

原文发表时间:2015-12-13

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏镁客网

拔刺 | 如果华为全面进入PC行业会怎样?

从技术上和资金上华为都有资格并且有这个能力全面进军PC市场并且可以在之后站稳脚跟。

672
来自专栏新智元

【AI 引擎】扎克伯格的新年愿望 | 腾讯无人机曝光

1.扎克伯格称 :2016 为自己开发类似钢铁侠的人工智能助手 ? 北京时间1月4日消息,据美国科技博客网站TheVerge报道,新年伊始,Facebook创始...

3404
来自专栏AI科技大本营的专栏

AI一分钟 | 谷歌发布AI使用七原则;中国启动智能高铁自动驾驶试验,时速350公里

6 月 8 日消息,据国外媒体报道,谷歌 CEO Sundar Pichai 周四发布了一篇文章,阐述了谷歌人工智能研究方面的原则(principles),称不...

1035
来自专栏数据和云

甲骨文全球大会2013 领袖缺席

今天是甲骨文全球大会2013上海的开幕之日,出了一点意外,那就是甲骨文的总裁马克赫德临时宣布不能出席今天的开幕演讲,原因是航班问题。 这一理由让大家联想到旧金山...

3306
来自专栏镁客网

渣土车这块城市膏药,什么时候能撕下来?

2018年初,扬州曾在一天之内发生了3起严重交通事故。中午11点,高邮文游南路一辆渣土车与电动车相撞,导致电动车男子死亡。下午1点,扬子江路与古渡路交叉路口发生...

704
来自专栏镁客网

虽获滴滴投资,但我们依旧不看好ofo的未来

772
来自专栏镁客网

高通诉讼请求停售中国iPhone,苹果称其必将失败 | 热点

1900
来自专栏数据的力量

顺丰的野心:物流带动生态圈

1285
来自专栏机器人网

疑似国产“神雕”双机身无人机曝光 长航时反隐身

【环球军事报道】在国内军事类媒体上,一直流传着一张中国军用飞机发展的“族谱图”,该图的绝大部分项目都在后来的公开报道中得到了验证,而最为神秘的则是该图中的“高空...

2816
来自专栏新智元

里程碑!中国第一支智能环卫清洁车队“大路考”(视频)

8月28日,由上海浦东新区环保市容局、上海城建城市运营、Autowise.ai共同研发试点的城市智能环卫清扫车进行城市道路运行试验。

561

扫码关注云+社区