无人车的电车难题:生死攸关怎么办?

作者:Eric Schwitzgebel是加州大学河滨分校的哲学教授,也是“Perplexities of Consciousness”的作者。

那是2025年,你和你女儿坐着无人车行驶在太平洋海岸公路上。无人车行驶到一个拐角处,并且探测到一个充满孩子的十字路口。但是你车道突然布满了来自周边岩石带的沙土。此时无人车不受控制突然失灵了,你的车子做了一些计算:如果选择刹车的话,至少会撞死前面的三个小孩。为了保护三个小孩,它应该要带着你和你女儿往悬崖边上行驶吗?

这是一个无意义的想象实验。无人车将会被设计成能够避免与行人和其它交通工具的碰撞。并且它们也会被设计成能够保护它们乘客安全的交通工具,在一个紧急事件中当以上两个目标发生冲突时,接下来会发生什么?

加利福尼亚的机动车系正在起草关于无人车安全行驶的规章。这些条例或许没有具体指明,为了避免伤害他人而向乘客告知处在危险中的冲突避免程序,什么时候是可被接受认可的。例如,穿行两面—行驶在黄色线上或者在冰上进行的不确定移动。

谷歌操纵多辆无人车在加利福尼亚进行街头测试。设想DMW不能坚持特定功能的安全标准。然而,谷歌建议汽车制造商应该自己验证他们交通工具的安全性,从而能够让他们有足够的自由来研发他们认为合适的无人车冲突避免算法。

那对于私人公司来说所担负的责任太大了。因为决定一个无人车怎样在危险的状况下行驶是一个伦理决策的问题。设计无人车冲突避免的软件是一种伦理应用的表现。我们应该将这种无人车冲突避免的设计向公众开放,使得乘客能够看见并且对其进行评价。

管理机构需要设置一些权限。一些规则因为太自私可能被排斥在外。考虑那些不惜一切代价保护车里人的过简单规则。这即意味着如果这辆车经过计算后,认为避免杀死一个行人的唯一方式可能会涉及擦撞到停着的卡车,并且有5%的可能性会使车里的人受伤,基于此,车会转而杀死行人。

其它的规则对于乘客来说太具牺牲性。对于车里的人没有任何尊重的仅仅使其保住大多数人生命的简单规则,将会漠视个人责任。如果是其他司机——现实生活中正常的司机如果发现是他们自己正处于危险中,他们会怎么办?因为一个鲁莽的司机会在急转弯附近加速,难道无人车不仅仅威胁到了你的安全,甚至是还可能威胁到你的生命。

在加利福尼亚州山景城的谷歌实验室不被允许代表我们解决这些困难的问题。

那也就是说,一个好的监管机制在伦理限制的范围内,应该允许汽车制造商的变化和消费者的选择。制造商和车队运营商应该为消费者提供一系列的选择。“当你的孩子在车里的时候,我们随车携带的系统能够感知到,并且优先对后座的乘客进行保护”。车里可能带有激进模式(最大的可允许的行驶速度和竞争性)、安全模式、道德功利模式(可能被公布,并且其他人会赞赏你的仁慈)等等。

一些消费者的自由在伦理上看起来是可取的。要求所有的交通工具使用同一套冲突避免程序,可能会不必要地剥夺了人们选择反映他们价值观的算法的机会。一些人可能会优先选择保护孩子的安全性,胜过保护自己。其他人可能会倾向于平等地保护每位乘客的安全。一些人考虑到代表陌生人的利益,可能比政府要求市民的规则更具自我牺牲精神。

在速度和安全性方面总是能得到平衡,并且不同的乘客会以不同的角度来权衡速度和安全性,就像我们平常的手动驾车时对速度和安全性的考量一样。

此外,尽管我们希望面对紧急状况计算机能够比人更快地反应过来,但是目前我们最好的计算机程序在辨认位于异常、杂乱环境中的物体方面还是落后于人类视觉。假设你的车开着开着,偶然遇到了一个推着一架子衣服赶路的女人。车主们可能会坚持要求无人车执行某种程度上的权限转移,也就是让车辆不要再继续使用通常的算法(algorithm),以免车辆在前方的女人只是一个幻影的情况下也采取了真实情况下的应对、损害到车主们的利益。

关于轮子上设置控制把手的想法有点不切实际——即是关于它所担负的责任。但是未来的一代可能会惊讶我们允许16岁的孩子在车上放着震耳欲聋的音乐,以每小时65英里速度来驾驶无人车,伴随着生死攸关的方向盘转动。一个更好设计的无人车,也许能在长期做得更好。

无人车从不会醉酒驾驶,不会不注视前方道路而去转换收音频道,不会向坐在后座的孩子大喊,然而,它却有决定生与死的力量。我们需要公众一起参与,讨论应该怎样合理地运用这种力量。

原文发布于微信公众号 - 新智元(AI_era)

原文发表时间:2015-12-13

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏VRPinea

CES 2018:打破“PPT造车”魔咒,量产才是企业最好的宣传

3484
来自专栏新智元

《福布斯》:通用必须要把最好的技术留给无人驾驶

【新智元导读】《福布斯》本周一刊文介绍通用半自动驾驶系统Super Cruise。有鉴于该系统的神秘性,新智元对本文做了译介。对照本周【智驾深谈】,可以进一步看...

50714
来自专栏CSDN技术头条

干货|用户深度体验报告:Uber的产品和算法NB在哪?

这两周多次尝试了Uber的服务,感觉和大部分打车行业的规则都是反着来的,我大概分两个部分说说:算法和产品设计。 神奇的算法以及计价系统 1、Uber有一套自己的...

21210
来自专栏企鹅号快讯

签下北方最大港口,聚焦无人驾驶卡车技术的主线科技朝商业化又进一步

文 | 张梦华 来自新智驾(AI-Drive)的报道 “要么省钱,要么省事,或者能保证安全。”张天雷的这句话也代表了眼下业内对无人驾驶落地条件的普遍认知。 20...

2136
来自专栏新智元

美国监管机构:谷歌无人驾驶合法化,自驾系统即是司机

据英国《每日邮报》3月27日特别报道,美国车辆安全监管机构表示,由人工智能系统驾驶的谷歌无人驾驶车,将被认为符合联邦法律。这将是道路车辆自动化上重要的一大步。谷...

3145
来自专栏量子位

中国无人车路测法规正在来的路上,明年一季度可能是历史性节点

允中 发自 凹非寺 量子位 报道 | 公众号 QbitAI ? 中国无人车上路的相关法案,可能正在无限接近发布。 此前9月4日,工信部装备司组织召开了《智能网...

3418
来自专栏机器人网

无人驾驶汽车能救命,还能创造经济效益?

据《福布斯》杂志网络版报道,无人驾驶汽车不但能够拯救众多生命,降低政府开支,还能为车主节省大量时间,从而忙于其它事情,创造出巨大经济效益。 拯救生命 首先,...

3666
来自专栏星流全栈

特斯拉Model 3发布会现场视频

1113
来自专栏新智元

【智驾周刊】特斯拉公布驾驶数据 | Cruise和GM测试雪佛兰Bolt

2016.5.28 | Vol .1 AutoDriving Weekly 【智驾周刊】旨在汇聚智能驾驶领域一周要闻,并点评供读者参考,内容包括喜闻乐见的新...

2694
来自专栏PPV课数据科学社区

【聚焦】车联网:有了大数据,再也不担心疲劳驾驶了

早在很久之前,我就想像着自己能驰骋在一望无际的高速公路上。   像这样。。。 ?   但在现实里,却是这样。。。 ?   醒来后这样。。。 ?   为了不...

3645

扫码关注云+社区