无人车的电车难题:生死攸关怎么办?

作者:Eric Schwitzgebel是加州大学河滨分校的哲学教授,也是“Perplexities of Consciousness”的作者。

那是2025年,你和你女儿坐着无人车行驶在太平洋海岸公路上。无人车行驶到一个拐角处,并且探测到一个充满孩子的十字路口。但是你车道突然布满了来自周边岩石带的沙土。此时无人车不受控制突然失灵了,你的车子做了一些计算:如果选择刹车的话,至少会撞死前面的三个小孩。为了保护三个小孩,它应该要带着你和你女儿往悬崖边上行驶吗?

这是一个无意义的想象实验。无人车将会被设计成能够避免与行人和其它交通工具的碰撞。并且它们也会被设计成能够保护它们乘客安全的交通工具,在一个紧急事件中当以上两个目标发生冲突时,接下来会发生什么?

加利福尼亚的机动车系正在起草关于无人车安全行驶的规章。这些条例或许没有具体指明,为了避免伤害他人而向乘客告知处在危险中的冲突避免程序,什么时候是可被接受认可的。例如,穿行两面—行驶在黄色线上或者在冰上进行的不确定移动。

谷歌操纵多辆无人车在加利福尼亚进行街头测试。设想DMW不能坚持特定功能的安全标准。然而,谷歌建议汽车制造商应该自己验证他们交通工具的安全性,从而能够让他们有足够的自由来研发他们认为合适的无人车冲突避免算法。

那对于私人公司来说所担负的责任太大了。因为决定一个无人车怎样在危险的状况下行驶是一个伦理决策的问题。设计无人车冲突避免的软件是一种伦理应用的表现。我们应该将这种无人车冲突避免的设计向公众开放,使得乘客能够看见并且对其进行评价。

管理机构需要设置一些权限。一些规则因为太自私可能被排斥在外。考虑那些不惜一切代价保护车里人的过简单规则。这即意味着如果这辆车经过计算后,认为避免杀死一个行人的唯一方式可能会涉及擦撞到停着的卡车,并且有5%的可能性会使车里的人受伤,基于此,车会转而杀死行人。

其它的规则对于乘客来说太具牺牲性。对于车里的人没有任何尊重的仅仅使其保住大多数人生命的简单规则,将会漠视个人责任。如果是其他司机——现实生活中正常的司机如果发现是他们自己正处于危险中,他们会怎么办?因为一个鲁莽的司机会在急转弯附近加速,难道无人车不仅仅威胁到了你的安全,甚至是还可能威胁到你的生命。

在加利福尼亚州山景城的谷歌实验室不被允许代表我们解决这些困难的问题。

那也就是说,一个好的监管机制在伦理限制的范围内,应该允许汽车制造商的变化和消费者的选择。制造商和车队运营商应该为消费者提供一系列的选择。“当你的孩子在车里的时候,我们随车携带的系统能够感知到,并且优先对后座的乘客进行保护”。车里可能带有激进模式(最大的可允许的行驶速度和竞争性)、安全模式、道德功利模式(可能被公布,并且其他人会赞赏你的仁慈)等等。

一些消费者的自由在伦理上看起来是可取的。要求所有的交通工具使用同一套冲突避免程序,可能会不必要地剥夺了人们选择反映他们价值观的算法的机会。一些人可能会优先选择保护孩子的安全性,胜过保护自己。其他人可能会倾向于平等地保护每位乘客的安全。一些人考虑到代表陌生人的利益,可能比政府要求市民的规则更具自我牺牲精神。

在速度和安全性方面总是能得到平衡,并且不同的乘客会以不同的角度来权衡速度和安全性,就像我们平常的手动驾车时对速度和安全性的考量一样。

此外,尽管我们希望面对紧急状况计算机能够比人更快地反应过来,但是目前我们最好的计算机程序在辨认位于异常、杂乱环境中的物体方面还是落后于人类视觉。假设你的车开着开着,偶然遇到了一个推着一架子衣服赶路的女人。车主们可能会坚持要求无人车执行某种程度上的权限转移,也就是让车辆不要再继续使用通常的算法(algorithm),以免车辆在前方的女人只是一个幻影的情况下也采取了真实情况下的应对、损害到车主们的利益。

关于轮子上设置控制把手的想法有点不切实际——即是关于它所担负的责任。但是未来的一代可能会惊讶我们允许16岁的孩子在车上放着震耳欲聋的音乐,以每小时65英里速度来驾驶无人车,伴随着生死攸关的方向盘转动。一个更好设计的无人车,也许能在长期做得更好。

无人车从不会醉酒驾驶,不会不注视前方道路而去转换收音频道,不会向坐在后座的孩子大喊,然而,它却有决定生与死的力量。我们需要公众一起参与,讨论应该怎样合理地运用这种力量。

原文发布于微信公众号 - 新智元(AI_era)

原文发表时间:2015-12-13

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏星流全栈

特斯拉Model 3发布会现场视频

1213
来自专栏AI科技大本营的专栏

AI一分钟 | 北京开放自动驾驶车辆路测道路105公里;阿里将人工智能引入时尚界

阿里巴巴集团与 GUESS 集团合作,将人工智能引入时尚界,并推出 Fashion AI 项目,今日( 4 日)于香港理工大学推出概念店。

891
来自专栏大数据文摘

[视频]又是德国人,开发出首尾相连的汽车,一窥未来交通

1393
来自专栏镁客网

华人工程师窃取苹果商业机密被抓,无人驾驶再增“窃密丑闻”

7月11日《华尔街见闻》消息称,圣何塞地区警方通报说,他们已于当地时间7月7日在机场逮捕了一名已离职的苹果公司工程师Xiaolang Zhang。该工程师在将苹...

934
来自专栏量子位

大事件:美国众议院通过无人车法案,但还得过参议院这道关

陈桦 编译整理 量子位 出品 | 公众号 QbitAI ? 这是无人车行业的大事。 今天凌晨(当地时间周三),美国国会众议院通过了一项获得两党支持的法案:《SE...

3545
来自专栏CSDN技术头条

干货|用户深度体验报告:Uber的产品和算法NB在哪?

这两周多次尝试了Uber的服务,感觉和大部分打车行业的规则都是反着来的,我大概分两个部分说说:算法和产品设计。 神奇的算法以及计价系统 1、Uber有一套自己的...

22310
来自专栏ATYUN订阅号

Einride开发无污染的自动驾驶卡车T-log,高效低成本运输原木

在不久后的将来,自动驾驶卡车可以帮助人类远程运送砍伐的原木。瑞典科技初创公司Einride公开了T-log,这是一种自动化的全电动测井车,旨在取代目前使用的带有...

961
来自专栏PPV课数据科学社区

【聚焦】车联网:有了大数据,再也不担心疲劳驾驶了

早在很久之前,我就想像着自己能驰骋在一望无际的高速公路上。   像这样。。。 ?   但在现实里,却是这样。。。 ?   醒来后这样。。。 ?   为了不...

4025
来自专栏新智元

《福布斯》:通用必须要把最好的技术留给无人驾驶

【新智元导读】《福布斯》本周一刊文介绍通用半自动驾驶系统Super Cruise。有鉴于该系统的神秘性,新智元对本文做了译介。对照本周【智驾深谈】,可以进一步看...

51414
来自专栏VRPinea

CES 2018:打破“PPT造车”魔咒,量产才是企业最好的宣传

3594

扫码关注云+社区

领取腾讯云代金券