自动驾驶的伦理困境:保护乘客还是保护行人?

一项新的调查结果表明,文化差异会显著影响当事人在致命交通事故中的决策。这种差异,无异于给自动驾驶出了一个“电车难题”。

供图:Margo Wright

来源 | AIP Inside Science

作者 | Charles Q. Choi

如果你的汽车发生了致命的交通事故,你愿意杀死一个无辜的路人还是车上的5名乘客?通过网络调查向参与者收集了近4000万份各种不同的回答,科学家现在已经深入了解全球范围内关于此类困境的伦理偏好,这些新发现将来可能在完善无人驾驶汽车领域中起到作用。

谷歌,特斯拉和其它专业公司的目标是使无人驾驶汽车成为现实,他们认为这可以减少人为失误造成的交通事故。但是,这种自动驾驶汽车刚刚经历了一些致命事故——例如5月份一辆自动驾驶的优步汽车与行人发生了致命碰撞——表明它们不仅需要道路导航,还需要对死亡事故有决断能力。例如:如果一辆无人驾驶汽车正处在危险时刻,它应该撞向一名孕妇还是迅速转向一堵墙使车上4名乘客死亡?

一个著名的思想实验,似乎非常适合解决这个问题,那就是来自英国的哲学家菲利帕·富特提出的电车难题。这个难题是想象你驾驶的是一辆刹车失灵的电车,有5名路人被绑在铁轨上,如果你不转移轨道,这5名路人将会被压死,但如果你转移轨道,另一条轨道上的1名路人将会被压死。这个问题存在许多情形,可以帮助人们探索他们可能选择生或死的人。

著名的“电车难题”:转移 or 不转移?

2016年,科学家发布了伦理调查平台,在线调查询问人们对电车问题的各种情形,探讨有关自动驾驶汽车的道德决策。该实验为参与者提供了涉及无人驾驶汽车和不可避免的事故情景,这些事故危及行人和乘客的各种组合。参与者必须根据诸如潜在受害者的性别,年龄,健康甚至物种等因素来决定车辆将带走哪些生命。

18个月来,研究人员从全球233个国家和地区收集了近4000万份此类决策。他们发现全球有许多相似的伦理偏好,包括挽救最多的生命,优先考虑年轻人,以及重视人类应该超过动物。最常见的回答是婴儿,儿童和孕妇。

结果还表明,不同文化之间的道德观有所不同。例如,来自拉丁美洲以及法国及其海外领地的参与者强烈倾向于保留女性,年轻人和运动员。此外,拥有完善法律制度的发达国家,参与者认为:与遵守交通法规的人相比,乱穿马路的人被挽救的次数更少。

研究报告的共同作者,剑桥麻萨诸塞学院的计算机科学家伊亚德拉万说:“当我们查看是否不同的国家具有差异时,我们对这种差异感到震惊。”

科学家们还发现了有争议的伦理偏好。例如,超重的人死亡率比健康人高出约20%,无家可归的人死亡的几率比公司高管高出约40%,遵循交通法规的人死亡率要低于那些破坏交通规则的人。

在调查中,遵守交通规则的人被救几率更高

科学家宣称他们的结果可能并不代表一般人的伦理偏好。例如,该研究的参与者是来自互联网的志愿者,并没有使用严谨的抽样技术进行选择。“这是一个有趣的问题,究竟谁是适合做出决策的人选?”北卡罗来纳州达勒姆杜克大学的计算机科学家文森特康尼泽表示,他没有参与这项研究。

每个国家的人们都可以自由查看伦理调查平台的结果。科学家希望他们的研究结果对政府考虑自动驾驶汽车和编程这类机器的规定有用。“话虽如此,专家们不必满足公众的兴趣,特别是当他们发现这些偏好有问题时,”研究的主要作者,麻省理工学院计算机科学家爱德蒙阿瓦德说。

杜克大学的神经科学家贾纳斯基希博格没有参与这项研究,他认为,自动驾驶汽车技术的工程师可能会感到沮丧,他们可能需要重新设计自动驾驶汽车来考虑伦理调查平台所关注的罕见案例。她说,“我认为在处理主要工程问题的同时也应该解决这类边缘问题。”“社会必须相信自动驾驶汽车最终能够实现减少交通事故和挽救生命,如果汽车的行为方式与人类的道德价值观相冲突,自动驾驶汽车就不会这样做。”

自动驾驶不仅要解决工程

问题,也要顾及伦理问题

研究人员一致认为,无人驾驶汽车不会经常面临生死攸关的抉择。研究报告的共同作者,哥伦比亚大学的心理学家阿齐姆沙里夫表示,“他们将不断调整优化决策,将风险从某些人转移到其他人身上。”“一辆自动驾驶汽车将自己定位在一条车道上,应该靠近右侧的卡车还是左侧的自行车道?如果汽车总是被编程为稍微靠近自行车道,它们可能会略微减少撞击其他车辆的可能性,同时略微增加撞击骑车者的可能性。

大多数时候,汽车的精确定位不会造成任何伦理困境,”谢里夫说道。“但是,在数百万或数十亿次的这种情况下,要么会有更多的骑车者死亡,要么会有更多的乘客死亡。参与者在伦理实验的黑白场景中进行的类似权衡决策,主要取决于统计层面 ——我们称之为统计电车问题。“

这项研究揭示伦理调查平台可能需要在其他领域进行伦理权衡。“一个例子是机器人护理员,他们可能需要在安全、隐私和自治之间解决一些不同的道德权衡,”阿瓦德说。

10月24日,科学家在“ 自然 ”杂志上详细介绍了他们的发现。

翻译 | 赵冬

责编 | 高佩雯

美国物理联合会(AIP/American Institute of Physics)--InsideScience专栏独家供稿

https://www.insidescience.org/news/moral-dilemmas-self-driving-cars

文章由腾讯科普“科普中国头条创作与推送项目”团队推出

转载请注明来自“科普中国”

你可能还想看

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20181029B1Z1HL00?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 yunjia_community@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券