行人还是司机？无人驾驶汽车危机时刻先救谁的两个解决方案

注：自动驾驶技术的普及已经势不可挡，无论是通用、大众这类传统汽车制造商还是谷歌、百度等科技公司，都在无人驾驶上押下赌注。但如今，自动驾驶技术问题已经算不上难题，而对于该技术将衍生出的问题则成了讨论的重点。不难想象，一起由自动驾驶引起的车祸，汽车在危机时刻，是保全路人还是司机的问题会引起多大的社会讨论……

上个月初，无人驾驶汽车公司Waymo从克莱斯勒订购了数千辆自动驾驶汽车，这些汽车将于今年内成为凤凰城街道上的无人驾驶出租车。

自动驾驶汽车的大规模普及势在必行。不管是汽车公司、政策决策者还是社会伦理学家都还在努力思考如何规范自动驾驶汽车在真实世界中的行为。比如，在性命攸关的时刻，汽车必须在行人和乘客之间做选择时，汽车应该怎么做？

汽车制造商们倾向于将乘客的安全看得比行人重要。2016年，奔驰宣布其车辆将永远以乘客的安全为首。但有什么设计能保证无论是驾驶车辆的司机/乘客，还是过马路的行人都不会受到伤害呢？

我们推出了一个新的设计概念系列——

Provocation

，然后雇佣了几个设计公司来解决这个伦理难题。其中两家设计公司采用了类似的方式，他们认为，无人驾驶汽车的伦理选择应该由人们而不是汽车制造商来决定。

英国设计公司MAP Project Office提出的解决方案是在仪表板上安装一个控制盘（我们可以将它想象成一个方向盘或变速把手），让乘客可以决定车子在多大程度上将他们的安全置于行人之上。西雅图设计公司Teague则设计了一个投票平台，让某个社区的每个成员就自动驾驶汽车的伦理进行投票，而不是将决定权交到司机或汽车制造商手中。

【图片：MAP Project Office】

新型方向盘

创意技术专家马蒂厄·凯鲁比尼（Matthieu Cherubini）曾对不同道德取向系统的自动驾驶汽车进行了一次模拟。深受启发的MAP为自动驾驶汽车创造一个类似方向盘或变速把手的控制盘，只不过这个控制盘并不控制汽车的轮子，而是让司机能根据自己的价值观调整汽车的行为。

这个控制盘提供了四个选择：不计代价保护乘客的“自我保护主义者”，试着最大程度降低伤亡人数的“人道主义者”，将行人的安全置于车主之上的“无私者”以及由汽车随机决定如何应对紧急情况的“佛系论者”。“在某种程度上，随机就相当于凭本能行事，在紧急情况下，人不会思考，只会凭本能做出选择。”MAP的设计总监乔恩·马歇尔（Jon Marshall）说。

开始这个项目时，MAP的想法很简单，只想将事故的损害降到最小或从根本上阻止事故的发生。但后来，团队意识到这应该是汽车制造商责任范围内的事，于是，他们决定专注于为内嵌于汽车的“隐形”软件设计一个界面。“这才是最令我们感兴趣的，或许设计最擅长的事……是让带有隐形技术的界面变得简单明了。对我们来说这是前提，也就是你拥有某种控制权，能让界面变得非常简单。”马歇尔说。

控制盘在这些不同的算法之间转换，你可以进行调整，甚至切换到两种模式之间。比如，你可能想要一辆既能最大程度地保护乘客，又倾向于将伤亡数最小化的汽车；又或者，若能拯救一个行人的生命，你愿意接受不危及性命的某个程度上的受伤……

马歇尔及其团队设想一个城市或许有某些区域会要求所有汽车都切换到某个模式——就像交通拥堵区一样，低排放汽车可以免费进入，而高排放汽车则需付费才能进入。在学校区域，或许所有汽车都应该调整到“无私”模式；而在快速行驶的高速公路上，或许所有汽车都应该调整到“自我保护主义者”的模式。

MAP这个想法的优点在于人们能够选择算法该如何运行，最大的缺点是乘客有选择的权利，行人却对自己的命运毫无选择。当然，除非这些模式都由政策来监管——而这就是设计公司Teague的提议。

让人们和城市来决定

根据我们的要求，Teague提出了一个名叫“道德方向盘”的概念。这是一个让辖区居民集体对汽车的道德系统进行投票的平台。Teague的设计师们用插图展示了一个人对西雅图汽车道德系统进行投票的过程，然后，当一辆载着乘客的自动驾驶汽车进行西雅图的市区范围时，仪表板屏幕上会自动弹出一个通知：“我们以儿童的安全优先”。

在这个演示例子中，西雅图的政策要求每辆汽车都达到某种道德上的统一，即将儿童的安全置于所有人之上。其他城市或州可以通过投票达成其他结果，比如“自我保护主义至上”或“任何情况下都以拯救最多生命为优先”。

在Teague的设计师设想的世界中，安全不仅仅由汽车制造商来决定，而是全社会的共同责任。Teague的技术总监沃伦·施拉姆（Warren Schramm）认为我们必须“意识到这不是一种产品决定，而是我们道德标准的体现”。

他认为，这种民主方式是所有人都乐意参与的。“若人们意识到他们可以造就影响，他们肯定会乐意参与。”他施拉姆说道。

其实，这两个概念是有一定矛盾的。一个概念主要依靠司机的选择，另一个则用集体多数人的态度来规范和强制执行汽车的道德认知。但它们并非不能共存。控制盘让人们能在规章的范围内做选择，并强制乘客在无人驾驶世界中扮演更主动的角色。而“道德方向盘”则可能侵犯汽车驾驶员的个人权利，将自己的命运交给了社会投票。

所以，你怎么看？

文 | Katharine Schwab

图片 | fastcompany.cn

编辑 | 李习双

“实体将死”只是一个玩笑？

看中美各企业如何线下反攻，各出奇招。