我们可以用数据调查来创造有道德的无人驾驶汽车吗？

在不可避免的致命车祸中，我们希望无人驾驶汽车做什么?

研究人员发表了一篇论文《道德机器实验》来解决这个问题。

为了为这项研究创造数据，来自233个国家的近4000万人使用了一个网站，记录了在假想的无人驾驶汽车场景中，谁该救，谁该死的决定。这是典型的“电车困境”的一个版本——在紧急情况下，你必须优先考虑人们。

这个实验在广度和深度上都是前所未有的:我们现在对世界各地人们在这种困境中的偏好有了更好的认识。作者明智地告诫人们，不要把这些结果当作自动驾驶汽车应该做什么的简单指南。

我们的第一判断有多好?

机器比我们快得多;他们不恐慌。在最好的情况下，它们可能体现了我们深思熟虑的智慧，即使在悲惨的情况下也能有效地应用。然而，要做到这一点，我们需要从良好的数据开始。

在线测试是一种很好的方式来发现人们在做出判断之前是怎么想的。然而，显然我们不会迎合所有的偏见。作者省略了种族和国籍作为选择的理由，这是正确的。。道德偏好不应该只是品味。要想做出道德上正确的事情(想想你所面临的任何道德上重要的选择)，你必须认真思考。

我们希望将人工智能的伦理依据建立在我们最好的判断之上，而不是我们最初的判断。

世界是“不稳定的”

这项研究使用了两种可能的困境:要么你肯定会撞到婴儿车，要么肯定会杀了狗。

但实际的决策涉及到重大的不确定性:你可能不确定前面的人是小孩还是小个成年人，是否会撞到他们，是否会伤害他们，高速转弯是否会起作用。

计算机也许能做出更好的预测，但世界本质上是“不稳定的”。这是一个大问题。在某些情况下，非此即彼的偏好只能告诉我们在危险的情况下该怎么做。

假设一辆自动驾驶汽车必须做出选择，要么让自己撞车，要么杀死自己的老年乘客，要么转向一边，杀死一个婴儿。

道德机器实验预测人们站在婴儿的一边。但它并没有说明我们有多愿意让一个人比另一个人多。也许这几乎是一场胜负难分的比赛，我们只是倾向于不伤害孩子。也许救孩子比救老人更重要。

对此的看法将会非常不同，这次调查没有给我们提供任何指导。但我们不知道如何衡量，比如说，杀死一个孩子的概率是10%，而杀死一个老人的概率是50%，除非我们知道救一个比救另一个重要得多。

由于无人驾驶汽车的每一个选择都是在不确定的情况下做出的，这是一个显著的差距。

但是调查不能告诉我们什么

道德机器实验的动机是可以理解的。编码下一代伦理人工智能的责任是一项艰巨的任务。