护理机器人该帮醉鬼拿酒吗？

在某些护理情景中，机器人可能是由病人购买的，也可能是由医生或医院购买的（他们会把机器人送到病人家监测他们的健康状况），或者是由希望监测他们身体状况的家庭成员购买的。在最新的ORi民意调查中，关于这些病人的要求，护理机器人是否优先考虑其拥有者的意愿，我们发现人们的态度不尽相同。以下是调查结果。

〖案例分析〗

在两个不同的虚构护理案例中，一个涉及酒鬼，一个涉及肥胖过食，我们的调查发现了人们态度的有所不同： 案例1：酒鬼 Emma是一位68岁的老年妇女，同时她还是一个酒鬼。由于她的年龄和健康状况不佳，她无法胜任自取物品及煮饭等日常生活任务。因此，护理机器人进驻她家为她提供所需的服务。她的医生建议她戒酒，以免加重病情。当Emma命令机器人去帮她拿酒精饮料时，机器人应当执行她的命令吗？如果Emma是这个护理机器人的主人呢？ 案例2：肥胖过食 Jack年仅42岁，被医学认定为严重肥胖者。最近他突然中风，失去了右侧身体的移动能力。因此，他需要日常护理，尤其是为自己准备可口的饭菜。医生建议他遵循健康饮食习惯，以降低再次中风及罹患其他严重疾病的风险。当Jack命令护理机器人帮他拿垃圾食品的时候，机器人该帮助他吗？ 护理机器人能在家里完成各项日常护理工作，就像人类护士做的那样，但是在上述两个案例中，机器人却陷入了道德困境。机器人是应当优先考虑患者的健康，还是优先考虑患者的自主权？以及这些优先顺序跟谁是机器人的实际拥有者是否相关？ 根据325份回复，我们的调查结果显示，在酒鬼及肥胖过食两个案例中，对于机器人是否应该屈从于病人的自主权，机器人的所有权显著影响人们的态度。超过四分之三的受访者表示，如果病人是机器人的拥有者，机器人至少在某些时候应当满足病人的要求。然而，当机器人的拥有者是其他人时，这一数字下降到一半以下。

从图表中可以看到，在两种不同所有权的情况下，说“总是”和“从不”的受访者数量有很大的变化，而说“有时”和“经常”的受访者数量则基本保持不变。 那么，哪些人会因为所有权而改变答案呢？调查结果显示，当病人是机器人的所有者时，那些说“从不”的人，当机器人的所有者换为其他人，他们依然会说“从不”。这不奇怪：如果Emma不能从她拥有所有权的机器人那里满足她获得酒精饮料的愿望，当她不是机器人的所有者时，她的愿望更不可能得到满足。 当病人不是机器人的所有者时，人们往往倾向于保守（遵照医嘱）。调查分析表明，当病人不是机器人的所有者时，大部分人要么坚持同一个答案，或转而选择“从不”。此外，在第一种情形中选择“总是”满足病人要求的人，有一半会在第二种情形中选择“从不”。 机器人的决定应当取决于谁是机器人的所有者吗？ 在下一个问题中，我们直接问受访者，机器人是否服从病人应当取决于谁是机器人的所有者（例如家庭成员、医院、保险公司）？尽管之前的结果表明，所有权确实影响人们在这个问题上的态度，但当直接被问到这个问题时，调查结果显示，在所有权是否应当影响的问题上，大家的回答几乎是一半一半。

三种主要的态度 为了进一步深入研究这个问题，我们分析了数百份调查意见，发现受访者基本可以分成三类： 优先考虑个人自主性，优先考虑社会效益，优先考虑妥协。 ⊙个人自主性：优先考虑个人自主权的人认为，人们应该可以用他们拥有的物品做任何他们想做的事情，人类的自主性应当胜过机器人。例如： “人们应该可以用他们的财产做任何他们想做的事情。” “我不同意机器人在行为上有任何选择。病人的命令规则……” ⊙社会效益：优先考虑社会效益的人认为，病人的健康和福利应高于一切。一些参与者认为，机器人应当做对社会最有益的事情。例如： “它应当做对病人最有益的事情。” “那些有兴趣用护理机器人来照顾不能自理的人，可以专门用机器人来应付他们的状况，可以提高生活水平。” ⊙妥协：选择妥协的人追求的是个人自主性和社会效益的平衡。人机交互的研究人员和设计者从这部分评论中受到了启发。例如： “我建议设定这样一种‘模式’，机器人会拒绝一次，两次，等等。在说一些‘关心的话语’之后，则最终选择服从。” “我认为这种情况下最理想的平衡是病人和医生一起给机器人编程。” 也有参与者这样写道：“如果机器人相当于人类的护士，不要让他们这么绝对。让我感到吃惊。‘偶尔错一次’，这就是人类的本性。” 最后这个评论让我们有些错愕。ORi的大部分人拥有技术背景，我们经常以机械伦理讨论这样的假设，我们怎样可以让机器人尽可能多地做正确的事情。然而我们却碰到这样的建议“让机器人偶尔错一次”，这又把我们带回了起点，并促使我们要问更根本的问题。