MIT探索了自动驾驶汽车中的经典伦理问题

编译:chux

出品:ATYUN订阅号

预计到2020年将有多达1000万辆自动驾驶汽车进入公共道路,当他们这样做时,他们将做出艰难的决定。可以理解的是,建立能够解决经典“电车难题(伦理学悖论)”的决策系统背后有一些紧迫性,在这种系统中,一个人或计算机可能被迫决定牺牲几个人的生命或一个人的生命。

令人鼓舞的是,科学家们已经开始为这一道德难题奠定基础。

麻省理工学院发表的一篇新论文分析了在线测验的结果,道德机器要求受访者在虚构的驾驶场景中做出道德选择。来自2亿多个国家的200多万人解决了九个可怕的困境,包括选择杀死行人或乱穿马路的人,年轻人或老人,以及女人或男人。

一些调查结果并不令人惊讶。总的来说,那些对民意调查作出回应的人表示,他们将挽救更多的生命,选择成年人而不是动物。

但并非所有趋势都跨越了地理,种族和社会经济界限。

与此同时,亚洲和中东的居民不太倾向于拯救年轻人而不是年长的行人,而且比来自北美和欧洲的调查人员更有可能饶过富人(研究人员将此归结为集体主义心态)。

作者承认这项研究不能被视为真理。道德机器测验是自我选择的,问题是以二元形式提出的,每一个结果都导致了人或动物的死亡。但是,它旨在促进进一步的讨论。

“测验删除了凌乱的变量,专注于我们感兴趣的特定变量,”该研究的主要作者之一Lin表示,“这从根本上说是道德问题……所以这是我们现在需要的对话。”

即使是最复杂的AI系统也远不能像人类那样推理,但有些公司正在接近这一点。

英特尔去年4月以153亿美元的价格收购了位于以色列的Mobileye,提出解决这一问题的方法,责任敏感安全(RSS)。在随附的白皮书中,英特尔描述了一种“常识”方法,用于在路上进行决策,编写良好的习惯,例如保持安全的跟随距离并为其他车辆提供通行权。

Mobileye首席执行官兼英特尔高级副总裁Amnon Shashua去年在一份声明中表示,“分配故障的能力是关键。就像世界上最好的人类驾驶员一样,自动驾驶汽车无法避免由于他们无法控制的事故而导致的事故,但最负责任,最有意识和最谨慎的驾驶员不太可能导致他或她自己的错误,特别是如果他们有360度视力和快速反应时间,如自动驾驶汽车。”

谷歌已经进行了自己的实验。2014年,实验X部门的创始人Sebastian Thrun表示,在发生碰撞事故时,自动驾驶汽车会选择与两个较小的物体碰撞。两年后,在2016年,谷歌工程师Chris Urmson表示他们将“尽最大努力避免打击无保护的道路使用者:骑自行车者和行人。”

立法可能很快会迫使这些系统的发展。德国去年成为第一个为自动驾驶汽车做出决策提出指导方针的国家,这表明所有人的生命都是平等的。欧洲正在制定自己的政策,它可能通过认证计划或立法来实施。在美国,国会制定了潜在监管的公共原则。

论文:www.nature.com/articles/s41586-018-0637-6

原文发布于微信公众号 - ATYUN订阅号(atyun_com)

原文发表时间:2018-10-26

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏人工智能头条

Andreessen Horowitz 关于自动驾驶汽车的未来的演讲

1923
来自专栏AI科技大本营的专栏

芯片巨头的自动驾驶何以能撼动传统汽车行业

最近,自动驾驶领域一片看不见的刀光血影。 但这一次的主角,不再是知名车企或创业项目,而是在芯片行业呼风唤雨的英特尔、英伟达。 先是英特尔大手笔并购 Mobile...

2945
来自专栏量子位

又快又贱又失控?机器人教父Rodney Brooks预测AI未来32年历史进程

唐旭 编译整理 量子位 出品 | 公众号 QbitAI ? Rodney Brooks的头衔太多了:澳洲科学院fellow、美国国家工程院院士、国际人工智能协会...

2695
来自专栏新智元

软件定义汽车?百度无人车“大脑”核心解密

【新智元导读】百度高级副总裁、无人驾驶事业部负责人王劲提出了一个新的概念:软件定义汽车(The Software Defined Vehicle,SDV),也就...

34511
来自专栏AI科技大本营的专栏

AI一分钟|腾讯与三星结盟,以对抗苹果和谷歌;亚马逊回应“AI误将国会议员标记为罪犯”

用手抓住东西是我们在婴儿时学习的第一件事,但这远非一项简单的任务,随着个体的成长也会越来越复杂和多变。正是这种复杂性使得机器难以自学,但是今日 OpenAI 的...

1003
来自专栏量子位

万万没想到,无人车其实是个劳动密集型产业

李杉 唐旭 编译整理 量子位 出品 | 公众号 QbitAI 病友们都在看杂志、刷Instagram的时候,Shari Forrest打开了手机上的一个app,...

3325
来自专栏人工智能头条

【AI创新者】驭势吴甘沙:做无人驾驶的赋能者

1626
来自专栏AI研习社

如何降低自动驾驶的成本?有一种思路叫“由俭入奢”

图片来自驭势官网 吴甘沙最早想做机器人,他曾经研究过工业机器人、分支协作机器人,还有家用服务型机器人等领域,最后发现前两者市场太小,全球一年也才几十万台的出货...

3655
来自专栏华章科技

万万没想到,无人车其实是个劳动密集型产业

54岁的Forrest并非工程师或程序员,她靠撰写教材来谋生。尽管如此,在平时有空时,Forrest依然会在Mighty AI上登录,然后把自己的时间花在给行人...

852
来自专栏新智元

Nature大型调查:当AI遭遇电车难题,它将拯救谁?

这道世纪难题令多少英雄好汉竞折腰,那么如果让自动驾驶汽车通过程序自行判断,结果又将如何呢?

1161

扫码关注云+社区

领取腾讯云代金券