自动化顶会DATE主题演讲:自动驾驶汽车不做价值判断,基准线是不引发新的事故

【新智元导读】计算机设计自动化的顶级会议之一DATE日前在德累斯顿落下帷幕。本文介绍会上的两个关于自动驾驶的主题演讲,分别代表了当前开发自动驾驶汽车的两大阵营:新技术公司和传统汽车制造商,带来关于人工智能在自动驾驶中的应用、自动驾驶领域的重点研究方向等问题的观点碰撞。

计算机设计自动化的顶级会议之一DATE上周五(3月24日)在德累斯顿落下帷幕。会上的两个关于自动驾驶的主题演讲非常精彩,吸引了广泛关注。其中一位演讲者是Amnon Shashua,Mobileye(2017年被Intel以153亿美元收购)的CEO兼任CTO。另一位是大众集团电子和汽车研发部主管Thomas Form教授。两人分别代表了当前开发自动驾驶汽车的两大阵营:新技术公司传统汽车制造商。他们谈到了许多备受业界以及公众关注的关于自动驾驶的话题。在某些问题上他们阐述了类似的观点,而在另一些问题上则看法大相径庭。

其中一个主要话题就是人工智能在自动驾驶中的应用。两家公司都投入了大量资源进行相关研究,在取得了很多成果的同时也发现了不少问题。Form教授指出深度神经网络对自动驾驶是很有帮助的,不过需要提供冗余。例如可以安装三个独立系统。一个基于明确的逻辑第二个基于模块化人工智能,即每个相关的功能训练一个深度神经网络。第三个基于整体的人工智能,即为所有相关功能训练单一的巨大的深度神经网络。

Form教授展示了一些在大众内部测试中出现的人工智能无法正确识别和应对的情况。另一个问题则是针对深度神经网络故意的物理攻击。Form教授展示了一个案例,做了少量(刻意的)修改的STOP标识牌会被深度神经网络误认为限速标志。

在另一个演讲中,Amnon重点介绍了一个能够在数学上保证自动驾驶决策安全的形式化方法。他也特别强调这个方法不是由数据驱动,完全不同于依靠大量数据训练的,系统成熟度随着里程提高的经验性方法。结合两个演讲来看,尽管人工智能在很多领域已经显示出极大的力量,在安全相关的系统中的运用仍有很多研究要做。这对于人工智能领域的学者来说并不是一个坏消息。

新技术公司和传统车企在开发自动驾驶汽车上采取了完全不同的路线。新技术公司做的是革命性改变,即跳过中间阶段,直接开发5级自动驾驶(指全自动驾驶,参见SAE标准)。而传统车企则是渐进式的。全自动驾驶固然令人激动,同时也意味着高成本。大众集团更希望能够开发出所有汽车都能承担的系统。究竟是在某些车上实现全部功能更好,还是在所有车上实现某些功能更好,值得进一步探讨。

另一个被深入讨论的话题就是自动驾驶汽车需要做到多好才足够。显然完美的系统是不存在的。Amnon讲解了他的形式化方法结合一系列规则可以确保自动驾驶汽车不会由于决策问题而产生事故并且可以在危险情况下做出正确反应。大众集团也在考虑同样的问题。一个能够优于大多数司机的自动驾驶系统足够好吗,还是需要超过迈克尔舒马赫?

在自动驾驶的伦理问题方面,Amnon提出了一个基准线,即他的系统不会为了躲避现在的事故而引发新的事故。自动驾驶汽车不做价值判断。他同时也指出,这一准则可以根据不同国家的规定而改变。Form教授提出了一个问题,在自动驾驶的世界里,如果行人不遵守交通规则怎么办。显然自动驾驶汽车总是需要避让行人。他后来又补充道,你需要特别小心,如果这台车是Uber的。

最后一点就是自动驾驶领域的重点研究方向。除了人工智能在识别和决策方面的应用,传感器显然还有极大的进步空间。另外一点就是目前的自动驾驶系统开发仍主要关注于功能的实现。成本控制,例如如何更高效地利用车载计算和通讯资源等等,在未来毫无疑问会受到持续关注。

作者介绍:

常万里,慕尼黑工大博士(TUM),博士论文在2017年被评为最杰出(Summa Cum Laude)。现任教于新加坡理工大学(SIT)。新工大是一所新近成立的综合性公立大学。主要研究方向为信息物理系统(CPS),重点关注开发更可信可认证的系统以及计算等各种嵌入式资源的高效利用。在顶级期刊和计算机顶级会议发表多篇文章,包括IEEE旗舰杂志Proceedings of the IEEE。目前主持一项新加坡国家级科研项目。论文共同作者和合著者包括多名IEEE Fellow, ACM Fellow,美国国家工程院院士,欧洲科学院院士以及德国科学工程院院士。

原文发布于微信公众号 - 新智元(AI_era)

原文发表时间:2018-03-27

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏新智元

【CES Asia】百度国内首次深度学习自动驾驶,阿波罗不再只是计划

【新智元导读】从世界上首个可在真实道路上实现端到端模式的高级自动驾驶模型Road Hackers,到百度和汽车零部件厂商合作开发的车载可计算平台 BCU,从诞生...

530170
来自专栏人工智能头条

Andreessen Horowitz 关于自动驾驶汽车的未来的演讲

20630
来自专栏新智元

【智驾深谈】智驾时代,智能为王:谈互联网企业的机会所在

【新智元导读】长久以来,自动驾驶技术被划分为两个阵营,一个源自车企,由一群汽车电子工程师构成的“全区域部分自动驾驶”,试图将该技术以新功能的形式添加到汽车进而盈...

30530
来自专栏人人都是极客

全球无人驾驶产业链全景图在这里

10月25日,一代浙商鲁冠球逝世,曾被《福布斯》称为汽车零部件领域的“全球领袖”,被媒体冠以民营企业家中的“常青树”,浙商界“不倒翁”。 “全球领袖”鲁冠球...

70890
来自专栏机器之心

业界 | 博世联合英伟达合力推出自动驾驶汽车智能平台

机器之心原创 作者:朱思颖 3 月 16 日,在柏林举行的 2017 博世物联网(Bosch's Connected World)大会上,汽车 Tier 1 供...

28970
来自专栏量子位

数据、传感器、打车服务,哪个才是未来无人车制胜关键?

唐旭 编译自 Benedict Evans博客 量子位 报道 | 公众号 QbitAI 本文作者Benedict Evans,是硅谷风投公司Andreessen...

29560
来自专栏量子位

谷俊丽:从特斯拉到小鹏汽车,同样是智能车,不同基因的自动驾驶

李根 发自 On the road 量子位 报道 | 公众号 QbitAI 谷俊丽从特斯拉跳槽小鹏汽车,不算意料之内。 这位Autopilot 2.0的负责人...

42760
来自专栏AI科技大本营的专栏

芯片巨头的自动驾驶何以能撼动传统汽车行业

最近,自动驾驶领域一片看不见的刀光血影。 但这一次的主角,不再是知名车企或创业项目,而是在芯片行业呼风唤雨的英特尔、英伟达。 先是英特尔大手笔并购 Mobile...

30350
来自专栏新智元

【CES深度】10张图看懂百度开源自动驾驶平台Road Hacker

【新智元导读】百度智能汽车前几日在CES上发布了高级自动驾驶平台Road Hackers,并表示将基于此模型的百度自动驾驶训练数据对外开放。Road Hacke...

474100
来自专栏新智元

【快报】特斯拉Model S发生致死车祸 | IBM与思科合作整合Waston和办公软件

新智元 AI快报 1特斯拉 Model S发生致死车祸,监管部门展开调查 ---- ? 美国高速公路交通安全委员会(NHTSA)周四宣布,将对5月7日特斯拉Mo...

38170

扫码关注云+社区

领取腾讯云代金券