谁在给自动驾驶“挖坑”“GGAI视角”

自动驾驶商业化落地的复杂度，实际上远超过技术本身。

汽车零部件供应商巨头大陆集团近日起草了一份人工智能应该遵守的道德准则，以应对消费者对自动化系统的不安。

新的监管框架的重点是基于计算机决策的透明度以及数据安全。如果关键的工作步骤被计算机接管，接受的一个基本前提是人们继续理解这种自我学习系统是如何工作的。

比如，数据从何而来？什么处理步骤导致什么行动？数据是如何存储的？

目前，大陆集团的很多量产产品都依赖于人工智能，包括带有物体识别功能的基于摄像头的ADAS、转弯辅助系统以及作为人与车之间沟通手段的手势识别。

大陆集团首席技术官德克•阿本德罗斯(Dirk Abendroth)表示：“人工智能的编程和使用必须符合明确的伦理原则。因为智能算法在汽车行业发挥着巨大作用，比如在自动驾驶领域。”

在Abendroth看来，作为一家科技公司，有责任确保所有的产品开发和内部流程都符合道德标准。它适用于全球所有市场，并作为公司所有合作伙伴的遵循指南。

一、“if-then”规则，可行吗？

我们都听说过机器人会做出不道德的选择。其中最令人难忘的是1968年的经典之作《2001太空漫游》中的HAL 9000。

在电影中，HAL 9000杀死了四个人，并试图杀死第五个人。这是因为机器人无法做出正确的道德选择：要么对人类撒谎，要么杀死他们。

撇开好莱坞的虚构世界不谈，对人工智能的伦理问题的处理需要有两个前提。首先，社会将允许人工智能在人工智能引发的伦理难题可能导致的情况下运作。

其次，也是更重要的标准，是人工智能最终将变得足够强大而有用。人工智能驱动的自动驾驶汽车就是一个很好的例子。

如果人工智能变得足够强大，能够以一种需要基于机器学习、而不仅仅是遵守规则的道德决策的方式自动控制车辆，那么第二个标准将得到满足。

但人工智能是否能够变得足够强大，能够遵循自己的规则，仍然是一个悬而未决的问题。

目前，自动驾驶汽车唯一能做出的“决定”就是提前在人工智能中编程“if-then”规则。例如，如果人工智能面临的困境是撞到推着婴儿车的人或遛狗的人，人工智能会遵循既定的规则，以最大限度地保护更多人类的生命。

任何有关伦理的讨论都将与原始程序有关，而不是与人工智能的机器学习有关。

其次，将是让负责审查AI代码的程序员承担法律责任。就像建筑师或工程师可能会因为建筑或车辆设计不当而被追究责任一样，程序员也会因为人工智能编程不当而造成的人员伤亡或损失而承担责任。

马丁·路德·金有这么一句话，“我们这一代将不得不为坏人可恶的言行忏悔，也为好人可怕的沉默忏悔”，也可以适用于这种情况。

坏的人工智能的行为将是可悲的，但善良的人类的不作为将是同样悲惨的。现在，或许趁人工智能在汽车领域的应用还不够深入之时，是我们采取措施的时候了。

二、道德规则，牵涉全产业链

事实上，人工智能道德的发展轨迹类似于传统的数据安全和个人隐私。

“如果你看看人工智能的大规模采用，它还处于非常早期的阶段，如果你问大多数公司合规人员或公司治理人员，人工智能道德准则在他们的风险清单中处于什么位置，它可能不在前三名之列，”一些行业专家表示。

造成这种情况的部分原因是，目前还没有办法量化风险。

人工智能伦理源于公司的价值观。这些价值观应该反映在公司的文化中，以及公司如何利用人工智能。我们不能假设技术人员可以自己构建或实现一些必然会产生预期结果的东西。

实际上，此次大陆集团提出的人工智能应该遵守的道德准则，可以分成三个部分：风险意识；衡量风险的范围；以及客户的协同，包括风险管理、技术、采购和使用技术的部门。

随着自动驾驶技术的成熟，可以期待更多遥远的想法。目前，还没有具体的法律规定，如果无人驾驶汽车与另一辆汽车相撞，车主、汽车制造商或技术供应商如何分担责任。

无人驾驶抓住了大众的想象力。支持者们设想，在这样一个世界里，因为超速、分心驾驶、疲劳、酒后驾驶和其他人为失误造成的死亡可以大大减少。

另一方面，持怀疑态度的人指出了包括Uber、特斯拉在内的很多自动驾驶测试车以及具备自动辅助驾驶功能汽车的事故，并认为这项技术永远不会成功地取代人类驾驶。

这些讨论似乎总是回到基于人工智能的技术被要求在一瞬间做出生死攸关的道德决定的场景。

当涉及到与自动驾驶车辆相关的道德问题时，关键问题是：谁应该做出那些生死攸关的驾驶决定？汽车制造商？还是保险公司？还是监管部门？亦或是允许个人为自己的车辆制定规则？

目前的一些思路正在清晰，比如，政府负责制定规则，汽车制造商实施规则，保险公司通过新的保险模式来激励做得更好的“司机”。

德国自动驾驶和互联驾驶伦理委员会此前发布了第一套关于自动驾驶汽车的伦理指南，预计其他国家将以此为基础制定自己的规则。

该委员会确定了20项主要建议，包括：

1、财产损害不得优先于人身伤害。在危险的情况下，保护人类生命必须始终处于最优先地位。

2、在不可避免的事故情况下，不允许基于个人特征（年龄、性别、身体或心理素质）对个人进行区分。

3、在每一种驾驶情况下，都必须有明确的规定，并且明确谁来负责驾驶任务：人还是电脑。

随着时间的推移，围绕安全和伦理问题的技术和法规将继续成熟和发展。

首先，从纯技术角度来看，自动驾驶正在取得进展。类似于人类成为更好的司机，系统也在积累更多的经验。

真正的问题可能不是自动驾驶汽车是否为人类做好了准备，而是人类是否为自动驾驶汽车做好了准备。

至少在未来3到5年，自动驾驶车辆的部署将在非常有限的受限场景下应用，并让人们逐步习惯无人驾驶车辆。