如何辨析超级人工AI的伦理道德

源SingularityHub译宋天祥

假如存在一套统一的道德准则，那么能否使AI学会这些准则从而避免对我们造成伤害？这是英国卫报最近在一个原创短片中所探讨的问题。

在影片中，AI的创作者寻求伦理学家的帮助希望能够建立一套道德准则，让AI学会并遵守。显然，这并不是一件简单的工作。

在某些复杂情形下，道德伦理问题往往没有明确的界限，人类目前也没有能将道德伦理转化为一套能够明确量化规则的能力。更甚者，是否存在这样的规则也是值得怀疑的，因为从不同的角度看待问题，道德伦理问题常常需要权衡各类不同因素。

那么，我们怎样才能将道德准则教授给AI呢？如何能有效避免AI带来巨大伤害甚至彻底毁灭我们呢？这个属于科幻小说中的主题，却成了近年来AI争论的流行话题。

人类已经开始尝试展开对该领域的研究。例如，成立于2015年末期的OpenAI获得十亿美元的资金用于学习如何构建安全和友好的AI。在今年早些时候，AI领域专家聚集在加利福利亚的Asilomar探讨在AI领域有益于人类社会发展的最佳实践。

人类对AI是否会存有种族主义或性别歧视问题，反映出人类的偏见。由于人工智能只能从现有的数据中学习，但很多情况下，这些数据近乎全部来源于人类自身。

工程师坚信道德问题可以被“解决”，而且必然存在一套“明确的道德伦理准则”，而哲学家却认为这样的法则是不可能存在的，因为“道德需要被解释”。这和影片反映出的情况一样。

影片中的谈话有一种压迫感，AI一边在倾听一边自动调整算法，并作出合理答复。AI最关键的特征之一就是它自身不断提高的复杂计算速度以及该速度的加速度也将不断提高。如电影中工程师所说，“智能飞速发展远超出我们的想象。”

在影片中可以看出，当AI提出按照人类的决策做决定时（AI的理念是仅从历史的宗教领袖身上学习），这种想法让工程师和哲学家都感到不安。如果人工智能比我们更优秀，我们自然希望它在道德上也比我们更好。或者如影片中哲学家的所述：“毫无疑问，我们不能依赖人类来为人类制定出一套道德准则。”

如果人类不能给AI教授伦理道德，它终将会自我学习，那么接下来会发生什么呢?AI可能会决定我们人类赋予它的，人类无法处理的可怕力量是被取代抑或是被接管。

-END-

译者 翟向洋

目前是一名研究生，主要研究方向是基于深度学习的大数据分析挖掘，平时爱开发小程序，做点小应用，同时译者还酷爱健身～～

了解如何加入我们