18.理智分析：人类离威胁还相当遥远

作者 | Harper

审核 | gongyouliu

编辑 | auroral-L

我在前几次视频里面都谈到了人们对未来人工智能的担忧。那么我们到底该怎样看待人工智能威胁论呢？《人工智能时代》的作者、计算机科学家Jerry Kaplan，他的观点是：超人工智能诞生，并威胁人类这件事情发生的概率是非常小的，其实我们现在做的就是在制造工具，以自动完成之前需要人类参与才能完成的工作任务，之所以会有人工智能威胁论的疑问，根本上是因为大众习惯于把人工智能人格化。这是问题的根源。

这件事对于专业人士和对于大众的意义是不一样的，比如说，大众总是担心无人驾驶汽车可能伤及人类的生命，但无人驾驶汽车只是一套机器系统，他们只是根据对环境的感知，按照某种特定的原则和设计做出反应，而我们人类对于整套系统的感知和反馈模式拥有完全的控制权。所以专业人士所面对的只不过是一系列工程设计上的问题，他们必须确保设计制造的产品和服务，符合大众的愿望和预期。

这件事情跟桥梁工程师们使用一整套质量保障方案来确保他们建造的桥梁不会坍塌没有什么两样，因为在人工智能领域也有许多工程上的元素来指导专家们测试一个系统，什么样的系统是合格的，什么样的系统是足够安全的，等等，他们同样需要这样的技术，因为人工智能十分强大具有潜在的危险性，但这并不是因为智能机器会像人类一样思考，只是因为他们十分强大，我们必须小心使用他们。

智能也经历了相当长时期的演进，那些预测超级智能的人是按着这样的一种演进趋势来思考问题的，从猿猴的智能，到人类的智能，再到人类制造的机器，最后到超级智能。

但这种线性结构是有问题的，因为我们并没有一种简单的方式来对智能进行度量。智能是一个非常定性的概念。它反映的是某个人成功解决某种特定问题的能力。所以问题的首先在于对智能的定义是非常主观的，这依赖于每个人自己的视角，希望把智能的定义客观化、量化的想法本就身是错误的。其次，关于智能的度量并不是线性的，而是一种多维度的度量。但如何将机器纳入一个多维度的度量体系呢？让一部机器变得聪明，这句话到底意味着什么我们也不得而知。

也就是说，在今天这个弱人工智能的时代里，人类对于人工智能或者什么是智能的认识本身就是缺乏深度的，我们也没有一个合适的可操作的标准来定义什么是强人工智能，什么是超人工智能。

其实在人工智能领域，大多数人倾向于过于乐观地预测全局大势，而过于悲观地估计局部进展。AI技术在许多垂直领域的局部进展，比如围棋，智慧医疗都比很多人之前预料的更早来到我们面前。但AI的整体发展，尤其是最重大的技术突破，几乎每一步都要比多数人的预测来得晚，比如，图灵测试刚提出的时候，很多人认为计算机达到图灵测试所标示的强人工智能的水平最多只要30年的时间，但直到今天我们也不敢说，AI到底何时才能真正像成人一样自由对话。

华盛顿大学计算机科学家奥伦.伊茲奥尼说：今天的人工智能发展，距离人们可能或应该担忧机器统治世界的程度还非常遥远，这种长期的讨论不应该分散我们关注真实问题的注意力。

确实，我们今天还没有到必须分配精力去担心未来，或为可能的机器威胁做准备的地步。即便以今天的标准来看，弱人工智能的发展，还有很长的一段路要走，科研人员、技术人员、各行各业的从业者，政府、社会组织等等还有大量的工作要做。至少在目前，人类离超人工智能威胁还相当遥远。担忧未来，也许更多还是科幻作家和未来学家的事。