未来的人工智能将不再是“人工”智能

【新智元导读】不远的未来，人工智能将无处不在，即使是人类专家也无法分辨，不能理解。这对人意味着什么，对人工智能又意味着什么呢？

（文／Jarno M. Koponen）人工智能正在开始变得从外面看不见里面，从里面也看不见外面。对人类在来说，对人工智能技术的运作和后果的感知和理解正在变得更加困难。即便专家也并不总是能完全理解一个人工智能系统是如何运转的。

实际上，随着人工智能技术的影响日益增加，我们对这些影响的理解能力正在变得越来越有限。这对人类的能动性意味着什么，对人工智能的未来意味着什么呢？

人工智能正脱离人类掌控

不远的未来，对人类来说人工智能将普遍变得不可触摸、不可分辨和难以理解。

首先，人工智能并不一定需要一种可触摸的具体化身。它可以通过图形用户界面或语音界面等不同的中介物来展现自己。我们已经开始毫不犹豫地信任 Spotify 提供的音乐推荐，开始向 Siri 或 Alexa 说话，仿佛它们是召唤出的精灵、是不具有形体的智能。

第二，通过战胜图灵测试或类似的更加切题的测试，人工智能正在变得无法从人类中分辨开来。一个能够模仿人类水平的交流、认知和情感能力的智能系统将变得无法和人类相区分。由此，我们将不再能感知到其智能的“人工性”。

第三，也是最重要的，当人工智能的后果和技术变化的细节已经超出了人类的感知和理解能力的时候，人工智能将逃脱人类的监控。我们能知道智能系统存在着、在这里、在发挥作用，但我们不再能完全理解这些系统在做什么、它们是怎么实现其目标的、它们会带来什么确切的后果。

这意味着人工智能技术将很快超越克拉克的第三定律，即所谓“任何先进的技术，初看都与魔法无异”。实际上，我们已经不再有机会去弄清楚人工智能系统用了什么把戏，甚至无法发现人工智能系统是不是耍了把戏。

什么是“智能”，专家也将理解不能

由此，我们能够认知到人工智能系统向我们显现和展示的东西，但对人类的感知能力而言，这些系统的智能本身将变得不可知。目前，这一发展趋势中有两个独特的特征：

首先，多数的算法系统以及人工智能技术的最近进步都是“黑箱”式的。大多数人都既无法理解它们，也无法揣测它们，更无法控制它们。

因此，很难知道或评估人工智能系统是如何塑造你在线上和线下的生活的。它们向你推荐最新的歌曲，为你提供个性化保险策略，而股票市场的算法交易正在塑造着全球市场经济，影响着现代生活的方方面面。

具体而言，当智能系统的行为更加整体性地与个人、社会、文化、政治和经济系统缠绕在一起时，对机器智能的确切后果或影响的辨识将变得十分困难。

第二，人工智能技术正在变得如此复杂以至于难以理解——即便那些正在设计和研发它们的专家也难以理解。机器学习专家 Pedro Domingos 在他最近出版的书籍《主算法》 （The Master Algorithm）中指出，早在 20 世纪 50 年代，科学家就已创造出一个算法，这个算法能够做一些人类无法完全理解的事情。

这个发展趋势并未改变。恰恰相反。按照人工智能发展目前的步伐，即使那些有经验的专家也将很难跟上。

现在，从个性化技术到粒子物理学，从菜谱、奇怪的游戏选项到预防犯罪和生物工程，各种机器学习系统已经能在不同的领域提供未曾预见到的洞见。具体而言，专门化的系统既可以促进生物学的科学发现，也可以帮助你选择前去参加下次会议时的最佳路线。

一个智能系统变得越通用、越具有自我学习和自我调整能力，人类就越难以弄懂它的确切变化过程。而且，当一个超高速的、能自我学习和自我组装的人工智能系统以远超人类的速度发展和改造自己时，它就会避开我们的只能。最终，人工智能系统将会成为自己行为的首要专家，将能够比任何人类都更好地预测它自己的未来。

由此，复杂的人工智能技术将会基于一系列甚至人类中的专家也无法理解的复杂互动，而向我们提供合理而正确的洞见。如果这样的话，没有人工智能的辅助，我们还能做出确切的科学发现或者信息灵通的决策吗？

人工智能不“人工”

正如任何重要技术创新及其获得主流应用的过程一样，人工智能也正在从一种朦胧的好奇演化为一种强大的功能。所以，将来世界上最有价值的财富将是一个无人能完全理解或控制的智能系统。

同时，人工智能也曾在成为一个前所未有的文化和技术现象，正在影响到我们对“智能”自身进行评估和定义的方式。在这方面，人类智能或许不再是对智能自身最重要的测量标准。人工智能中的“人工”二字正在失去其意义。

今天，人类智能正在塑造人工智能，而人工智能也已开始越来越多地塑造人类的智能。当人工智能系统的影响增加之后，将有更多的人需要能够理解人工智能的运作和后果。为了实现这一点，我们需要能够增强人类自己的智能，以便能够与各种各样的智能系统进行可持续的互动。

首先，非常重要的是，要增强当今的人类研究者、设计者和工程师的能力，使他们能跟上他们所建造的人工智能技术的步伐。多样化、多学科的团队将不仅能提供更好的实践、工具和技术，也将能够更好的理解智能系统的运作和后果。

其次，我们应该让尽可能多的人能够以自己的方式与人工智能技术进行互动。目前，新设计出的学习游戏使得儿童能够学习编程和机器人技术，让他们熟悉智能系统及其可能性。像 Algorithmic Angels 这样的系统能够向我们揭示出智能系统在日常生活中的作用，使人能够决定自己将以什么样的个人方式来与系统互动，从而能够让“机器中的幽灵”变得更加触手可及、更加可辨识、更加可理解。

我们需要揭开黑匣子，这样才能使更大规模的人机联合能动性和人机协作成为可能。让人工智能变得“民主化”，这将使得更多的人能够创造出多样化的方式以设计和研发出智能系统的新方法。正如编程和媒体素养被视为当今的核心技能一样，理解和影响智能系统的能力将成为未来的核心技能。

通过这种方式，人工智能将进化成一个平台，像互联网一样的基础设施。它将使得人们能够自己决定以何种方式利用人工智能或是为人工智能的设计和发展做出贡献。这样的人工智能网络将像物联网一样为不同环境和产业中的各种体验和应用提供动力，同时向专家和生手开放。它将显著地改变我们理解人工智能和与之互动的方式。人类和人工智能将以一种看不见的方式缠绕在一起。

物理现实与数字现实之间的界限正在开始消融。当人类和智能系统之间能够更加完美无缝地缠绕在一起的时候，人类智能与人工智能之间的边界或许也会消融。“人工智能”一词中的“人工”二字将会消失，而人工智能的概念也将变得无关紧要和过时。

原文标题：The next AI is no AI