人工智能：启蒙运动如何结束？

海外视点

人工智能技术可能带来的后果或许是人类无法估计的。人类的价值和思维体系有可能被人工智能技术改变，而技术本身并不能解释判断背后的基本原理。美《大西洋月刊》2018年6月号刊发了美国著名外交家、前国务卿亨利·基辛格（Henry A. Kissinger）的文章“How the Enlightenment Ends”，从一位非科技人员的角度分析了人工智能对人类世界的影响和隐忧。基辛格认为，人类社会无论从哲学领域还是智力层面，都还没有对人工智能的崛起做好准备。他就此呼吁，对人工智能的研究应该上升到国家战略层面。

原文 ：《人工智能：启蒙运动如何结束》

桑暘/编译

图片 |网络

翻开人类历史新篇章

三年前一次跨大西洋会议上，演讲者介绍了一个即将在围棋比赛中挑战国际冠军的计算机程序。他坚持认为挑战冠军的技能将不可能被事先编程，而是要给予计算机最基本的学习能力，在和自身对弈的过程中不断学习和改进策略。就在演讲结束的几个月后，一台名为“AlphaGo”的人工智能计算机战胜了世界围棋冠军。

自主学习机器对于人类历史来说到底意味着什么？这些机器是否会互相沟通？我们是否已经翻开了人类历史的崭新篇章？由于对这个领域中的技术知识并不熟习，本文将人文和技术并用，梳理了一些有关这个话题的非正式对话，这些讨论更加深了隐忧。

迄今为止，影响现代历史进程最大的技术革新仍是15世纪印刷机的发明。它使得对经验知识的搜索成为可能，推动宗教时代转向理性时代。个人的洞察力和科学知识取代信仰成为人类意识的主要标准，信息被存储和系统化。理性时代塑造了当代世界秩序的思想和行动，但现在这一秩序在一场全新并更彻底的技术革命之中发生转变。它的后果我们没有完全想到，它的终点可能是一个不受伦理或哲学规范影响的，依赖于数据和算法驱动的机器世界。

如今我们已生活在互联网时代，人工智能时代就在眼前。启蒙运动试图将传统真理交给解放和分析性的人类理性，而互联网的目的是通过累积和操控不断增加的数据来认可知识。个人主体数据化，数据逐渐成为统治者。互联网用户强调通过情境化或概念化其含义来检索和收集信息，他们很少涉及历史或哲学。提供与实际需要相关的直接信息是一个基本原则。在这个过程中，搜索引擎算法获得了预测个人偏好的能力，使算法能够对结果进行个性化处理，并将其提供给其他方用于政治或商业目的。真相变得相对，信息威胁要压倒智慧。

互联网技术对政治的影响尤其明显。数字世界强调速度，它的动机准许激进超越深思熟虑，它的价值观来源于小部分人的共识而不是内省。尽管取得了很多成就，它仍旧面临着强制性压倒便利性的风险。互联网以及强大的计算能力促进了数据的积累和分析，人类认知出现了前所未有的可能性。其中最显著的就是研发人工智能项目，一种能够通过复制人类思维过程来发明和解决复杂抽象问题的技术。这远远超出了人们所熟知的自动化。自动化在于方法，它通过合理化或机械化过程达到预计目标。相比之下，人工智能则更关注结果，因为它通过不断改进自身而达到最终效果，因而也可以说它并不稳定。人工智能系统在操作过程中获取并即时分析新数据，进而不断变化，寻求改进。通过这个过程，人工智能发展出一种过去被认为是人类保留的能力：对未来进行战略性判断。

人工智能三大社会隐忧

人工智能正试图进入多个领域，从而实现所谓的“普遍智能”。在未来，越来越多的人类活动将由算法驱动。但这些算法只基于数据，并不能解释数据背后的基本事实。矛盾在于随着世界变得更加透明，这一技术却越来越神秘。是什么将这个新世界与我们所知的区别开来？我们将如何生活？我们将如何管理和改进人工智能，或者至少防止发生人为伤害？

人工智能将为包括医学、能源和环境在内的众多领域带来非凡益处。但正因人工智能是对尚未确定的未来作出判断，其结果自然具备了不确定性。有三个方面值得特殊关注。

首先，人工智能由于缺乏数据背景而误解人类指示的可能性很大。一个著名案例是聊天机器人“Tay”。Tay被设计成一位19岁年轻女孩，但这台机器无法理解“友好”和“合理”语言的必要性，从而在回应过程中出现种族主义、性别歧视和其他煽动性语言特征。技术领域的一些人员声称，这个实验构思不佳、执行不力，但它表现出一个潜在的不明确性：人工智能能在多大程度上理解指令上下文？什么媒介可以约束其作出冒犯行为？我们能否在早期阶段发现并纠正一个在期望框架之外的程序？

其次，在实现预期目标时，人工智能可能会改变人类思维过程和价值。AlphaGo通过作出前所未有的战略性举措，击败世界围棋冠军。这些能力是否超出了人类所及？这种能力在将来是否能为人类所掌握？围棋的目的不仅是输赢，还体现了生活的种种战略思考。而AlphaGo只知道一个目标，即“赢”。所以在比赛中，人工智能改变了游戏的性质和影响。这种一心一意坚持的特征是否存在于所有人工智能之中呢？其他一些正在开发的人工智能项目试图将其设计成人类“百事通”，除了一些诸如天气预报等事实问题外，关于现实或生活意义的问题引发了更深层次的思考。我们是否希望孩子在将来通过算法进行价值观学习？我们是否应通过限制人工智能对提问者的了解来保护隐私？如果是这样，我们该如何实现这些目标？对于人类都无法达成一致的价值观分歧，人工智能是否能就此成为我们的仲裁者？

第三，人工智能或许能达到预期目标，但无法解释结论中的基本原理。在模式识别、大数据分析和博弈等领域，人工智能已经超越人类。如果它继续发展，可能很快就会超越人类赋予的优化功能，从而以自己的方式自我优化。到时候，人工智能是否还能在人类理解的范围内解释其行为模式？人工智能的决策是否会超越人类语言和理解？纵观人类历史，文明给予了人们认识世界的能力：中世纪是宗教，启蒙运动中是理性，19世纪是历史，20世纪是意识形态。时至今日，我们面临的最重要问题则是：一旦人工智能超越了人类自身的理解能力，人类意识将何去何从？人类社会将不再能够在这个世界找到它存在的意义。

在国家战略层面思考对策

如何在机器世界中定义意识？谁会对人工智能的行为负责？怎样的法律体系能够约束超越人类自身能力的人工智能行为？对于人类来说，各种比赛的目的并不是胜出，而是过程中体现的思考。而人工智能在解决复杂问题的同时却忽略了这一点，一味追求达到目的。我们在利用人工智能的同时，似乎正在逐渐丢失人类认知的本质。

近期开发的“AlphaZero”程序在围棋比赛短短几个小时的自我发挥中达到了人类1500年才能达到的技术水平。而它只是获得了比赛基本规则而已，人类和人类的数据都不是它自我学习过程的一部分。如果AlphaZero能够如此迅速地掌握这一能力，五年后的人工智能又将达到何种程度？对人类认知又会产生怎样的影响？伦理在这个过程中的作用又是什么？

通常，这些是技术人员及相关领域科学家的问题。哲学家及其他人类学领域的专家因为缺乏对人工智能科学机制的认识和理解，在这个问题上并无优势。相比之下，科学界在推动探索其成就的技术可能性，而技术界则专注于更大规模的商业展望。这两个领域均在推动发现的极限，而不是试图领会它们。管理者只关心人工智能在安全和智能领域的应用，忽略了它在人类生存状况中会产生的变化。美国还没有系统地探索人工智能的全部范围，研究它的含义。然而，从人工智能与人文传统的关联角度来看，这项计划应该被赋予高度的国家优先权。

人工智能的开发人员应该尝试回答一些上文列出的问题，并在他们的设计构建中加以完善。政府应该考虑成立一个智库委员会来帮助制定国家愿景。可以确定的是：如果我们不尽快开始思考这些问题，不久我们便会发现，一切已经太迟了。

文章原载于社会科学报第1617期第7版，未经允许禁止转载，文中内容仅代表作者观点，不代表本报立场。