卢安迪：人工智能对教育的启示

人工智能的常见短处在于大局观、创意和因果判断，所以这些是人类在新时代不易被取代的能力。我们输入人工智能算法的数据，只能透露不同变量之间的相关性（correlation），但没有表达不同变量之间的因果关系（causation）。

人工智能对教育的启示

文 / 卢安迪

每个时代的科技发展，都会引起关于机器取代人类、导致大量失业的忧虑。从负面角度看，机器的能力确实会跟人类有所重叠；但从正面角度看，机器也容许人类专注于只有人类能做的事情。因此，如何调整教育的侧重点，增加人类能力与机器的区别和互补，就更形重要。

在原始社会，体力是人类生存的最重要因素之一。随着机械技术的进步，很多体力工作都可由机器代劳，人类可更侧重于智力工作。但人工智能的发展，则在智力的不同方面也产生区分：哪些方面的智力是可由机器取代、哪些方面的智力是人类独有的呢？

要解答这个问题，让我们首先回顾一下人工智能的基本运作模式。当然，难免有一些前沿的研究会超出以下的讨论范围，但粗略而言，大部分人工智能的算法都可归纳成三个字：找规律。我们把大量数据输入计算机，让计算机探究其中规律，然后便可对新的情况作出判断。

当我说大部分人工智能都是「找规律」，完全没有贬义；相反，通过复杂而精密的「找规律」，计算机得以处理这么多问题，本身就是一件美妙的事情。但这类算法也有一些限制，以下会按重要性的递增次序（increasing order of importance）抛砖引玉。

计算机受限于数据范围

首先，由于人工智能算法是基于输入的数据，它们未必能对现行范围以外的情况作出太好的预测。再者，如果一个情况是属于跟现行范围不同的范式（paradigm），例如连变量的数目和角色都不一样，则计算机会遇到更大困难。于是，计算机找出的局部最优解（local optimum），未必是全局最优解（global optimum）。

或许有人会问：如果现有数据无法预测那些超出范围的情况，那么人类又是如何预测？如果人类能预测，为何不能把人类的预测根据输入计算机，让计算机也能预测？答案是，人类的预测是基于人生多年累积的常识和大局观。这些常识是分散在生活的各个角落，大局观则带有模糊成分，两者都较难明确输入计算机。

假设我们建造一个机械人担任联储局主席，决定利率的调整。根据过往的大量实践数据，机械人或可掌握利率和各项经济数据关系的不少规律，但它未必清楚如果把利率调至极高或极低（例如负数）会发生什么事，因为相关参考数据太少了。更显著地，如果废除联储局，让自由市场决定利率，会否比现在的制度更佳？我在史丹福学过的众多机器学习（machine learning）算法，我想不到有哪一个能有效解答这个问题。

计算机缺乏大局观的毛病，也可体现于棋类游戏。以象棋为例（不论西洋象棋还是中国象棋），计算机在开局和中局都远胜于人类。但在一些特殊的残局，尤其是剩下的子力不多，棋盘很空旷，每一着都有很多可能性时，计算机的优势则没有那么明显：因为时间有限，计算机和人脑都未必能把所有可能性细算，而是讲求整体策略，这时人类的大局观就可派上用场。

在艺术创作方面，计算机可以观察客观世界，以及学习前人作品里的意象和情感，重组而创作出新的作品，但无法知道前人没有表达过的情感。相反，人类则可通过内省（introspection）而得到新的创作灵感。例如王国维先生有三句词：「试上高峰窥皓月，偶开天眼觑红尘。可怜身是眼中人。」意思实在太过独特；在王先生之前，即使有计算机，也不大可能写得出来。

因果判断需经验常识

接下来我想讨论一个更重要的问题，就是人工智能和因果判断的关系。我们输入人工智能算法的数据，只能透露不同变量之间的相关性（correlation），但没有表达不同变量之间的因果关系（causation）。例如如果搜集一个房间的温度和房内的人的出汗量的数据，可发现两者有正面关系，但无法从数据推断，究竟是温度上升导致出汗，还是出汗导致温度上升，还是有第三个变量既导致温度上升，也导致出汗。【注：这里有一个小问题，就是温度上升和出汗之间有时间差，但这不影响讨论的重点，因为不难想到一些时间差较难侦测到的例子；这里只是选用了比较简单的例子，以便带出主要逻辑。】

现在，假设有人问：如果强行使人们出汗（例如为其注射某些药物），这会对房间温度有什么影响？这就需要知道温度和出汗之间的因果关系才能解答。对于某些问题，我们可以通过直接实验来探索因果关系，但在很多情况下，直接实验往往有可行性和道德性的制约因素。

当然，上述例子比较简单，但一般来说，只有经过多年生活经验的累积，我们脑中才有关于世界运作的可靠模型，让我们作出因果判断；如果要训练计算机作出因果判断，需要让它们学习关于错综复杂的世界运作的模型，往往需时甚久。

综上所述，人工智能的常见短处在于大局观、创意和因果判断，所以这些是人类在新时代不易被取代的能力。本文旨在作出这些判别；至于怎样在教育中达致这些目标，本应留待其他文章处理，但这里也可稍作涉猎。

在有限的学习时间和资源下，对任一问题的各种可能解答而言，学习的广度和细致程度之间不免要有取舍（trade-off）。随着人工智能发展，计算机在一个狭窄范围的不同选项之间的抉择能力，将会达到不太需要人手参与的程度，但大局观则是其弱项。因此，我们应更致力接触广阔范围的不同可能解答，思考全局最优解大约在哪个范式之中。

例如回到上文提到的货币政策例子，我见过的所有大学经济学课程，几乎都是集中讨论当中央银行存在时，应如何计算最优货币政策，而没有认真看待其他范式。记得佛利民（Milton Friedman）曾说，我们必须让各种边缘思想——包括现时在政治上不可行的思想——保持生命力，因为当危机发生时，它们往往进入可行范围，甚或是解决问题的良方。这个忠告在现时比以往任何时候都更适切。