孙富春：人工智能的未来发展和人机混合智能

转自 中国人工智能学会

CCAI 2019

2019年中国人工智能大会（Chinese Congress on Artificial Intelligence 2019，简称“CCAI 2019”）将于9月21日-22日在青岛召开。清华大学孙富春教授将出席大会并担任智能机器人分论坛主席。

孙富春现任清华大学计算机科学与技术系教授、博士生导师，清华大学学术委员会委员，研究领域包括机器人的主动感知、认知计算与灵巧操作等。他还是IEEE Fellow，担任中国人工智能学会常务理事、中国自动化学会常务理事、清华大学计算机科学与技术系学术委员会主任、智能技术与系统国家重点实验室常务副主任等职务。

孙富春教授对人工智能的发展路径、物质基础以及未来发展有过深入思考，让我们一起来了解。

人工智能发展的四个阶段

孙富春提出过人工智能发展的“四阶段论”：

第一阶段是“不知道自己不知道”，人工智能的边界还不是很分明，凡是从事过符号智能、计算智能、机器学习、机器感知、行为智能及其应用的人，都是人工智能专家，属于“无知者无畏”；

第二阶段叫“知道自己不知道”，随着人工智能的不断发展，其边界愈发清晰，高级的人工智能技术应该能达到“知道自己不知道”，对社会和军事充满敬畏。

第三个阶段叫“不知道自己知道”。如果人工智能真的“不知道自己知道”，那结果将是可怕的。人工智能的发展必须用国家行为来进行，必须加以大力发展和研究。

最后一个阶段叫“知道自己知道”，这是人工智能的终极目标。人工智能是人类用来为自己服务的，它的目标应该是使我们的生活更加美好。

孙富春认为，当前的人工智能是以大数据和深度学习为代表的弱人工智能，未来会出现强人工智能，这会是更接近于人的智能。人工智能的最高形式则是碳智能和人机混合智能。

孙富春还指出，人工智能时代一个最重要的特点是人和机器共生。过去人和机器的关系是单向的，机器是“奴隶”，百分之百服从人类。但在人工智能时代，人和机器的关系是双向的，机器是“伙伴”， 它具有感知、学习、推理和决策能力，既要服从人类，同时人的决策会受到机器的影响，。如此一来，对于人给出的一些命令，机器可能会提出不同的观点。

人工智能依赖物质基础

孙富春曾表示，所有的智能都有物理基础，是基于物料流和能量流的信息表现形式。我们今天谈论的智能一般是指计算机的算法智能，其实还有一大类的智能是不基于算法的智能，如生物智能，光的智能，量子智能，还有基于网络的群体智能。这样硅片计算机，生物的神经系统、DNA和免疫系统，光、量子和网络都是构成各类智能的物质基础。强调智能产生的物质基础，其目的是摆脱目前对智能局限于信息（主要是算法）的局限，从根本上超越目前硅智能的限制。以生物系统为例，微尺度智能研究细胞和分子层次的智能实现基础和表现形式。

生物启发的智能是未来智能发展的重要范式，它依赖于生物学、生命科学和心理学的发现，所以这样一代人工智能叫碳智能。

相较于硅云计算，生物计算具有以下三方面的优势：

首先，存储量大，1立方米的DNA溶液，可以存贮1万亿亿的二进制数据；

其次，运算快，DNA计算速度是普通电脑的十亿分之一，十几个小时的DNA计算，相当于所有电脑问世以来的总运算量；

最后，能耗极低。

孙富春认为，未来的人工智能会是这样一个图谱：从硅云计算发展到生物计算，最后到神经机制驱动下的强人工智能。

人工智能的未来发展

近年来，世界各国政府纷纷将人工智能上升为国家战略，牢牢抓住人工智能赋能各行业的发展契机，使其助力传统行业实现跨越式升级。人工智能正逐步成为掀起互联网颠覆性浪潮的新引擎。

但人工智能不是万能的。目前人工智能的发展还有很多不足和“不能”。人工智能技术在很多方面距离成熟应用尚存在技术瓶颈；人工智能的滥用有可能带来道德伦理上的风险；人工智能技术垄断将造成的新“数字鸿沟”同样不应被轻视。

关于人工智能的发展，我认为有如下趋势：

机器将取代很多传统的工作岗位。这些岗位往往具有劳动强度大、附加值低、重复率高、规则清晰、危险系数高等特点，存在着用工难的问题。而人和机器关系的变化，将带来人机共生的新社会形态。此外，基于场景的智能化应用将是未来的重要的领域，包括生产、仓储、物流等。

影响人工智能发展的三个要素即驱动资源、数据资源和计算理论，正在发生变化。5G和云端智能等技术将促进分布式人工智能的发展，使数据在云端通过学习生成知识成为可能，机器将具备认知和学会学习的能力。DNA计算、神经计算和免疫计算等新的生物驱动资源以及类生命材料技术的发展，将带来一场生物智能的革命。人机混合智能将把人类应用智能的水平带入一个新境界。此外，新的计算理论特别是量子计算理论和芯片技术的发展，将对人工智能的发展与应用产生革命性的影响。

未来，我们应当采取理性务实的发展路径，扎实推进基础理论、芯片等核心计算资源短板的发展，营造人工智能创新生态，注重人工智能法律和伦理方面的研究。在开放中创新，在创新中发展，全速跑赢智能时代，着力建设人工智能科技强国。