独家 | 图灵奖得主Raj Reddy：通用AI还很遥远，人类将成宠物

舒石 希拉 李林 发自 匹村 量子位 报道 | 公众号 QbitAI

△ Raj Reddy(左)和他的学生James K. Baker

图灵奖，计算机界的诺贝尔奖，迄今已经颁发50届。其中至少十分之一，颁给了人工智能领域的科学家。

量子位今天的访谈对象，正位列其中：他就是图灵奖得主、人工智能先驱Raj Reddy。

“我办公室在最破的那个楼里”，Raj Reddy在给量子位指示方向时幽默地说。这位顶级学者已经在卡内基梅隆大学待了近50年，曾经长期担任CMU计算机学院院长。

1994年，Raj Reddy因设计和建造大规模人工智能系统，证明了人工智能技术的重要性和潜在的商业价值，而获得图灵奖。

此外，他还一手创立了美国第一个机器人研究所(Robotics Institute)，成为全球最负盛名的机器人研究中心。

在这次与量子位的对话中，Raj Reddy回顾了人工智能的发展，同时坦言目前人工智能的发展超过他的预期。

不过Raj Reddy也指出目前的深度学习也有局限性，人工智能发展会进入平台期、会遇到瓶颈，突破有赖于计算力的进一步释放。

“如果你问我未来十年的大趋势，我会说是特定用途的AI”，Raj Reddy举了一个例子：比方德州扑克AI（前不久刚在海南赢了人类选手的冷扑大师）。

“我们大多数人，大多数情况下遇到的都是不完美信息问题”，Raj Reddy说这类AI有着很实际的意义。

谈到通用人工智能，Raj Reddy说目前还没有实现强人工智能所需的理念、资金等各种条件，但他很有信心：“什么时候才能实现像人一样的通用人工智能？可能需要50年100年1000年？我不知道，但终究会实现”。

谈到通用人工智能，总想到人类生存危机。

“当下次进化发生的时候，出现的不是机器人，而是长得和你我一样却有着超能力的‘超级人类’。超级人类会完成一切工作，其他人类没事可做，他们没有工作，但有充足的食物来喂养他们，也有丰富的娱乐”，Raj Reddy说。

(推荐一篇：《人类正与机器合二为一》)

把目光投向那个遥远的未来时，Raj Reddy非常乐观：超级人类(或者说超级AI)不会灭绝人类，就像人类没有杀光大猩猩黑猩猩、或者其他哺乳动物。

在他眼中，未来的世界对大多数人来说就像天堂一般：不需要工作，却能满足一切需要。

相信你也感受到了，从这个意义上来说，人类会变成宠物。

量子位把这次对话的内容，以Raj Reddy自述的形式呈现如下：

人工智能的肇始

1969年，我从斯坦福毕业来到CMU(卡内基梅隆大学)。

我斯坦福的老师是John McCarthy，他起了“Artificial Intelligence(人工智能)”这个名字。CMU有Allen Newell和Herbert A. Simon。Marvin Minsky在MIT。当时大家都不喜欢人工智能这个提法，更偏好“复杂信息处理”这类名字。

(量子位插播：上面提及的几位都是图灵奖得主)

1956年，这几位科学家参加了在达特茅斯学院举行的一次会议，正式确立了人工智能的研究领域。其实今天很多热门的AI领域，包括自然语言处理、计算机视觉、机器人等领域，在上世纪60年代已经被定义而且有人开始研究。

只不过当时在计算机处理能力这个硬件条件上，有很大的局限性。现在手机可能比90年代大型计算机的计算能力要强百万倍，90年代的计算能力又比60年代强百万倍。包括照相这件事，以前是一行一行的扫描，还得希望被拍摄的对象别动。

此后人工智能经历两轮起伏，现在新的一波人工智能热潮再度兴起。(量子位插播：当时Raj Reddy的学生，美国国家工程院院士James K. Baker帮量子位科普了一遍几十年来人工智能的历次兴衰，暂时按下不表)

学习的本质

我相信，现在的深度学习等方法也有局限性，现有水平也无法达到通用人工智能，人工智能的发展会进入平台期，会遇到瓶颈。未来计算能力还会有飞跃，计算力还会得到释放，这将改变我们看待问题和算法的方式。

就像一个刚出生的婴儿，并没有太多的智慧，成长半年到一年以后，开始具备视觉和行动的能力；再过两年，学会语言；然后四五岁的时候开始学习写字。所以慢慢的，我们学会很多，此后我们一直不停学习。

所以问题是，自动化应该是一个可以持续学习的系统，不停学习任何事情。我的学生Oren Etzioni，现在是西雅图艾伦人工智能研究院(AI2)的CEO。那个研究院在做很多好玩的研究，其中一项是教会电脑读书，然后可以回答每一章节下面的问题。

他们用了生物学AP教材，构建了一套知识系统，准备让电脑通过AP考试。花了好多时间，还有好多钱，最后发现行不通。

在我看来，这个方法根本就是错的。在搞AP生物知识之前，应该先搞明白高中生物；搞中学生物之前，应该先搞明白小学科学。Oren去了之后就是这么做的，他们先研究中学的生物课程，现在已经能回答60%的问题。

你会发现，理解这个世界或者说常识推理，是一件非常困难的事情。

假设我们把电脑送到学校里去，和普通的人类学生一起，教给他们一样的知识，教给他们分析、解决问题的方法，希望电脑能达到六七岁孩子的水平。

结果我们发现，AI连四五岁孩子的智力都做不到。不需要懂数学原理科学知识，只是能很好地理解语言，有感情，我们连这个水平的人工智能都做不出。

那么让我们退回到1岁孩子的水平：不会说话，但有视觉功能，可以认出人脸。视觉和语言不一样，语言是从某种意义上讲是监督学习，视觉完全是无监督学习，人类理解图像结构的过程，完全是无监督的。

所以问题在于，我们能否从监督学习，转变到通过改正错误来学习。比如说你说了一件事，你妈妈告诉你“不不不，这是错的，那样才是对的”，每一次更正都能提高系统的能力。

另外人在学习的时候，不是通过阅读纯文本，而是有语言、图表等多个途径，所以机器学习也应该尝试用多媒体的方式进行。

未来十年的趋势

目前AI的发展完全超过了我的预期。

10年前我还说，在不限制词汇和说话者的条件下完成语音识别这件事太难了，我有生之年是看不到了，但是它现在就实现了。 本质上，人工智能的发展受到概念、创意的限制，同时也受限于计算能力。

如果你给我相当于目前100万倍的计算力，我很可能造出革命性的系统，让它一直观察人类的行为，然后自己去理解。现在机器学习很受重视。想象一下，如果以机器学习技术去持续地学习一切，未来有很多有趣的可能性。

基本上，如果你问我未来十年的大趋势，我会说是特定用途的AI，比如说德州扑克这种。

我们大多数人，大多数情况下遇到的都是不完美信息问题， 我们要在得不到所需的全部知识和信息的前提下做出最好的选择，结果有时好有时坏。

美国的医保体系ObamaCare就是一个很好的例子，它有很多优点，但也有一些问题，他们应该修复这些问题，而不是彻底抛弃这个体系。当你管理着一个人口规模庞大的社会，根本不可能预测到所有的副作用，你需要做的，是确保在事情发生时能迅速作出反应。

问题在这里也和玩游戏是一样的，你在没有全部的信息的情况下做出了行动，会发现新的信息，这时就需要你智能地去使用新信息，而不是继续遵循旧的策略。

如果你和Tuomas Sandholm聊(量子位聊过了，这里是：传送门)，他会说有很多领域需要这种技术，最好的例子就是谈判。扑克AI的技术能解决很多真实世界的问题。

通用人工智能还很遥远

我的导师John McCarthy曾经说，要想造出通用人工智能，我们需要1.7个爱因斯坦、2个麦克斯韦、5个法拉第和0.3个曼哈顿计划的资金。

现在没有通用人工智能所需要的全部理念，未来我们的后代会有；我们现在没有所需的资金，没有人愿意在接下来的100年时间里，每年花掉万亿美元来资助AI研究。

如果有这么大规模的资金，会有更多人从事这项研究，我们能更早见到通用人工智能；即使没有，通用人工智能也一定会实现，这是迟早的事。

我们什么时候才能实现像人一样的通用人工智能？可能需要50年100年1000年？我不知道，但终究会实现。

长远来看，我相信会实现通用人工智能，这也引出了一个问题：人类的生存危机。很多人担心如果通用人工智能出现，人类可能会被灭绝。

我完全不相信这种说法。

人类将成宠物

物种经历了几十亿年的进化，我们人类没有去杀光大猩猩黑猩猩、或者其他哺乳动物，大家都在这个星球上共存。

我认为，当下次进化发生的时候，出现的不是机器人，而是长得和你我一样却有着超能力的“超级人类”。超级人类会完成一切工作，其他人类没事可做，他们没有工作，但有充足的食物来喂养他们，也有丰富的娱乐。

我们设想一种极限的情况，如果我们创造了一种超级人类，做各种工作都比你好百倍，只需要700万甚至7千人，就能完成现在我们70亿人类的工作，那么这70亿人类就没事可做。当这种情况发生，人类就不再需要做现在这样平常无聊的事情，但是物质又极大丰富，人类就可以整天去海滩度假享受，有些人甚至会觉得这是天堂，是在地球上创造了天堂。

我持一种乐观的态度：超级人类不会杀死我们，而是会喂养我们，让我们做自己想做的任何事情，对于大多数人来说，这就是天堂：不工作，却能满足一切需要。

想象一下，大多数人都有猫狗等宠物。对于超级人类来说，我们就是宠物，他们会给我们提供所需的一切，这也就是乌托邦。

我想说的就是，当超级人类这个物种，或者超级AI的出现，一切都为你准备好了，你可以做任何事，不会有任何的物质短缺。

△ Raj Reddy工作的背影