独家 | 图灵奖得主Raj Reddy:通用AI还很遥远,人类将成宠物

舒石 希拉 李林 发自 匹村 量子位 报道 | 公众号 QbitAI
Raj Reddy(左)和他的学生James K. Baker

图灵奖,计算机界的诺贝尔奖,迄今已经颁发50届。其中至少十分之一,颁给了人工智能领域的科学家。

量子位今天的访谈对象,正位列其中:他就是图灵奖得主、人工智能先驱Raj Reddy。

“我办公室在最破的那个楼里”,Raj Reddy在给量子位指示方向时幽默地说。这位顶级学者已经在卡内基梅隆大学待了近50年,曾经长期担任CMU计算机学院院长。

1994年,Raj Reddy因设计和建造大规模人工智能系统,证明了人工智能技术的重要性和潜在的商业价值,而获得图灵奖。

此外,他还一手创立了美国第一个机器人研究所(Robotics Institute),成为全球最负盛名的机器人研究中心。

在这次与量子位的对话中,Raj Reddy回顾了人工智能的发展,同时坦言目前人工智能的发展超过他的预期。

不过Raj Reddy也指出目前的深度学习也有局限性,人工智能发展会进入平台期、会遇到瓶颈,突破有赖于计算力的进一步释放。

“如果你问我未来十年的大趋势,我会说是特定用途的AI”,Raj Reddy举了一个例子:比方德州扑克AI(前不久刚在海南赢了人类选手的冷扑大师)。

“我们大多数人,大多数情况下遇到的都是不完美信息问题”,Raj Reddy说这类AI有着很实际的意义。

谈到通用人工智能,Raj Reddy说目前还没有实现强人工智能所需的理念、资金等各种条件,但他很有信心:“什么时候才能实现像人一样的通用人工智能?可能需要50年100年1000年?我不知道,但终究会实现”。

谈到通用人工智能,总想到人类生存危机。

“当下次进化发生的时候,出现的不是机器人,而是长得和你我一样却有着超能力的‘超级人类’。超级人类会完成一切工作,其他人类没事可做,他们没有工作,但有充足的食物来喂养他们,也有丰富的娱乐”,Raj Reddy说。

(推荐一篇:《人类正与机器合二为一》)

把目光投向那个遥远的未来时,Raj Reddy非常乐观:超级人类(或者说超级AI)不会灭绝人类,就像人类没有杀光大猩猩黑猩猩、或者其他哺乳动物。

在他眼中,未来的世界对大多数人来说就像天堂一般:不需要工作,却能满足一切需要。

相信你也感受到了,从这个意义上来说,人类会变成宠物。

量子位把这次对话的内容,以Raj Reddy自述的形式呈现如下:

人工智能的肇始

1969年,我从斯坦福毕业来到CMU(卡内基梅隆大学)。

我斯坦福的老师是John McCarthy,他起了“Artificial Intelligence(人工智能)”这个名字。CMU有Allen Newell和Herbert A. Simon。Marvin Minsky在MIT。当时大家都不喜欢人工智能这个提法,更偏好“复杂信息处理”这类名字。

(量子位插播:上面提及的几位都是图灵奖得主)

1956年,这几位科学家参加了在达特茅斯学院举行的一次会议,正式确立了人工智能的研究领域。其实今天很多热门的AI领域,包括自然语言处理、计算机视觉、机器人等领域,在上世纪60年代已经被定义而且有人开始研究。

只不过当时在计算机处理能力这个硬件条件上,有很大的局限性。现在手机可能比90年代大型计算机的计算能力要强百万倍,90年代的计算能力又比60年代强百万倍。包括照相这件事,以前是一行一行的扫描,还得希望被拍摄的对象别动。

此后人工智能经历两轮起伏,现在新的一波人工智能热潮再度兴起。(量子位插播:当时Raj Reddy的学生,美国国家工程院院士James K. Baker帮量子位科普了一遍几十年来人工智能的历次兴衰,暂时按下不表)

学习的本质

我相信,现在的深度学习等方法也有局限性,现有水平也无法达到通用人工智能,人工智能的发展会进入平台期,会遇到瓶颈。未来计算能力还会有飞跃,计算力还会得到释放,这将改变我们看待问题和算法的方式。

就像一个刚出生的婴儿,并没有太多的智慧,成长半年到一年以后,开始具备视觉和行动的能力;再过两年,学会语言;然后四五岁的时候开始学习写字。所以慢慢的,我们学会很多,此后我们一直不停学习。

所以问题是,自动化应该是一个可以持续学习的系统,不停学习任何事情。我的学生Oren Etzioni,现在是西雅图艾伦人工智能研究院(AI2)的CEO。那个研究院在做很多好玩的研究,其中一项是教会电脑读书,然后可以回答每一章节下面的问题。

他们用了生物学AP教材,构建了一套知识系统,准备让电脑通过AP考试。花了好多时间,还有好多钱,最后发现行不通。

在我看来,这个方法根本就是错的。在搞AP生物知识之前,应该先搞明白高中生物;搞中学生物之前,应该先搞明白小学科学。Oren去了之后就是这么做的,他们先研究中学的生物课程,现在已经能回答60%的问题。

你会发现,理解这个世界或者说常识推理,是一件非常困难的事情。

假设我们把电脑送到学校里去,和普通的人类学生一起,教给他们一样的知识,教给他们分析、解决问题的方法,希望电脑能达到六七岁孩子的水平。

结果我们发现,AI连四五岁孩子的智力都做不到。不需要懂数学原理科学知识,只是能很好地理解语言,有感情,我们连这个水平的人工智能都做不出。

那么让我们退回到1岁孩子的水平:不会说话,但有视觉功能,可以认出人脸。视觉和语言不一样,语言是从某种意义上讲是监督学习,视觉完全是无监督学习,人类理解图像结构的过程,完全是无监督的。

所以问题在于,我们能否从监督学习,转变到通过改正错误来学习。比如说你说了一件事,你妈妈告诉你“不不不,这是错的,那样才是对的”,每一次更正都能提高系统的能力。

另外人在学习的时候,不是通过阅读纯文本,而是有语言、图表等多个途径,所以机器学习也应该尝试用多媒体的方式进行。

未来十年的趋势

目前AI的发展完全超过了我的预期。

10年前我还说,在不限制词汇和说话者的条件下完成语音识别这件事太难了,我有生之年是看不到了,但是它现在就实现了。 本质上,人工智能的发展受到概念、创意的限制,同时也受限于计算能力。

如果你给我相当于目前100万倍的计算力,我很可能造出革命性的系统,让它一直观察人类的行为,然后自己去理解。现在机器学习很受重视。想象一下,如果以机器学习技术去持续地学习一切,未来有很多有趣的可能性。

基本上,如果你问我未来十年的大趋势,我会说是特定用途的AI,比如说德州扑克这种。

我们大多数人,大多数情况下遇到的都是不完美信息问题, 我们要在得不到所需的全部知识和信息的前提下做出最好的选择,结果有时好有时坏。

美国的医保体系ObamaCare就是一个很好的例子,它有很多优点,但也有一些问题,他们应该修复这些问题,而不是彻底抛弃这个体系。当你管理着一个人口规模庞大的社会,根本不可能预测到所有的副作用,你需要做的,是确保在事情发生时能迅速作出反应。

问题在这里也和玩游戏是一样的,你在没有全部的信息的情况下做出了行动,会发现新的信息,这时就需要你智能地去使用新信息,而不是继续遵循旧的策略。

如果你和Tuomas Sandholm聊(量子位聊过了,这里是:传送门),他会说有很多领域需要这种技术,最好的例子就是谈判。扑克AI的技术能解决很多真实世界的问题。

通用人工智能还很遥远

我的导师John McCarthy曾经说,要想造出通用人工智能,我们需要1.7个爱因斯坦、2个麦克斯韦、5个法拉第和0.3个曼哈顿计划的资金。

现在没有通用人工智能所需要的全部理念,未来我们的后代会有;我们现在没有所需的资金,没有人愿意在接下来的100年时间里,每年花掉万亿美元来资助AI研究。

如果有这么大规模的资金,会有更多人从事这项研究,我们能更早见到通用人工智能;即使没有,通用人工智能也一定会实现,这是迟早的事。

我们什么时候才能实现像人一样的通用人工智能?可能需要50年100年1000年?我不知道,但终究会实现。

长远来看,我相信会实现通用人工智能,这也引出了一个问题:人类的生存危机。很多人担心如果通用人工智能出现,人类可能会被灭绝。

我完全不相信这种说法。

人类将成宠物

物种经历了几十亿年的进化,我们人类没有去杀光大猩猩黑猩猩、或者其他哺乳动物,大家都在这个星球上共存。

我认为,当下次进化发生的时候,出现的不是机器人,而是长得和你我一样却有着超能力的“超级人类”。超级人类会完成一切工作,其他人类没事可做,他们没有工作,但有充足的食物来喂养他们,也有丰富的娱乐。

我们设想一种极限的情况,如果我们创造了一种超级人类,做各种工作都比你好百倍,只需要700万甚至7千人,就能完成现在我们70亿人类的工作,那么这70亿人类就没事可做。当这种情况发生,人类就不再需要做现在这样平常无聊的事情,但是物质又极大丰富,人类就可以整天去海滩度假享受,有些人甚至会觉得这是天堂,是在地球上创造了天堂。

我持一种乐观的态度:超级人类不会杀死我们,而是会喂养我们,让我们做自己想做的任何事情,对于大多数人来说,这就是天堂:不工作,却能满足一切需要。

想象一下,大多数人都有猫狗等宠物。对于超级人类来说,我们就是宠物,他们会给我们提供所需的一切,这也就是乌托邦。

我想说的就是,当超级人类这个物种,或者超级AI的出现,一切都为你准备好了,你可以做任何事,不会有任何的物质短缺。

Raj Reddy工作的背影

原文发布于微信公众号 - 量子位(QbitAI)

原文发表时间:2017-04-17

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏腾讯研究院的专栏

超越“虚拟”:虚拟世界的未来

作者:Ralph Schroeder 牛津大学教授;   Ralph Schroeder 教授现任职于牛津大学互联网研究所(Oxford Internet In...

3605
来自专栏镁客网

人脑中1000亿个神经元正在指导AI的发展,未来我们甚至可以制造意识 | 专访诺奖得主和脑科学专家

1160
来自专栏新智元

专访 Jordan 高徒 Percy Liang:如何开发连续学习的智能体

【新智元导读】斯坦福大学计算机系助理教授、斯坦福人工智能实验室成员 Percy Liang 是今年 IJCAI 计算机和思想奖(Computers and Th...

2859
来自专栏机器人网

AlphaGo之父:没有AI,人类理解世界如何突破?

谷歌旗下人工智能研究部门DeepMind联合创始人兼CEO德米斯·哈萨比斯(Demis Hassabis)近日在英国《金融时报》上撰文,全面阐述了人工智能如何帮...

2836
来自专栏何俊林

一个30岁程序员的对于中年危机的思考和应对

2005年,我怀着对大学生活无限的憧憬,上了某大学的软件工程专业。从报这个专业的第一天起,就听过无数软件行业是“青春饭”的言论。时至今日,当年青涩的毛头小子也已...

942
来自专栏程序员互动联盟

为啥在校大学生学不好编程?

最近经常看到有些大学生拿着一个学生管理系统的作业在各种帖子,群里,或者别的渠道求源代码,而且还要能直接运行的代码,真不知道当初为啥要选择计算机专业,把自己难为成...

2994
来自专栏Sign

闲聊

本来之前已经决定让这个公众号『正式』一点,所以要去掉个人的碎碎念。但是涉及到『DOLO』就很难再保持客观的情绪了。 所以稍微聊一聊关于『DOLO』的一些事吧。...

27211
来自专栏量子位

让人上瘾的MIT课程发布:代号9.11,零基础探秘人类大脑

1174
来自专栏大数据文摘

我们的机器狗能送快递!波士顿动力创始人TED演讲

1355
来自专栏Java架构师进阶

第一次的心得总结,以三个月为周期

本文虽然是自己的思考总结,但是为了照顾读者们的阅读,我决定采用自问自答的方式来写内容,也是尽力用自己的经历来帮助读者们代入。

762

扫码关注云+社区

领取腾讯云代金券