“神经网络”的逆袭:图解80年AI斗争史

晓查 发自 凹非寺 量子位 报道 | 公众号 QbitAI

有人的地方,就有斗争。

华山派有“剑宗”和“气宗”,相互斗了几十年。人工智能界也有“山头”,AI两大派系的斗争早在第一台电子计算机问世前就已经开始了。

有三名法国人把两派的势力对决画成图,名字叫“神经元的复仇”

这两大派系就是:

  • “符号主义”(Symbolicism),又称逻辑主义、计算机学派,主张用公理和逻辑体系搭建一套人工智能系统。
  • “连接主义”(Connectionism),又叫仿生学派,主张模仿人类的神经元,用神经网络的连接机制实现人工智能。

在符号主义者的眼里,人工智能应该模仿人类的逻辑方式获取知识,而连接主义者奉行大数据和训练学习知识。

派系斗争与两次AI危机

早在达特茅斯会议之前,图灵就提出过“图灵机”这样的人工智能前沿概念。斗争之初的几十年间,连接主义派的论文引用率一直领先对手。

别看奉行“连接主义”的机器学习如何风光,早年间他们长期受到另一个派别——“符号主义”者的鄙视。

60年代初,美国国防高级研究计划署(DARPA)对AI领域进行了数百万美元的投资,人工智能也迎来的第一黄金发展期。

第一次AI危机

情况在1969年起了变化,“符号主义”代表人物马文·明斯基(Marvin Minsky)写了一本名为《感知器》(Perceptron)的书,结果直接把神经网络给写死了。

感知器是那个年代的神经网络。明斯基在书中向“连接主义”发难,你们的感知器连最基本的异或(XOR)都做不到,做出来还有什么用?

也是在那一年,闵斯基获得了图灵奖。

“符号主义”派胜利后不久,AI就迎来了第一次寒冬。或者说,计算力的匮乏导致了第一次AI寒冬,帮助“符号主义”实现逆袭。

符号主义的高峰

到了70年代中期,专家系统(expert system)的出现带来了AI的黄金时代。它其实就是一套计算机软件,能够模拟人类专家回答问题,不过它的智能仅局限在一个很窄的领域,说它是“活字典”可能更准确。

与此同时,“连接主义”也在悄悄发展,约翰·霍普菲尔德(John Hopfield)在1982年发现了具有学习能力的神经网络算法。

就在“符号主义”志得意满的时候,Lisp machine的失败让两派力量再次发生了逆转。Lisp是当时研究AI领域常用的编程语言,Lisp machine是专门被优化用来运行Lisp程序的计算机。

80年代,研究AI的学校都买入了这种机器,最后却发现用它们做不出来AI。之后就出现了IBM PC和苹果机,比Lisp machine便宜,运算力更强。

Lisp machine顺理成章“狗带”,AI进入第二次寒冬。

连接主义的逆袭

“连接主义”者在这时候也找到了更简单的统计方法:支持向量机(SVM),它消耗的计算资源更少。之后,长短期记忆(LSTM)算法也被提出。

后来的事情,你们也知道了,深度学习终于又重新霸占了学术和工业界。 时间再回到当下,从2010年开始,机器学习成为AI行业主导。人工智能在机器学习的帮助下,取得了巨大的成就,标志着AI的彻底复苏。如今最热的AI概念均出自“连接主义”派。

近年来,计算机硬件的发展更是让“连接主义”如鱼得水,连手机的计算力都能完成识图的任务,深度学习能实现“反杀”也就不奇怪了。

双方代表人物

说到两派的斗争,就不得不提一下双方的“将领”了:

符号主义派:马文·明斯基(Marvin Minsky),麻省理工人工智能实验室创始人之一,他奠定了人工神经网络的研究基础,早在1951年,他设计构建了第一个能自我学习的人工神经网络机器。

连接主义派:约翰·霍普菲尔德(John Hopfield),美国科学家,在物理学和计算机学方面均有很高的成就,1982年发明了联想神经网络,也就是知名的霍普菲尔德网络。

两派之间也相互引用文章

除了这两位名人外,符号主义这边的大牛还有Herbert A. Simon、Allen Newell。如今连接主义当道,这一派的大佬更为我们所熟知:比如Yann LeCun、李飞飞、Geoffrey Hinton等人。

关于两派更详细的内容,有兴趣的同学可以看原文,不过是全法文哦: https://neurovenge.antonomase.fr

原文发布于微信公众号 - 量子位(QbitAI)

原文发表时间:2018-11-23

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏新智元

薛定谔的滚与深度学习中的物理

【新智元导读】作者从薛定谔的“滚”讲到世界的量子性、神经网络的最大似然等等,用颇具趣味的方式呈现了深度学习中无处不在的物理本质。 最近朋友圈里有大神分享薛定谔的...

3415
来自专栏量子位

拔掉机器人的一条腿,它还能学走路?| 三次元里优化的DRL策略

1222
来自专栏新智元

NIPS2018大会门票遭疯抢!11分钟秒光,刷个牙就没了

昨天,神经信息处理系统大会(Neural Information Processing Systems,NIPS)开放注册,会议门票在短短11分钟内就售罄;半小...

2332
来自专栏新智元

麦克阿瑟天才奖得主解码计算机视觉“原罪”:AI 如何认识人类世界

【新智元导读】麦克阿瑟“天才奖”获得者Trevor Paglen训练AI算法,他的展览项目“看不见的图像的研究”(A Study of Invisible Im...

3657
来自专栏量化投资与机器学习

Markowitz有效边界和投资组合优化基于Python(附代码)

哈里马科维茨对金融和经济学的世界的贡献是怎么强调都不过分的。凭借其于 1952年发表的开创性论文“资产组合选择”,他被广泛的视作现代资产组合理论(MPT)的开拓...

1.4K5
来自专栏灯塔大数据

塔说 | 麦克阿瑟天才奖得主解码计算机视觉“原罪”:AI 如何认识人类世界

导读:麦克阿瑟“天才奖”获得者Trevor Paglen训练AI算法,他的展览项目“看不见的图像的研究”(A Study of Invisible Images...

3489
来自专栏视觉求索无尽也

【文献检索】你的Paper阅读能力合格了吗(硕士生版)前言Paper从哪来Paper怎么读Paper如何写总结最后的最后参考资料

论文阅读一直是科研过程中至关重要的一环,如何收集论文,快速选取和课题匹配的论文,高效地把握论文核心思想是每个科研人员的必备素养,也是每个科研萌新(硕士研究生)苦...

2501
来自专栏大数据挖掘DT机器学习

R语音与数据挖掘常用的包

本文分为6个部分,分别介绍初级入门,高级入门,绘图与可视化,计量经济学,时间序列分析,金融等。 1初级入门 《R语言实战》,这是高涛、肖楠等翻译的一本书详细全面...

4238
来自专栏大数据挖掘DT机器学习

【趣味】数据挖掘(8)——K-平均聚类及蛋鸡悖论

本文从农村中学并迁选址问题出发,介绍了数据挖掘十大算法中位居第二的K-平均聚类,后又借用牛顿迭代原理,议论蛋鸡悖论。从过去的数据挖掘课程PPT取些素材,...

3596
来自专栏机器之心

专栏 | 上海纽约大学张峥教授:2017年影响力论文推荐

这篇文章特意选择在 NIPS2017 会议期间发表,但与会者并没有特别大的反应。相反,在研讨会上这篇文章引起了关于通用智能的一场针锋相对的讨论。

1272

扫码关注云+社区

领取腾讯云代金券