独家 | 背靠Hinton、Bengio和Sutton,加拿大如何打造超级人工智能中心?

机器之心(海外)原创

作者:李九喻

编译参与:马亚雄、微胖

近期,麦肯锡在一份报告中指出,美国和中国主导人工智能版图,欧洲正在落后。其中,硅谷拥有顶级创业公司中心(有 12700~15600 家活跃的创业公司,200 万名技术工作者)、引领全球风险投资,也是许多世界顶级科技公司的总部所在地。纽约、波士顿也凭借各自金融、媒体产业优势以及人才优势成为重要人工智能中心。中国的北京、深圳分别凭借其丰富人才资源和硬件实力优势成为另一支重要引领力量。

来自 Artificial Intelligence : The Next Digital Frontier?

尽管报告并未提及加拿大,但无法忽视的是,加拿大在这一次人工智能浪潮中提供了宝贵的人才和丰富的研究成果。世界顶级人工智能研究学者——比如多伦多大学的 Geoffery Hinton、阿尔伯塔大学的 Richard Sutton 和蒙特利尔大学的 Yoshua Bengio,而在深度学习技术的崛起中,加拿大多伦多和蒙特利尔的大学起到了很大的作用。

以此为根基的人才体系也吸引了科技公司来到加拿大。今年 4 月,谷歌宣布在加拿大多伦多建造一个 AI 实验室。与此同时,它还与多伦多大学合作培养 AI 人才,期待推动一些研发的商业化。在去年 11 月,谷歌在加拿大蒙特利尔也打造了一个 AI 实验室,同样,蒙特利尔也吸引了微软的投资。AI 相关的投资热情已经开始被调动起来。

加拿大也已经将人工智能置于国家战略层面。数月前,为了保持同中国等国家的竞争实力,打造最好的人工智能生态系统,加国政府表示将斥资 1.25 亿加元(约合 9,400 万美元)投入、和埃德蒙顿的 AI 研发,这些地区顶级大学云集,亦即 Pan-Canadian AI Strategy 计划。2017 年 3 月 30 日,多伦多启动了 Vector Institute。Vector 是一家独立的研究机构,不仅进行仅有短期目标的研究,而且也能着眼长期目标,甚至进行没有任何商业化考虑的纯研究。来自联邦政府( 1.25 亿加元的人工智能战略资助的一部分)、省政府(5000 万加元)和公司( 8000 万加元)对 Vector Institute 的慷慨支持让人惊叹。

图片由 Element AI提供

眼下,比起华尔街是世界级的金融中心,硅谷是拥有完整人工智能产业链的科技中心,同样位于北美的加拿大,只拥有规模小很多的技术中心,也还没能孵化出与硅谷相当规模的产业。这样的状况在未来几十年内有可能会被颠覆:加拿大的学界、业界、政府、以及个人企业家正合力在多伦多 - 滑铁卢、蒙特利尔和埃德蒙顿等城市建立超级人工智能中心( AI Superclusters )。

加拿大与人工智能的渊源:Hinton 和 CIFAR

1987 年,Geoffrey Hinton 教授低调向北迁居至加拿大,在多伦多大学任教。他曾表示想避免使用来自美国军方国防高级研究计划局(DARPA)的科研拨款——该项目支持人工智能研究已有半个世纪的历史。

Hinton 抵达不久便加入加拿大高等研究院(CIFAR),参与了首个名为「人工智能、机器人与社会研究」的项目。

Hinton 研究的神经网络通过模仿人脑神经元运作的方式帮助机器学习。该方法在今天看来硕果累累,但在一开始却并不奏效:第一)计算非常耗时,第二)当时的 GPU 处理器并不足以支撑这种算法。到了 1986 年,Hinton,David Rumelhart 和 Ronald J. Williams 共同发表了使用反向传播算法优化神经网络的论文。但是 90 年代时期可使用的数据集太小,不足以训练这些模型,导致应用场景受限。大部分研究人员更愿意使用浅层的模型,例如支持向量机 (SVM) 或者增强算法(Boosting)。

在长达二十余年的人工智能寒冬期间,Hinton 并未放弃手头的研究。在 2004 年,他成功说服了 CIFAR 资助另外一个项目:神经计算与自适应感知研究(Neutral Computing & Adaptive Perception)。该项目是今天人们所熟知人工智能热潮的先驱,将神经网络的研究带入公众视野,并且吸引了更多大手笔的科研资金。

严肃的科学家不为科研成果预设截止日期;但商业要实时运作

2006 年是有突破性进展的一年,Hinton 的团队发表论文「深度信念网络的一种快速学习算法」(A Fast Learning Algorithm for Deep Belief Net),首次提出了贪婪逐层训练深度神经网络的方法。在 2012 年的 ImageNet 竞赛中,Hinton 的多伦多大学团队在图像识别任务上使用了卷积神经网络(CNN)。借助海量的图像数据集与增强的 GPU 的计算能力,他们的方法非常奏效。比赛结果最终重新定义了计算机视觉学科的发展。

Hinton 最早的两位「老友」是东部蒙特利尔大学教授 Yoshua Bengio,以及 Hinton 自己的博士后学生 Yan Lecun。Yan Lecun 于 1987 年加入 Hinton 在多大的实验室,现掌舵 Facebook 人工智能研究院。今天,三人被媒体褒称为「加拿大深度学习黑手帮」(Canadian Mafia Of Deep Learning)。

在深度学习研究无人问津的时期,以上三位,连同其它坚守神经网络算法研究的学者,都曾耐心等待能够与神经网络算法匹配的数据集和硬件。虽然 Bengio 在某场位于多伦多的机器学习活动中表示,「严肃的科学家不会为科研成果预设目标期限」,但是业界仍然能够感受到刻不容缓的变化:机器学习在图像识别、语音识别、翻译、语义分析以及其它领域中的应用非常出彩。这项技术现已进入市场,随着人工智能技术商业化的高速发展,所有人都将受到不同程度的影响。

在多伦多 - 滑铁卢、蒙特利尔和埃德蒙顿打造超级人工智能中心

创新的坐标「地理位置」非常重要。效仿能够凝聚周边资源的硅谷,加拿大决心在中部的多伦多 - 滑铁卢、东部的蒙特利尔以及西部的埃德蒙顿地区打造新兴的超级人工智能中心,建立完善的资金、业务和人力生态链。在 2017 年,联邦财政公布的政府年度预算亦表明将着重拨款以上地区的人工智能产业,在国家发展政策层面将人工智能提至第一位,这与自特朗普上台后的美国对待人工智能的政策大相径庭。

多伦多 - 滑铁卢篇

位处多伦多市中心,占地约 14 万平方米的 MaRS 科技创新区,主楼是上世纪二十年代复古爱德华风格的建筑,与南塔和多伦多医疗发现塔宽敞的玻璃中庭屋顶新旧相连。

机器之心在 MaRS 办公室采访了 CIFAR 的政府关系专员 Brent Barron,他的新办公室恰好俯瞰安大略市立法大楼。「目前,CIFAR 正在做以下三件事情:一,与包括 Hinton 在内的著名科学家一起合作机器学习和类脑学习项目(Learning in Machine & Brains),这是一项融合人工智能和神经科学的交叉学科研究;二,与三个不同的人工智能研究机构合作;三,调研人工智能对经济和社会的影响」。除此之外,CIFAR 还举办一些人工智能普及教育的暑期培训。

MaRS 也是多伦多最新成立的向量学院(Vector Institue)所在地,距离多伦多大学商学院发起的 Creative Destructive Lab 和 Hinton 教授的办公室只有 10 分钟的步行路程。在大约 20 分钟的步行路程之内还有谷歌大脑加拿大分部、以及一家新创立的人工智能初创公司孵化器——NEXT AI。多伦多市政厅、金融区以及购物中心也近在咫尺。

MaRS 科技创新区,某个五月工作日的下午

在这个精心打造的人工智能生态圈里,教育、资金、孵化和产业都被刻意规划在了一起。整个多伦多的商业地貌进一步得到了联邦政府和安大略省政府对向量学院 1 亿加元(以及来自私营企业的额外 8 千万加元)投资的强力加持。

「向量学院的成立确保了加拿大在深度学习、人工智能领域的全球领导地位」,加拿大道明银行的 CEO 兼向量学院的董事会主席 Ed Clark 在三月份的开幕典礼上说道。「这是一个吸引人才、投资、并且刺激加拿大经济增长的好机会。向量学院可以进一步支持扩张中的公司,并让大公司能够更迅速地使用人工智能技术」。

多伦多的目标非常明确:这里是本轮人工智能热潮的发源地,这里有资金和宽敞的创业空间,现在这座城市必须想办法吸引并留住人工智能领域最顶尖的人才。

离多伦多车程不到两个小时、将近 100 公里以外的城市名叫滑铁卢。在这里,前滑铁卢大学教授邓力度过了一段非常重要的科研时光,也结识了 Hinton 。

上世纪 90 年代,邓力正领导一个由 20 名研究生、几名博士后在这里进行人工智能研究。邓力告诉我们,当时的团队「专注于人工智能在语音识别、自然语言理解以及信号处理等领域的应用。

在那个年代,尽管神经网络看上去很有前途,但是与其它的机器学习方法比较,并没有多大的竞争力」。从 1989 年到 1999 年,滑铁卢大学的人工智能科研经费由北电加拿大分部、贝尔实验室加拿大分部、加拿大自然科学与工程研究委员会( NSERC )、安大略省政府、加拿大国防部以及美国国家科学基金会( NSF of US )等拨款。

1999 年底,邓力离开加拿大,随后加入微软西雅图 / 雷德蒙研究院。再一个十年后,Hinton 进入微软担任顾问,与邓力成为同事,他们还一起组织了 NIPS 深度学习语音识别研讨会,「我们感觉是时候重新把深度学习放上台面了。」邓力回忆称。

2016 年春季,在和 Yoshua Bengio 一起主办的深度学习会议 ICLR 上,邓力和 Bengio 谈论起初创公司 Maluuba 的业务潜力,当时,Benigo 担任该公司顾问。Maluuba 也是滑铁卢人工智能领域不得不提的一家公司,由两位滑铁卢大学学生 Sam Pasupalak 和 Kaheer Suleman 在 2011 年共同创办,以自然语言处理的深度学习技术为研发重点。在这次探讨结束后的一年,微软启动了对 Maluuba 的收购计划并于 2017 年成功收官。

长久以来,多伦多 - 滑铁卢的地区「影响力」都和本地的从业研究人员的去留密不可分。但今天,即使一部分关键研究人员选择离开加拿大,也还是被共同对深度学习的执着、商业战略结盟在一起。

埃德蒙顿篇

加拿大西部的艾尔伯塔大学旗下有三个人工智能实验室:机器智能研究所(AMII)、强化学习和人工智能组(RLAI)、自控制仿生肢体研究院(BLNC)。其中 AMII 拥有最多的研究人员——100 人,其中一些成员也在其它两个实验室兼职。AMII 主攻强化学习、深度学习、统计学习、自然语言处理和社交网络分析领域的研究。

Richard Sutton 教授同时加入了上述的三家实验室的。Sutton 是学界公认的强化学习之父。该算法在代理与复杂、不确定的环境进行交互时,鼓励它将所得到的奖励最大化。强化学习的概念建立在由巴普洛夫提出的心理学经典条件反射理论之上。现在,埃德蒙顿的研究者将深度学习和强化学习结合起来形成深度强化学习(DQL)。事实上,AlphaGo 的大获成功就可以归功到蒙特卡洛树搜索和深度强化学习技术的结合。

图片由 Richard Sutton 教授和 RLAI 组提供

AMII 研究所的执行主管 Cameron Schuler 告诉机器之心:「加拿大在人工智能科研领域诞生了很多巨头。Hinton、Sutton 和 Bengio 都是优秀的思想家。如果按地域划分研究的话,多伦多主打深度学习,蒙特利尔是深度学习和强化学习,而埃德蒙顿专注于强化学习,但是我们的研究员有不同的兴趣,应用于机器学习和人工智能的各个方面」。

艾伯塔省的经济主要依靠石油、天然气、农业和林业支撑——这些全是加拿大最重要的出口资源。人工智能可以帮助一部分能源行业完成产业升级,减少固定成本,并且基于目前已获得的数据集优化能源提取过程。麦肯锡管理咨询公司的报告则宣称,「在 2035 年,石油和天然气行业采用的新技术可以帮助节省 9000 亿美元到 1.6 万亿美元的成本,少则等于印度尼西亚的全国总 GDP,多则等于加拿大的全国总 GDP」。 根据预测,全球能源消耗将在 2035 年达到巅峰,社会正在转向使用清洁能源。人工智能产业不太可能立即成为加拿大经济的「顶梁柱」,但是它可以改变埃德蒙顿公司的业务内容。有好几家人工智能创业公司,例如 OneBridge Solutions 正在利用数据分析,优化原油管道的管理流程。 在过去 15 年中,艾伯塔省给 AMII 研究所提供了 4000 万加元的资金。Schuler 认为当下最重要的是建立本地的商业生态圈。这并不是一件容易的事。目前在人工智创业公司数量方面,埃德蒙顿明显落后于多伦多和蒙特利尔,甚至西海岸的温哥华。埃德蒙顿的创业公司的规模大概是多伦多或者蒙特利尔的六分之一——后两者在短短几年内总共孵化了超过 100 家机器智能创业公司。

在艾伯塔,思考如何留住人工智能人才是一个比深度学习更大的难题。Schuler 的团队已在一起工作长达几十年之久:「据我所知,我的团队是加拿大唯一一个没有向业界流失人才的团队」,他若有所思地说,「我们的教授选择了学术这条路。在埃特蒙顿,我是和自己熟悉多年的老友一起共事」。

蒙特利尔篇

蒙特利尔市长在今年五月 C2 活动的开幕式上宣称:「今天我们已不能用国家作为单位来定义世界的多样性,每个城市都是独立的界面」。在这次活动中,蒙城本地的创业公司 Element AI 合办了首届人工智能论坛,向数千艺术、设计和跨业界从业人员介绍人工智能。位于东部法语区的蒙特利尔向来是加拿大的文化艺术中心,但是现在这座城市想要重新定位自己——成为全球化的人工智能产业枢纽。 截至目前,联邦政府总已给蒙特利尔大学特批 21.3 亿加元的经费,同时省政府也计划在未来五年内追加 1 亿加元的投资。 蒙特利尔总共有 15 家创业公司孵化器。15 年前,Element AI 的创始人 Jean-François Gagné 几乎羞于告诉别人自己正在做人工智能创业。然而今天,他的联合创始人是「加拿大人工智能黑手帮」之一的 Yoshua Bengio。公司踌躇满志,想帮助世界上的每一家公司变成「AI 第一」。 Element AI 如此诠释自己的商业模式:「公司正在建立通用人工智能软件平台,帮助企业解决商业问题。在这个过程中,与合作的客户实现共赢的长期发展」。目前的业务内容包括利用自然语言处理、语音识别、预测和分析、精准广告投放等升级客户的产品或服务。 Element AI 在蒙特利尔历史悠久的 Notman House 做租户时仅有一间办公室。现在他们正在新办公地址拆墙,打通更大的室内空间,预计年底扩张至 400 人。Element AI 的目标是成为技术和商业的「桥梁」,为全球任意一家公司提供技术解决方案。Element AI 的程序主管 Alex Shee 说,「我们是 P-to-P(论文到产品)模式。我们能提供从研发到商业化的整套服务,人工智能研究员、程序员、产品经理和业务人员一起上阵」。在我们造访后的一个月,Element AI 完成了 1.35 亿加元的 Pre-A 轮融资,由英特尔、加拿大国家银行、微软等行业巨头领投,创下了人工智能创业公司融资的新高。

Element AI 办公室新址

在 Element AI 帮助建立业务关系的同时,Bengio 也在蒙特利尔大学的算法研究所(MILA)继续学术研究。MILA 由数据颂赞研究所(IVADO)支持。IVADO 由蒙城四大学术机构组成:蒙特利尔理工学院、蒙特利尔大学、蒙特利尔商学院以及麦吉尔大学。在 2016 年,IVADO 亦获得了 9300 万加元的政府资金。

是否该选择加拿大?数据、资金和人工智能全球化发展

当被问到加拿大在 AI 科研方面和美国的区别时,曾在欧洲、美国一流学府做研究,现任职多伦多大学的 David Duvenaud 表示:「美国有更高的薪水,更高的国际声誉,更好的天气,以及更难获得的大额科研经费。加拿大有更容易得的中等规模经费,地方政府的资金支持,更低的个人开销,以及更好的政治环境和移民政策」。 受本国市场规模的瓶颈限制,加拿大创业公司很难扩张。加拿大 500 创投(500 Startup)告诉我们,他们目前的投资战略是集中精力孵化中小型企业,目前投了差不多 30 家公司。投资的前提是创业公司已经有实际产品、有早期市场验证、能够证明后期的增长收益。加拿大风投尽量避免需要大型基础设施或大量生产产品的点子。目前市场上最流行的人工智能创业公司类型包括商业分析、信息安全、个人金融和房地产。

加拿大试图孵化独角兽公司,但是一直以来并不是非常成功。大部分前景可观的创业公司在达到中等规模之后就会被大型美国科技公司收购。近期的例子是上述被微软收购、主攻自然语言处理的 Maluuba。这不失是一种利用巨头资源的方式,但是缺点就是最后变成一家美国公司。

人工智能研究是由人力、资金和数据驱动的。为了训练最好的算法模型,从业者需要最大的数据集,并且和领域内最棒的团队合作。谷歌、Facebook、亚马逊、百度、腾讯拥有这些资源,目前加拿大还没有一家技术公司能够参与竞争。 在 Yoshua Bengio 看来,数据集的问题还是有办法解决的。「我们总可以从大公司花钱买数据集。此外,我们目前所做的很多研究都使用开源的公共数据。另外,在加拿大也能比较容易地获得社会医保数据」。 在某些场景下,算法也能够生成自己的数据集。艾尔伯塔大学 Michael Bowling 博士团队研究的 Cepheus 是一款玩德州扑克的程序。这个程序并没有受到人类玩家的指导,也没使用外部数据训练。它仅仅被告知游戏规则,然后和自己对练了几十亿手,生成海量德州扑克数据集。 就资金而言,越来越多的美国大型科技公司正在把研发中心搬到加拿大,并且向北注入资金。去年,谷歌投资 450 万加元给 MILA,500 百万给多伦多的向量学院;微软承诺投资 600 万加元给蒙特利尔大学,投资 100 万加元给麦吉尔大学,并把在多伦多的人工智能研究投资经费翻了一倍;最近,在多伦多大学 Raquel Urtasun 的监督下,优步将其技术研发团队(ATG)开到了多伦多。500 创投成立了 3000 万加元的基金投资加拿大的创业公司。谷歌的母公司 Alphabet 也向多伦多政府申请在市区开发一个名为「From the Internet up」的高新技术区。 很多加拿大业内人士都在质疑,美国科技巨头把研发中心外包给加拿大究竟是不是一件好事?然而这些现象只是全球化潮流的一部分。在未来几年,大约 800 名人工智能领域的博士生将会在加拿大毕业。如果想要留住这些人才,加拿大需要有良好的商业生态,哪怕美国科技公司是其中关键的利益相关者。 在 2017 年,联邦政府出台泛加拿大人工智能策略(Pan-Canadian Artificial Intelligence Strategy),用 1.25 亿加元支持与 AI 的相关生态链。近几年加拿大全国范围内共吸引了约 10 亿加元的投资。

与马斯克对 OpenAI 一家公司高达 10 亿美元的投资相比,加拿大全国的总量确实有点微不足道。但是这应该算是一个好的开端,因为预计到 2025 年,人工智能相关产品的市场会达到 1,270 亿美元。全球风投在 2016 年的时候高达 50 亿美元。人工智能市场巨大,应用繁多。尽管美国政府正在削减研发投资,但是加拿大政府明显选择主动出击。 加拿达向来以政治环境稳定闻名。在欧洲与美国政治动荡的今天,这点特别吸引国际人才和资金。那些没有 Google 营业额的公司,仍然可以在多伦多、蒙特利尔或埃德蒙顿雇用顶尖的北美人才,而不用担心 H1B 签证出问题。这对部分亚洲,欧洲乃至美国的投资者和企业家都具有吸引力。 加拿大的人工智能超级中心会齐心协力发展。Element AI 表示:「作为一个拥有 3500 万人口的国家,如果不抱团取暖,就无法和人口大国抗衡」。 CIFAR 的 Barron 告诉我们:「如果你在加拿大做人工智能研究,就得有加拿大人的感觉——科研作为社会行为反应气候、民众和他们的信仰。加拿大是一个包容、多元的国家。我们在清洁技术和太阳能产业上做了大量的投资。另外我们在收集文化遗产数据集时会特别留意少数族裔,例如原住民」。在被问到是否对未来对持乐观态度时,他笑着说「那是自然」。 回想 Hinton 教授在 20 年前北迁的举动,我们可以如此反问:假设要建立全球化的人工智能超级中心,它为什么就不能落户加拿大呢? 「加拿大特别冷」是本文受访者所提出的最大的困扰。随着人工智能的产业的不断升温,这或许不会再是问题。

机器之心英文网站原文链接:https://syncedreview.com/2017/06/23/building-ai-superclusters-in-canada/

本文为机器之心(海外)原创,转载请联系本公众号获得授权。

原文发布于微信公众号 - 机器之心(almosthuman2014)

原文发表时间:2017-06-27

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏CDA数据分析师

有礼有面有据 当纪录片遇到数据可视化(多图)

文 | 李奇 NHK纪录片一直有着拍摄技术先进、任何难懂的话题都能拍出中二的既视感以及在叙事及阐述观点的过程中善用动画、特效及数据图表等特点。在最近一部三集纪录...

21190
来自专栏数据猿

【独家编译】基于人工智能的医疗器械公司Neural Analytics获1500万美元B轮融资

【数据猿导读】 日前, 基于人工智能的医疗器械公司Neural Analytics宣布完成了1500万美元B轮融资,本轮融资由Alpha Edison领投。 记...

32860
来自专栏Coding迪斯尼

物理热力学定律为贫富差距的两极分化正名

16750
来自专栏数据派THU

《中国科学:信息科学(中文版)》专刊征稿启事

26340
来自专栏量子位

Facebook开设加拿大蒙特利尔AI实验室,两名顶尖AI专家加入

李杉 李林 编译整理 量子位 出品 | 公众号 QbitAI ? 去加拿大开个AI实验室,成了美国科技巨头的新风尚。多伦多和蒙特利尔,都是热门选择。 据美国道琼...

27740
来自专栏数据科学与人工智能

【FinTech】管理信用风险:FinTech数据科学的有效方法

金融技术通常被称为金融科技,是技术创新领域增长最快的领域之一。金融科技指的是一套专注于在社会中提供金融服务的新方式的技术。金融行业的这场技术浪潮始于使用计算机记...

15620
来自专栏PPV课数据科学社区

深度报告 | 中国宏观经济数据分析入门

有奖转发活动 回复“抽奖”参与《2015年数据分析/数据挖掘工具大调查》有奖活动。 论坛君 本文为光大证券首席经济学家,中国首席经济学家论坛徐高理事对中国宏观经...

1.2K70
来自专栏DT数据侠

打破消费降级“幻觉”,数据看方便面、榨菜和二锅头三驾“假”车

当我们看到「方便面、榨菜、低端白酒」,这个所谓「消费降级三驾马车」的正反两方辩论时,我们不妨去仔细想一想这三个产品背后,他的本质,到底意味着什么。

12940
来自专栏镁客网

不用Care特朗普退出《巴黎协定》群聊,因为硬科技已担起环保大任

17420
来自专栏PPV课数据科学社区

大数据揭另类爱情报告:每4对新婚有1对离婚

? 据经济之声报道,《2013-2014年中国男女婚恋观调查报告》正式发布,报告由婚恋网站世纪佳缘发起,通过72660份有效数据样本,对2013年的婚恋热点进...

36860

扫码关注云+社区

领取腾讯云代金券