华盛顿大学成立SAML实验室:陈天奇参与,推进未来AI系统全栈研究

安妮 发自 凹非寺 量子位 出品 | 公众号 QbitAI

陈天奇

昨天,TVM、XGBoost、cxxnet等机器学习工具的作者陈天奇宣布,自己所在的华盛顿大学新成立了一个实验室,组织代号“SAML”。

陈天奇本人在微博上介绍说,实验室将有整合系统、体系结构、机器学习和程序语言4个方向的团队推进深度学习算法、系统的硬件和协同设计研究和TVM等开源项目。

陈天奇微博截图

四个方向

华盛顿大学为什么想建立这个实验室?在SAML项目首页上,我们找到了答案。

我们想解决调度、网络、存储和编程抽象方面的新挑战,构建可从新兴硬件体系中受益的可扩展系统,处理不断增长的可用数据。重要的是,未来的模型和算法需要与硬件共同设计,系统级的要素需要告知硬件软件栈的设计。 我们需要建立通用、可复用的基础设施,并制造更智能的系统。目前,这些挑战和研究问题涉及计算机科学的多个领域。

因此,SAML问世。

简单说来,这是一个跨学科的机器学习研究小组,探索系统堆栈的多层次问题,包括深度学习框架、训练和推理的专用硬件、新的中间表示、可微编程和各种应用程序。

目前,实验室有四个研究方向。

一个方向是序列模型的专门化(Sequential Model Specialization),能通过自适应级联的深度模型为视频快速分类。

研究人员提出了一种级联的廉价分类器架构,并证明了当种类分布高度倾向于小型类集合时,这种专门化的模型准确率相对较高。

专门化模型的架构

PHub项目是第二个方向,研究内容包括用于高效分布式深度神经网络训练的参数服务器。

这项研究以华盛顿大学和微软研究院的论文Parameter Hub: High Performance Parameter Servers for Efficient Distributed Deep Neural Network Training为基础,探索参数服务器的平衡设计。

论文地址: http://www.sysml.cc/doc/16.pdf

第三个方向以陈天奇团队的TVM堆栈为基础,研究适用于深度学习的端对端优化堆栈。

去年8月,当陈天奇发布TVM时曾引起业内讨论的高潮,通俗点来说,这是一种把深度学习模型分发到各种各样硬件设备上的、端对端的解决方案,包含以下组件:

相关论文地址: https://arxiv.org/abs/1802.04799

最后一个项目也与陈天奇有关,XGBoost项目是一个高效灵活的可扩展的树状增强系统,在梯度增强的框架下实现了机器学习算法。

相关论文地址:

https://arxiv.org/abs/1603.02754

参与团队

目前,项目的参与者均来自华盛顿大学,并由Sampa、Syslab、MODE和PLSE实验室的教师、研究生和本科生组成。

最后,附项目主页地址~

http://saml.cs.washington.edu/

作者系网易新闻·网易号“各有态度”签约作者

原文发布于微信公众号 - 量子位(QbitAI)

原文发表时间:2018-05-07

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏喔家ArchiSelf

神经网络加速器的兴起

自从投身智能硬件以来,又开始重新关注嵌入式领域的相关技术。这是“2018嵌入式处理器报告: 神经网络加速器的兴起”(http://www.embedded-co...

2493
来自专栏计算机视觉战队

2018年最全的推荐系统干货(ECCV、CVPR、AAAI、ICML)

最近总有几位关注者希望我们可以分享一些“推荐系统”类的干货,最近正好一不小心看到一篇比较好的博主写的推送,在此我通过自己理解和该博主的内容,为大家带来一次推荐系...

5625
来自专栏PPV课数据科学社区

大数据之有指导数据挖掘方法的模型

? 数据挖掘的目的,就是从数据中找到更多的优质用户。什么是有指导的数据挖掘方法模型,以及数据挖掘如何构建模型。在构建一个有指导的数据挖掘模型,首先要理解和定义...

3414
来自专栏机器之心

业界 | 思必驰推出启发式对话系统,关注知识传播的会话精灵

对于对话系统来说,一般都可以分为特征处理、理解意图和生成答案等过程。思必驰北京研发院 NLP 负责人葛付江解释,在接收问句后,系统会进行进行分词、词性标注以及命...

1183
来自专栏新智元

【重磅】微软Facebook联手发布AI生态系统,CNTK+Caffe2+PyTorch挑战TensorFlow

【新智元导读】夜间重磅,微软Facebook联手发布AI生态系统,推出 Open Neural Network Exchange(ONNX,开放神经网络交换)格...

3184
来自专栏大数据文摘

数据也会说谎:常见的数据造假三种形态!

20610
来自专栏人工智能头条

谷歌邮件智能回复系统:基于RNN/LSTM构建

2084
来自专栏QQ大数据团队的专栏

手Q游戏中心的个性化推荐实战

自手Q游戏中心V6.0改版以来,产品形态发生了较大的转变,不再是纯粹通过app列表做游戏分发,而是试图通过内容来带游戏分发,全新的产品形态给推荐算法带来了许多的...

9619
来自专栏机器之心

用自然语言教育人工智能:百度新算法发展出zero-shot学习能力

选自Baidu Research 机器之心编译 百度最新的研究使用监督学习和强化学习的组合开发了一个系统,该系统允许虚拟教师( virtual teacher)...

3039
来自专栏灯塔大数据

每周学点大数据 | No.56推荐系统概述

NO.56 推荐系统概述 Mr. 王:在现在的网络购物平台和电影、图书分享平台中,还有一类非常广泛存在的机制——推荐机制。 小可:在我打开的购物网站右侧经常有...

3646

扫码关注云+社区

领取腾讯云代金券