动态丨英特尔开源BigDL,可直接在Spark框架下运行深度学习

近日,英特尔开源了基于 Apache Spark 框架的分布式深度学习库 BigDL。通过使用BigDL,用户可以将他们的深度学习应用程序作为标准的 Spark 程序发布(即将基于BigDL的深度学习代码直接嵌入已有的Spark程序中),同时,BigDL还简化了基于Hadoop框架的数据加载过程。

据团队在GitHub平台上的介绍,BigDL具有如下三大特点:

1. 丰富的深度学习支持

BigDL的源代码基于Scala语言实现,同时从Torch框架中汲取了诸多先进的理念。比如像Torch一样,BigDL也为用户实现了一个Tensor类,该类基于英特尔MKL库实现,可以进行各种常见的高阶数学运算。另外,受到 Torch 框架下的神经网络包(这里指 nn 包,neural network package) 的启发,BigDL还提出了Module类的概念,同时还模仿Torch实现了Table类和Criterion类。

AI科技评论注:这里MKL库的全称是“Math Kernel Library”,即英特尔的数学核心函数库,其中包含了诸多常规数学计算的最优实现,包括快速傅里叶变换和矩阵乘法等,这些计算在深度学习领域的模型训练中有着非常广泛的应用。

2. 极高的性能表现

BigDL基于一种同步小批量的随机梯度下降法(Stochastic Gradient Descent,SGD)对模型进行训练,该方法的能够支持单个 Spark 任务的跨平台运行,每个平台的执行器(executor)都可以执行一个多线程引擎并处理其中一小部分的批量数据。

正式由于引入了英特尔MKL和多线程,使得BigDL库在英特尔 Xeon 服务器上的表现要优于Caffe、Torch 或 TensorFlow 等其他的开源框架,甚至达到了主流GPU的运算速度。

3. 强大的扩展能力

BigDL 可以通过利用 Apache Spark 框架、同步的随机梯度下降算法,和 Spark 框架下的 all-reduce 通信进行有效的扩展,以“大数据的规模”执行数据分析任务。外媒报道称,BigDL 可一次支持几十个 Xeon 服务器的扩展。

根据上述特点,团队在GitHub平台上给出了如下三点BigDL最适合的应用场景:

1. 直接在Hadoop/Spark框架下进行大数据分析(即将数据存储在HDFS、HBase、Hive等数据库上); 2. 在Spark程序中/工作流中加入深度学习功能; 3. 利用现有的 Hadoop/Spark 集群来运行深度学习程序,然后将代码与其他的应用场景进行动态共享,例如ETL(Extract、Transform、Load,即通常所说的数据抽取)、数据仓库(data warehouse)、功能引擎、经典机器学习、图表分析等。

值得一提的是,BigDL提供了一个基于亚马逊AWS EC2服务器实现的完整镜像,并附带诸多可以直接运行的用例:包括使用卷积神经网络实现的文本分类用例、图像分类用例,以及将 Torch/Caffe 中经过预训练的模型加载到 Spark 中进行预测计算的用例等,感兴趣的朋友可以在这里查看:

https://github.com/intel-analytics/BigDL/wiki/Running-on-EC2

目前,社区讨论中的大多数用户都表示希望 BigDL 的后续版本加入对 Python 的支持,以及开发基于MKL的深度学习扩展包。

BigDL库在GitHub平台上的开源地址如下: https://github.com/intel-analytics/BigDL 感兴趣的朋友可以在页面下方找到团队给出的各种教程,包括如何在各个操作系统平台上安装和运行BigDL,以及BigDL在谷歌讨论组的地址等。

来源:infoq

原文发布于微信公众号 - AI科技评论(aitechtalk)

原文发表时间:2017-01-17

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏SDNLAB

初学者的SDN学习之路

Software Defined Network顾名思义软件定义网络,可以简单地分为网络和软件两个部分:软件和网络。此外,通过使用OpenFlow协议来实现SD...

2746
来自专栏章鱼的慢慢技术路

转载:程序员都应该访问的最佳网站

1715
来自专栏互联网杂技

当年,电话拨号界面差点就成了这样

你有没有想过这样一个问题:电话拨号键盘上的数字为什么是像现在这样排布的呢?现在几乎所有电话的拨号键盘都是 3x3 外加底下一个 0,为什么一开始做成了这样?他又...

2608
来自专栏Data Analysis & Viz

手把手教你完成一个数据科学小项目(4):评论数变化情况

本系列将全面涉及本项目从爬虫、数据提取与准备、数据异常发现与清洗、分析与可视化等细节,并将代码统一开源在GitHub:DesertsX/gulius-proje...

1198
来自专栏大数据技术学习

零基础学习大数据人工智能,学习路线篇!

大数据处理技术怎么学习呢?首先我们要学习Python语言和Linux操作系统,这两个是学习大数据的基础,学习的顺序不分前后。

2154
来自专栏企鹅号快讯

论新手该如何学习java?

由于我国高等教育制度教材陈旧,加上java自身发展不过十年左右的时间,还有一个很重要的原因就是java这门语言更适合商业应用,所以高校里大部分博士老师们对此语言...

1927
来自专栏数据科学与人工智能

【Python环境】人们对Python在企业级开发中的10大误解

在PayPal的编程文化中存在着大量的语言多元化。除了长期流行的C++和Java,越来越多的团队选择JavaScript和Scala,Braintree的收购也...

2047
来自专栏CDA数据分析师

数据科学的十大常见误区 你中枪了吗?

原作者 Shane Brennan 编译 Mika 本文为 CDA 数据分析师原创作品,转载需授权 对于数据科学领域的新手来说,以下的十大常见误区每一条都是血...

2437
来自专栏hotqin888的专栏

Merit 价值与成果管理系统——3、自定义成果类型和在线登记

版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/hotqin888/article/det...

512
来自专栏AI科技评论

为 Java 开发者量身定制的五款机器学习库

编者按:机器学习是目前最炙手可热的技术之一,各大公司都在积极招聘相关的编程人才,来填补机器学习和深度学习代码编写的空缺。诚然,根据相关的招聘统计数据,Pytho...

28611

扫描关注云+社区