【行业】英特尔首次推出针对神经网络模型的nGraph编译器

AiTechYun

编辑:nanan

英特尔基于开源软件新nGraph DNN编译器将目标对准了英伟达,使得在不同类型的硬件上运行神经网络变得更加容易。

首席信息官(CIO)们通常会使用基于英伟达的GPU来测试和部署使用深度神经网络模型的AI项目。深度神经网络(DNN)是一种AI系统,在输入层和输出层之间有多个隐藏层,用于建模复杂的非线性关系。许多人在决定用公司的AI工作平台时都在引用英伟达成熟的工具、硬件和cuDNN库。

竞争对手英特尔希望通过最近发布的nGraph DNN编译器在这个新兴领域提升自己的地位,芯片制造商将其描述为“框架中立软件”,可以从TensorFlow、MXNet、PyTorch和CNTK等流行的机器学习框架中获得输入并优化他们针对不同类型的AI硬件,包括CPU。

该公司表示,使神经网络模型能够在不同的框架上运行是有问题的,因为开发人员“必须将模型的本质与对特定硬件使用的性能调整区分开来”。英特尔AI产品小组的首席工程师Scott Cyphers表示,该公司设计了nGraph库来降低这种工程复杂性。

鉴于英伟达在这AI领域的强大领先地位,分析师认为,这种能力对于短期内改变神经网络模型实施的深度现状没有多大作用。但从长远来看,英特尔的新型开源编译器可能会让其他厂商的AI产品更容易在公司的神经网络处理器、现场可编程门阵列和Movidius芯片之上实现。

深度学习平台提供商Deep Cognition的首席数字官Mahesh Kashyap表示:“我认为英特尔公开采购模型编译器是一件好事,它将加速这一领域的创新。”深度认知主要使用各种机器学习框架附带的内置编译器。

Kashyap认为nGraph在当前所使用的机器学习编译器中是新颖的,因为它解决了互操作性问题。他说:“NGraph很适合于深度学习框架,对用户来说它几乎是不可见的,这意味着它可以更容易地集成到现有的机器学习过程中。”

尽管如此,Kashyap表示,他期望看到英伟达在用于训练深度神经网络模型的高性能计算基础架构中占据主导地位,即使nGraph编译器在编译和分发生产模型时更容易,尤其是嵌入式系统。

英特尔已经报告了基于英特尔芯片的最新版nGraph编译的神经网络模型的显著性能改进。据Kashyap称,与其他芯片架构相比,这并没有带来任何重大改进。

事实上,其他人认为英特尔的最新举动在更深层次的深度神经网络模型的工作中显得微不足道。

AI数据管理平台提供商iguazio的创始人兼首席技术官Yaron Haviv表示:“我建议英特尔把精力集中在产生真正的芯片响应上,而不是对抗英伟达在芯片领域的主导地位。”他表示,他不希望开发人员在英伟达硬件上使用英特尔的编译器,因为英伟达的编译器会比nGraph的性能更好,并最大限度地提高供应商芯片的应用性能。

英特尔可能正试图为未来准备一个抽象层,通过阻止开发人员直接编写英伟达API来使其Nervana AI芯片更易于使用。这将降低未来英特尔芯片的转换成本。“但我不认为会有很多人急着采用它,”Haviv说。

然而,深度神经网络模型有时依赖于将一些计算分配给CPU,以减少GPU上需要分析的搜索空间。这类方法可能受益于跨GPU、CPU和其他类型芯片的机器学习编译器。

制造机器学习软件的Anaconda首席执行官Peter Wang说:“英特尔认识到深度神经网络和深度学习主要是在GPU上完成的,英特尔希望确保更多的计算机时间在GPU上完成。”

尽管nGraph在深度学习的计算密集方面不可能缩小与GPU的差距,但它可能会开放更多关于使用CPU来解决问题的部分和使用GPU的解决方案的研究。Peter Wang说:“如果在未来五年内,AI工具和硬件方面的销售额和营业额没有什么变化,我并不会感到惊讶。”

原文发布于微信公众号 - ATYUN订阅号(atyun_com)

原文发表时间:2018-03-30

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏AI科技大本营的专栏

重磅 | 李飞飞最新演讲:ImageNet后,我专注于这五件事——视觉理解、场景图,段落整合、视频分割及CLEVR数据集

2017中国计算机大会(CNCC2017)于10月26日在福州海峡国际会展中心开幕,大会为期3天。 而就在今天上午,李飞飞、沈向洋、汤道生、马维英等重磅大咖纷纷...

40960
来自专栏人工智能头条

NLP 学习秘笈,从入门到进阶 | 书单

21220
来自专栏人工智能快报

机器学习可帮助预测气候

据《科学美国人》报道,机器学习能帮助分析数据,提高气候预测水平。随着地球观测卫星更多、气候模型变得更强大,全球变暖问题的研究人员正面对着浩瀚的数据。如今,一些研...

40360
来自专栏机器学习AI算法工程

面试机器学习、大数据岗位时遇到的各种问题

自己的专业方向是机器学习、数据挖掘,就业意向是互联网行业与本专业相关的工作岗位。各个企业对这类岗位的命名可能有所不同,比如数据挖掘/自然语言处理/机器学习算法工...

47860
来自专栏人工智能快报

IBM公司利用人工智能预测化学反应结果

IBM公司的人工智能软件将原子看作字母、分子看作单词,使用计算机翻译语言的相同方法来预测有机化学反应的结果,从而加速新药的研制。 通过将原子看作字母、将分子理解...

46280
来自专栏新智元

首个光电子神经网络问世,速度快3个数量级,扩展人工智能新疆域

【新智元导读】 光学计算一直被计算机科学界寄予厚望 。光子具有比电子多得多的带宽,因此可以更快地处理更多的数据。但是光学数据处理系统的优点从未超过制造它们的额外...

349100
来自专栏AI科技大本营的专栏

专访王威廉:NLP哪些研究方向更容易取得突破?

自然语言处理(NLP)是一门集语言学、计算机科学、人工智能于一体的科学,解决的是“让机器可以理解自然语言”——这一到目前为止都还只是人类独有的特权,因此被誉为人...

30530
来自专栏编程

NLP秘笈,从入门到进阶

自然语言处理(NLP)作为人工智能研究的核心领域之一,长久以来都受到广泛关注。微软全球执行副总裁沈向洋博士曾表示“ 懂语言者得天下,人工智能对人类影响最为深刻的...

36090
来自专栏AI科技评论

业界丨深度学习的三种硬件方案 ASICs、FPGAs 和 GPU,开发者需要知道什么?

AI科技评论:今年三月 AlphaGo 和李世石的“世纪之战”炒红了深度学习—— AlphaGo 采用了人工神经网络技术,充分挖掘了深度学习的潜力。简单来说,深...

38290
来自专栏机器学习算法与Python学习

干货 | 机器学习怎么从入门到不放弃!

16740

扫码关注云+社区

领取腾讯云代金券