Flex Logix展示全新神经推理引擎,专为AI部署而生

编译:chux

出品:ATYUN订阅号

芯片制造商Flex Logix今天推出了新的Nmax通用神经推理引擎,该引擎专为在许多环境中使用流行的机器学习框架(如TensorFlow或Caffe)进行AI部署而设计,可以将多个神经加速器组合在一起以实现更高水平的吞吐量。

Flex Logix表示,在处理来自图像分类基准ResNet50的批次时,其Nmax 512拼贴配置胜过其他数据中心推理产品,如Nvidia Tesla T4。加速器还可以使用YOLOv3等产品对多个物体进行实时检测,以满足对边缘视觉处理不断增长的需求。

“凭借我们的架构,由于我们可以非常快地加载重量,即使批量大小等于1,我们也能获得高性能,因此我们在数据中心方面表现优异,”Flex Logix首席执行官兼联合创始人Geoff Tate表示。

Nmax系列今天在加利福尼亚州圣克拉拉举行的Linley处理器会议上首次亮相。它现在正在生产中,Tate表示Nmax引擎将于2019年末上市。

Nmax引擎与Flex Logix以前的工作背道而驰,之前主要专注于专门用于哈佛大学,DARPA和波音等客户的特定任务的嵌入式现场可编程门阵列(FPGA)芯片。

Nmax使用互连技术,如FPGA芯片中使用的类型,但它是一个通用的神经推理引擎,使用TensorFlow进行编程,设计用于运行任何类型的神经网络。

2017年5月,Flex Logix筹集了500万美元的融资,以探索构建更灵活芯片的方法。

Tate表示,除了能够快速处理视觉信息外,Nmax还保持较低的DRAM带宽率和较高的MAC效率,从而降低了能耗水平。原始计算能力可能会得到很多关注,但能源效率是训练AI系统所需的另一个重要部分。

Tate表示,“无论人们现在在做什么,在五年内,这些模型将继续变得越来越大,越来越复杂,这意味着我们必须每秒更多的tera操作(TOPS),但功率限制不会更改。因此,为了扩大市场规模,将继续施加压力以降低每瓦特的TOPS。如果做不到,市场就不会扩大。当然还有一个成本组件,但是你需要更低的成本和更低的功率才能渗透到这些应用中。”

原文发布于微信公众号 - ATYUN订阅号(atyun_com)

原文发表时间:2018-11-01

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏量子位

如何让强化学习走进现实世界?DeepMind要用“控制套件”推动

夏乙 编译整理 量子位 出品 | 公众号 QbitAI 火遍全球的AlphaGo让我们知道了强化学习打游戏究竟有多6,这么强大的算法什么时候才能打破次元壁,走进...

3403
来自专栏量子位

TensorFlow产品经理:机器学习如何改变未来十年的软硬件?

王瀚宸 编译自 South Park Commons博客 量子位 报道 | 公众号 QbitAI 最近,Google Brain员工,TensorFlow产品经...

3115
来自专栏AI科技大本营的专栏

Google发布“多巴胺”开源强化学习框架,三大特性全满足

强化学习是一种非常重要 AI 技术,它能使用奖励(或惩罚)来驱动智能体(agents)朝着特定目标前进,比如它训练的 AI 系统 AlphaGo 击败了顶尖围棋...

902
来自专栏人工智能快报

超级计算与机器学习可以帮助电厂改善运营

【概要】德国斯图加特大学的科研人员利用超级计算机和机器学习开发出一套工具,可帮助火电厂、核电厂、地热电厂等改善运营效率。

1021
来自专栏量子位

清华马少平教授详解:人工智能能做什么?

原文刊载于 明略数据(Minglamp_BigData) 量子位 | QbitAI 已获授权编辑转载 这是7月下旬,马少平老师在明略数据内部做的一个分享,基于此...

3776
来自专栏新智元

【Nature 通信】研究发现观察学习的单个神经元计算机制(视频+论文)

【新智元导读】《自然-通信》今日刊文,揭露人类在通过观察学习时大脑里的计算机制。Michael Hill 和他的同事分析了十名癫痫患者在玩纸牌游戏时,大脑中单个...

3515
来自专栏思影科技

NEJM:Waving Hello to Noninvasive Deep-Brain Stimulation

近日多伦多大学Andres M. Lozano等人在新英格兰医学杂志发文,介绍了无创深部脑刺激技术。通过两个频率差异较小的电场信号刺激,激活深部大脑细胞,同时避...

3535
来自专栏腾讯游戏云的专栏

再也不用担心网吧开黑队友听不清了!降噪解决方案了解一下?

经常逛游戏论坛的朋友会深有感触,很多玩家经常会在论坛里吐槽在网吧开黑的体验很差,噪音太多。在游戏语音开黑的过程中,如果其中一个队友身处网吧,则其他人的耳机总是难...

5307
来自专栏PaddlePaddle

前沿|PaddlePaddle开源项目DeepNav“无人船”炼成记(一)

前言:本系列将集中展示PaddlePaddle的开源项目,即PaddlePaddle研发团队在深度学习领域的前沿研究成果。首先展示DeepNav自动驾驶船项目,...

971
来自专栏新智元

田渊栋总结:强化学习跳过“认识世界”,直指“改变世界”

【新智元导读】Facebook 人工智能组研究员、围棋项目负责人田渊栋在知乎专栏“远东轶事”撰文回顾2016年人工智能的发展,写道AlphaGo与李世石的围棋对...

3539

扫码关注云+社区

领取腾讯云代金券