专栏首页企鹅号快讯人工智能&大数据:加速GPU在数据中心领域的应用

人工智能&大数据:加速GPU在数据中心领域的应用

随着数据需求工作负载渗透到数据中心并覆盖传统的CPU性能,GPU各供应商已经为数据中心补充了全新的设备和显示卡。

最近大数据、人工智能以及机器学习的潮流正在企业服务器之间形成连锁反应。因为传统的微处理器难以有效地处理这些来自要求苛刻的工作负载的信息,因此数据中心图形处理器转移至该领域填补相关的资源空白。

自70年代以来,图形处理单元最初被用于从中央处理器处理视频和图形处理任务。与典型的CPU相比,这些系统具有不同的底层设计,GPU是为在单一数据流上最大化高速流水线上吞吐量而构建的。CPU也被设计为支持快速切换,并将信息从一个地方快速移动到另一个地方,如从主存储到某一存储系统。然而GPU具有不同的结构:它们可以并行处理并支持多个高速连接。这些微处理器有多组数据路径进行大量的数据处理,这与图形应用程序的需求非常吻合。

  扩展数据中心GPU应用范围

GPU在完成少量任务方面做得很好,但随着任务要求逐渐扩大,相关相应也逐渐完成扩展。Nvidia倾向于把GPU与其他半导体供应商区分开来,并为GPU寻找更广泛的用途。

首先,这些产品开始进入高性能计算领域。然而最近,GPU供应商专门为数据中心服务器设计了设备和显示卡产品。专为服务器优化的GPU使用高带宽内存,并作为模块集成到专用服务器设计中,或作为外围组件互连快速(Peripheral Component Interconnect Express)附加卡的方式提供。但是,与游戏显卡不同,这些显示卡并未提供图形化界面。

服务器各供应商将GPU与CPU连接起来,以充分利用CPU的优势。当CPU性能无法满足处理数据密集型任务时,会提高CPU(与GPU的集成)性能(满足任务需要)。

大数据、机器学习和人工智能应用程序具有很高的处理要求,需要处理大量的信息和不同的数据类型。这些特点与GPU的设计初衷非常吻合。

AI和机器学习各供应商均使用GPU来支持处理训练神经网络所需的大量数据。Gartner公司的分析师Alan Priestley表示,在这一领域的市场之中,相比于将程序部署到具有GPU的高性能服务器之上,拥有GPU的PC设备可用性可帮助软件开发人员能够在台式电脑上开发他们的算法。

  GPU在数据中心领域的应用

数据中心GPU的应用将来可能会不断深入。GPU是任务关键型工作负载的重要基础设施特性。Priestley说,IT组织可推行采购商品化的GPU,并且借助标准库的使用,他们可以很容易地将其纳入应用程序。

因此,服务器各供应商提供集成GPU模块的专用服务器或支持GPU附加卡的产品。据Gartner公司的调查,面向服务器优化的GPU显卡和使用性能最高的处理器的模块通常的成本在1,000美元到5,000美元之间。

已有相关产品的供应商开始将这些附加产品纳入其产品线。

戴尔同时支持AMD公司的FirePro系列GPU以及Nvidia公司的GPU,专为虚拟台式基础设施和计算应用而设计,并具有支持高达1792个GPU核心的处理能力。Hewlett Packard Enterprise(HPE)ProLiant系统可与Nvidia Tesla,Nvidia GRID和Nvidia Quadro GPU协同工作。HPE Insight集群管理实用程序(HPE Insight Cluster Management Utility)将安装并配置GPU驱动程序,可提供如温度等GPU运行状况的监控。

为了准备数据中心GPU深入使用,管理员需要掌握如何管理这些处理器的专业知识。他们应该找到熟悉这项技术的有关人员,当然这绝非易事,因为技术不同于传统的微处理器设计,而且尽管Nvidia提供了一些培训材料,相关的课程仍然比较少。

摘自:TechTarget中国

本文来自企鹅号 - 京津冀大数据联盟天津工委媒体

我来说两句

0 条评论
登录 后参与评论

相关文章

  • TESLA V100如何让质疑GPU的流言“失声”

    【IT168 评论】GPU在人工智能来临的前夜火了,很多人的眼光也聚焦到了英伟达身上,随之而来的,流言也就多了起来。有人认为,GPU在人工智能的应用存在一定的局...

    企鹅号小编
  • 哪种芯片架构将成为人工智能时代的开路先锋

    【IT168 评论】如果用刀来比喻芯片,通用处理器好比一把瑞士军刀,人工智能时代好比要拿刀来切肉,瑞士军刀可以拿来用,但它并非是为切肉设计的,所以效果并非最好。...

    企鹅号小编
  • 机器学习初学者常犯的六大错误总结

    AiTechYun 编辑:yining 在机器学习中,有很多方法来构建产品或解决方案,而且每种方法都有不同的假设。很多时候,如何识别哪些假设是合理的并不是件容易...

    企鹅号小编
  • [译]GPU加持,TensorFlow Lite更快了

    由于处理器性能和电池容量有限,在移动设备上使用计算密集的机器学习模型进行推断是非常耗资源的。 虽然可以采用一种加速途径:转换为定点数模型,但用户已经要求作为一种...

    云水木石
  • 学习笔记︱深度学习以及R中并行算法的应用(GPU)

    版权声明:博主原创文章,微信公众号:素质云笔记,转载请注明来源“素质云博客”,谢谢合作!! ...

    素质
  • 【杂谈】学深度学习的你有GPU了吗

    计算机常见的处理器包括CPU和GPU,CPU即中央处理单元(Central processing unit),它是计算机的控制核心。CPU需要很强的通用性来处理...

    用户1508658
  • 1.1 Programmable Graphics Processing Unit 发展历程

    面纱掩盖了过去、现在和将来,历史学家的使命是发现它现在是什么,而不是过去是什么。 ——Henry David Thoreau

    代码咖啡
  • 英伟达深度学习专家路川详解“如何升级GPU深度学习系统”

    GPU 成为在构建深度学习系统时必不可少的需要关注的方向,但是诸如如何选择一款 GPU 来搭建深度学习平台,如何升级自己的 GPU 之类的问题一直困扰着开发者。...

    小莹莹
  • 【深度分析】深度学习选GPU,RTX 20系列值不值得?

    深度学习常被戏谑为“炼丹术”,那么,GPU于深度学习研究人员而言就是不可或缺的“炼丹炉”。

    新智元
  • 推荐5种让数据库快的飞起的GPU加速产品

    GPU承诺会彻底改变大数据分析领域,从当前来看,这并不是虚言,当我们数据量达到一定级别的时候,我们一定会转向使用GPU。大多数的数学密集型应用都包含机器学习框架...

    GPUS Lady

扫码关注云+社区

领取腾讯云代金券