首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

报告丨《NVIDIA DPU报告》:集数据中心于芯片

·聚焦:人工智能、芯片等行业

欢迎各位客官关注、转发

前言

“数据中心已成为新型计算单元。在现代化、安全的加速数据中心中,DPU 已成为其重要的组成部分。CPU、GPU和 DPU 的结合,可构成完全可编程的单一AI计算单元,提供前所未有的安全性和算力。”

作者| 方文

作为对数据中心 CPU 和 GPU 的补充,DPU 具有硬件加速、软件可编程和面向“零信任”安全等特性,基于数据中心芯片架构的 DOCA SDK,将多核 Arm CPU、高性能网络、各种灵活和可编程的加速引擎等集于一体,能提升数据中心的网络、存储和安全性能,有效防止数据泄露和网络攻击。

DPU试图解决的挑战是,现代数据中心中更多的基础结构管理琐事已经换成了在服务器CPU内部运行的软件。这些杂事大部分都曾经在标准网络接口卡(NIC)和单独的服务器硬件捆绑上运行。但是一个主要的缺点是服务器中的所有软件都会给CPU中的资源增加负担。通过分担这些功能,CPU可以专注于其他工作负载。

Nvidia估计,数据管理会消耗多达30%的数据中心中央处理核心,数据中心中的所有软件基础架构都极大地拖累了服务器的性能。

Nvidia表示,该系列的首款产品BlueField-2与125个CPU内核一样,在网络,存储,安全性和基础架构任务方面具有相同水平的性能。进程中保存的资源可用于其他服务, 从而提高服务器的最大性能。数据中心使用的主要操作系统(包括Linux和VMware)支持DPU。

该芯片结合了八个基于armcortex-A72体系结构的可编程内核及其高性能ConnectX-6dx网络接口。DPU可以被添加到数据中心的任何服务器上,它有一对加速器,用于卸载存储、网络和其他管理工作负载,每秒操作数高达0.7万亿次。BlueField-2还具有1MB的L2缓存,可以由成对的CPU内核共享,还有6MB的L3缓存。

BlueField-2包含用于以太网或InfiniBand的200Gb/s或双100Gb/s网络端口,因此它可用于网络以及存储工作负载,包括非易失性存储器Express或NVMe。此外,还包括对芯片进行加密,以防止数据泄露。它具有多达16个PCIe Gen 4端口,用于与服务器上的CPU和GPU通信,以及多达16 GB的板载DRAM。

该公司正试图通过在其Bluefield DPU中添加更强大的AI来与竞争对手脱颖而出。它还正在推出BlueField-2X,该产品将于2021年在其与BlueField-2相同的硬件中添加基于其新Ampere架构的GPU。DPU支持多达60TOPS的AI性能,可用于改善网络,存储和数据中心中的其他杂务。使用AI,DPU可以检测到网络中的异常行为,并在数据被盗之前将其阻止。

Nvidia计划 在2022年推出具有更多计算能力和400Gbps网络链接的BlueField-3和BlueField-3X。它还计划在2023年推出在计算和人工智能方面取得重大进展的BlueField-4,并将Arm CPU和Nvidia GPU在同一产品系列中首次出现在同一芯片上。

以下是《NVIDIA DPU报告》部分内容:

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20201108A0AGVM00?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券