报告丨《NVIDIA DPU报告》：集数据中心于芯片

·聚焦:人工智能、芯片等行业

欢迎各位客官关注、转发

前言：

“数据中心已成为新型计算单元。在现代化、安全的加速数据中心中，DPU 已成为其重要的组成部分。CPU、GPU和 DPU 的结合，可构成完全可编程的单一AI计算单元，提供前所未有的安全性和算力。”

作者| 方文

作为对数据中心 CPU 和 GPU 的补充，DPU 具有硬件加速、软件可编程和面向“零信任”安全等特性，基于数据中心芯片架构的 DOCA SDK，将多核 Arm CPU、高性能网络、各种灵活和可编程的加速引擎等集于一体，能提升数据中心的网络、存储和安全性能，有效防止数据泄露和网络攻击。

DPU试图解决的挑战是，现代数据中心中更多的基础结构管理琐事已经换成了在服务器CPU内部运行的软件。这些杂事大部分都曾经在标准网络接口卡（NIC）和单独的服务器硬件捆绑上运行。但是一个主要的缺点是服务器中的所有软件都会给CPU中的资源增加负担。通过分担这些功能，CPU可以专注于其他工作负载。

Nvidia估计，数据管理会消耗多达30％的数据中心中央处理核心，数据中心中的所有软件基础架构都极大地拖累了服务器的性能。

Nvidia表示，该系列的首款产品BlueField-2与125个CPU内核一样，在网络，存储，安全性和基础架构任务方面具有相同水平的性能。进程中保存的资源可用于其他服务， 从而提高服务器的最大性能。数据中心使用的主要操作系统（包括Linux和VMware）支持DPU。

该芯片结合了八个基于armcortex-A72体系结构的可编程内核及其高性能ConnectX-6dx网络接口。DPU可以被添加到数据中心的任何服务器上，它有一对加速器，用于卸载存储、网络和其他管理工作负载，每秒操作数高达0.7万亿次。BlueField-2还具有1MB的L2缓存，可以由成对的CPU内核共享，还有6MB的L3缓存。

BlueField-2包含用于以太网或InfiniBand的200Gb/s或双100Gb/s网络端口，因此它可用于网络以及存储工作负载，包括非易失性存储器Express或NVMe。此外，还包括对芯片进行加密，以防止数据泄露。它具有多达16个PCIe Gen 4端口，用于与服务器上的CPU和GPU通信，以及多达16 GB的板载DRAM。

该公司正试图通过在其Bluefield DPU中添加更强大的AI来与竞争对手脱颖而出。它还正在推出BlueField-2X，该产品将于2021年在其与BlueField-2相同的硬件中添加基于其新Ampere架构的GPU。DPU支持多达60TOPS的AI性能，可用于改善网络，存储和数据中心中的其他杂务。使用AI，DPU可以检测到网络中的异常行为，并在数据被盗之前将其阻止。

Nvidia计划 在2022年推出具有更多计算能力和400Gbps网络链接的BlueField-3和BlueField-3X。它还计划在2023年推出在计算和人工智能方面取得重大进展的BlueField-4，并将Arm CPU和Nvidia GPU在同一产品系列中首次出现在同一芯片上。

以下是《NVIDIA DPU报告》部分内容：