Loading [MathJax]/jax/input/TeX/config.js
前往小程序,Get更优阅读体验!
立即前往
社区首页 >专栏 >开源的DPU “Helium”,给性能不足的服务器安上“外挂”!

开源的DPU “Helium”,给性能不足的服务器安上“外挂”!

原创
作者头像
星融元Asterfusion
修改于 2023-06-15 07:34:18
修改于 2023-06-15 07:34:18
1.1K0
举报
文章被收录于专栏:星融元星融元

数据中心为什么需要智能网卡?

CPU的算力发展跟不上算力需求,所以人们考虑可以将一部分原本CPU承载的功能卸载到其他专用硬件上去处理(比如网卡),从而释放CPU算力,让其专注于处理关键的(创造经济效益的)用户业务。

但这反过来对于用来卸载CPU的硬件提出了更高要求——不仅仅需要收发流量等转发面的功能了,我们还需要网卡承担起更多元化的功能,把传统网卡转变为“智能网卡”。

智能网卡在数据中心的应用广泛于网络加速、存储加速和安全加速

网络加速:如OVS卸载/VXLAN终结、TCP卸载、GRE/GTP等隧道封装/解封装、可靠UDP、5G UPF加速等;

安全加速:如IPSec、SSL、XDP/eBPF、vFW/vLB/vNAT、DPI、DDoS、压缩/解压缩等;

• 存储加速:如RDMA卸载、NVMe-oF等。

将智能网卡升级成DPU架构后有什么提升?

传统的智能网卡上,首包的处理在CPU上,流表下发到网卡芯片里依旧占用了CPU的资源,并且需要为卸载的业务定义接口和相关的协议,实现起来比较复杂,定位问题难。而在DPU架构的智能网卡上,可以实现全卸载,相互之间没有太多业务接口,定位问题清晰。相当于有专门的计算资源来处理智能网卡相关的控制面,可实现控制面+转发面的全卸载。

对比市面其他架构的智能网卡

ASIC架构

FPGA架构

SoC(多核+ASIC)

性价比高

低时延

高灵活性

低功耗

控制面、转发面同时卸载

可编程性差

可编程,但开发复制性高

功耗高

开发周期长

开源生态不完善

价格高

DPU的架构是把多核处理器+ASIC做到一个芯片上(SoC 是把他们集成到板上,虽然DPU集成度更高但本质上架构类似8404)

  • 采用通用CPU,易于编程和移植
  • 容器化的部署环境,需要卸载的不同功能放在不同的容器里,就像一个小服务器,可以同时实现多种功能

开源的DPU智能网卡——星融元 Helium DPU智能网卡

当前,秉承着开放网络的理念,星融元已将Helium智能网卡的产品资料和代码开源,诚邀各位合作伙伴共同打造智能网卡行业生态!

Helium智能网卡采用高性能DPU架构设计,提供全开放的软件开发环境,可针对云数据中心、HPC、边缘计算等场景中客户原本跑在x86服务器上的的虚拟网络和虚拟网络功能进行卸载和加速处理,为客户提供更高性能体验的同时降低总体拥有成本。

以NFV(如vFW)为例,对比x86服务器:

通过以下数据可以发现,在提供了更低转发时延和更高流新建会话数的情况下,Helium智能网卡的功耗仅为服务器的1/6,购买成本节省超过1/3。

处理性能

转发时延

流新建会话数

功耗

2U机架式服务器 2 x Intel Xeon Gold 5118 24核

60G

200μs

12W

350W

Helium 智能网卡 24核

60G

100μs

15W

60W

以云网关接入为例:

在保证总接入用户数量的前提下,引入Helium智能网卡的建设方案相对于纯2U服务器的建设方案在机架空间占用、总功耗、成本上都具有明显优势。其中机架空间节省超过2/3,总功耗节省超过1/2,建设成本节省8W,同时机架平均每U接入的用户数有3倍以上的提升。

接入环境

设备配置

机架空间

总功耗

平均每U接入用户

注释

1.44Tbps流量接入

24 x 2U服务器

48U,2个42U标准机柜

8400W

6000

单2U服务器典型功耗按350W计算; 单4U服务器典型功耗按500W计算; Helium智能网卡典型功耗为60W; 单流量牵引交换机典型功耗为430W; 各产品购入成本均取该规格对应的市场均价;

3 x 4U服务器 24 x Helium 智能网卡 1 x 流量牵引交换机

14U,1个42U标准机柜

3390W

20571

产品特性

  • 4*SFP28接口或2*QSFP28接口,100Gbps典型混合业务处理能力
  • 高性能DPU芯片,24核ARM处理器,集成加解密、压缩解压缩、虚拟化、数据包处理、流量整形协处理引擎
  • 主机侧提供DPDK和VPP开发套件;网卡侧运行标准Linux + 容器虚拟化环境,并提供DPDK和VPP开发套件
  • 大容量状态表和ACL表,最大64GB内存配置,支持千万级会话表
  • 提供PCIe*16 Gen3.0/Gen4.0,支持PCIe在线升级
  • 独立的管理网口

应用场景

  • 网络加速:OVS卸载/VXLAN终结、TCP卸载、GRE/GTP隧道封装/解封装、可靠UDP、5G UPF等
  • 存储加速:NVMe-oF(TCP)、压缩/解压缩等
  • 安全加速:IPSec、SSL、XDP/eBPF、vFW/vLB/vNAT、DPI、DDoS防御等
  • 客户自研场景下个性化应用的开发和移植

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
这款国产高性能DPU智能网卡,即将开源!
我们知道,各类智能网卡在服务器集群中的大规模部署,可以进一步降低数据中心建设和运营成本,更好地将服务器资源货币化。但仅从网卡层面来看,这个方案还存在不少优化空间。
星融元Asterfusion
2023/04/25
1.2K0
这款国产高性能DPU智能网卡,即将开源!
一台Server+8块SmartNIC,DPU的池化如何助力边缘云计算实践
5G时代下基础网络设施的现代化改造势在必行,这包括简化运维,提高网络灵活性、可用性、可靠性和扩展性,减少延迟和优化应用响应时间等等。其中,边缘云计算的部署是一大重点——结合网络虚拟化技术把工作负载和服务从核心网络(位于数据中心内)移向网络边缘,一方面可以利用延迟降低的优势,改善现有应用的体验,对于网络运营方而言也便于新业务的灵活部署和统一管理。
星融元Asterfusion
2023/06/26
4070
一台Server+8块SmartNIC,DPU的池化如何助力边缘云计算实践
开源DPU如何加速数据中心网络/安全/存储应用?
后摩尔定律时代,数据中心服务器算力的增长跟不上带宽的增长,原本用来处理业务的算力被大量浪费在处理网络数据和基础设施业务上(OVS、NFV),通过CPU软件模拟的方式性能已经无法满足需求,服务器性能已经达到瓶颈,市面上不少客户可能会考虑两个选择:
星融元Asterfusion
2023/03/13
2.9K0
开源DPU如何加速数据中心网络/安全/存储应用?
DPU、SmartNIC、基于DPU的SmartNIC ?
编者按:如今,DPU(数据处理单元)正变得越来越普及,大家关于SmartNIC和DPU之间的疑惑也越来越多,本文将带你揭晓答案。 随着云网络、人工智能、大数据、5G边缘计算的快速发展,数据流量呈指数级增长。CPU计算能力的增长赶不上网络传输速率的提升,网络侧对专业计算的需求急剧增加,DPU应运而生。 DPU旨在卸载虚拟网络、安全、存储等各种功能,满足数据平面转发的加速需求,减轻CPU算力的负担。 我们从以下几个问题中一窥究竟。 问题1:为什么需要DPU ? 1)加速部分占比有限。 2)数据在 CPU
SDNLAB
2022/03/04
7960
边缘机房如何低成本地提高单位空间的算力?
随着物联网、智能驾驶等业务的兴起,边缘网络算力需求愈发明晰,运营商及云服务商纷纷将工作负载及服务从核心迁移到边缘,比如部署5G UPF、5G MEC及边缘网关VNF等。
星融元Asterfusion
2023/07/28
1590
边缘机房如何低成本地提高单位空间的算力?
史上最全DPU厂商大盘点(上)
DPU是以数据处理为中心的芯片,2020年NVIDIA战略中国将其称为CPU、GPU之后“第三颗主力芯片”,认为“它将成为未来计算的三大支柱之一”。头豹研究院预测,数据中心领域DPU即将放量,随智能驾驶、元宇宙等其他领域的需求被不断挖掘,DPU渗透应用领域将持续扩大,中国 DPU市场规模将有望于2026年达到1095.3亿元。 DPU市场的火热引得国内外大厂纷纷入局,也催生出了一批批创业公司。那么目前主要有哪些DPU玩家呢? 国外厂商 Nvidia Nvidia创立于1993年,总部位于美国加利福尼亚
SDNLAB
2022/06/24
2.8K0
史上最全DPU厂商大盘点(上)
智能网卡的网络加速技术
2021年9月25日,由“科创中国”未来网络专业科技服务团指导,江苏省未来网络创新研究院、网络通信与安全紫金山实验室联合主办、SDNLAB社区承办的2021中国智能网卡研讨会中,多家机构谈到了智能网卡的网络加速实现,我们对此进行整理,以飨读者。
SDNLAB
2021/10/21
7.1K0
【重识云原生】第四章云网络4.9.4.1节——智能网卡SmartNIC方案综述
        网卡(Network Interface Card,简称NIC)是将电脑接入局域网的设备,网卡插在计算机主板的总 线插槽中,负责将用户要传递的数据转换为网络设备能够识别的格式,通过网络介质传输。
江中散人_Jun
2022/09/08
2.5K0
【重识云原生】第四章云网络4.9.4.1节——智能网卡SmartNIC方案综述
讲座干货整理!星融元DPU智能网卡在哪开源,如何开源?
近日,星融元数据联合智东西推出了主题为“开源DPU技术与应用场景”的技术公开课。星融元DPU技术负责人张敏以线上直播的形式,面向DPU开发从业者以及对相关技术感兴趣的各界人士,介绍了 Helium DPU产品开源的目的和进展、软硬件架构以及几大典型应用场景。现将直播要点整理如下,欢迎更多同仁与我们交流。
星融元Asterfusion
2023/07/12
4840
讲座干货整理!星融元DPU智能网卡在哪开源,如何开源?
从SmartNIC到DPU,智能网卡的演进之路
2021年9月25日,由“科创中国”未来网络专业科技服务团指导,江苏省未来网络创新研究院、网络通信与安全紫金山实验室联合主办、SDNLAB承办的“2021中国智能网卡研讨会”中,多家机构谈到了SmartNIC和DPU,SDNLAB对此进行了整理,以飨读者。
SDNLAB
2021/10/11
4.6K0
【重识云原生】第四章云网络4.9.1节——网络卸载加速技术综述
网络offload主要是指将原本在内核网络协议栈中进行的IP分片、TCP分段、重组、checksum校验等操作,转移到网卡硬件中进行,CPU的发包路径更短,消耗更低,提高处理性能。
江中散人_Jun
2022/07/12
3.1K0
【重识云原生】第四章云网络4.9.1节——网络卸载加速技术综述
从P4到DSA,SDN终于回到硬件定义时代
人人都在谈论SDN的后续发展,是时候将眼光从软件定义拉回到硬件重构了。这里的硬件重构不仅仅是网络架构的解耦,我们更需要关注设计范式在大变局下的应对-DSA。
SDNLAB
2021/09/16
9570
算力经济下DPU芯片的发展机遇
当前承载算力的基础设施是各种规模的的数据中心,从几十个服务器节点的小规模企业级计算中心到数万个节点的巨型数据中心,通过云计算的模式对应用层客户提供存储、软件、计算平台等服务。这个生态直接承载了全球数十万亿美元规模的数字经济,而且对全球服务业、工业、农业的渗透率随着大数据、5G、人工智能等技术的发展还在不断提高。算力,已不仅仅是一个技术指标,它已经成为了先进生产力的代表。
FPGA技术江湖
2021/03/30
1.1K0
算力经济下DPU芯片的发展机遇
【重识云原生】第四章云网络4.9.5.1节下一代智能网卡——DPU综述
        随着数据中心的高速发展,通信能力和计算能力成为数据中心基础设施的相辅相成的两个重要发展方向。若数据中心仅关注计算能力的提升,通信基础设施的提升跟不上,那么数据中心的整体系统性能依然受限,无法发挥出真正的潜力。DPU的提出背景就是应对这些数据量和复杂性的指数级增长。未来,需要将计算移至接近数据的位置,这是目前业界所公认的以数据为中心的体系结构下的创新。综上,DPU对数据中心来说,是通过更明细的分工来实现效率的提升、实现总体系统的成本最优化。
江中散人_Jun
2022/09/09
1.8K0
【重识云原生】第四章云网络4.9.5.1节下一代智能网卡——DPU综述
星融元:边缘机房如何低成本地提高单位空间的算力?
这些深度业务处理功能包括:传统的深度业务处理通常由带CPU的框式设备完成,但框式设备成本高、功耗大、扩展不够灵活的种种给客户带来了极大的困扰。
星融元Asterfusion
2023/08/04
1860
星融元:边缘机房如何低成本地提高单位空间的算力?
一文看懂什么样的网络适合部署智能网卡?
智能网卡可在网络任务方面卸载服务器CPU,提供内存扩展并执行安全操作、硬件加载等关键任务,在多个网络层为服务器提供额外的计算能力。这种可编程的算力设备本身可以高速执行必要的功能,而不是使用传统基础设施中服务器的资源。随着工作负载的日益增加,越来越多智能网卡正在加速服务器性能,以减少任务等待和时延。
星融元Asterfusion
2023/08/10
3550
一文看懂什么样的网络适合部署智能网卡?
【拆机测评】英特尔基于FPGA的 IPU表现如何?
大数据催生多元算力新计算架构,DPU 逢时而生,已成行业巨头和初创公司的必争之地。各家纷纷推出DPU相关解决方案(点击查看:史上最全DPU厂商大盘点),宣称可以降低数据中心税,助力数据中心更高效的应对多元化的算力需求。那么,DPU究竟是名不虚传还是徒有虚名?本文将走进英特尔实验室一探虚实。
SDNLAB
2022/12/13
1.3K0
【拆机测评】英特尔基于FPGA的 IPU表现如何?
DPU“大跃进”:第一批DPU应用问世
据Dell'Oro Group研究报告显示,预计到 2026 年,智能网卡(DPU)收入将达到 16 亿美元。Dell'Oro Group 研究总监 Baron Fung 表示:“到 2026 年,交付给超大规模云服务提供商的服务器中有一半以上将配备智能网卡,其中许多服务器端口将以 100 Gbps 或更高的速度连接到网络。智能网卡和高速端口也有机会用于企业等其他市场,但首先需要解决各种技术和成本挑战。” 近几个月来,随着一系列基于DPU的应用平台与存储设备的问世,让DPU的相关应用迈向新的阶段,有望克服以
SDNLAB
2022/06/02
6760
DPU“大跃进”:第一批DPU应用问世
DPU市场火热,未来会任由几家大厂吃独食吗?
有人说它叫DPU(dataprocessing units),也有人说它叫IPU(infrastructureprocessing units),我们不妨用“数据基础设施”一词来一个和稀泥式的命名,因为它的出现本就是数据基础设施领域近年来的一大创新。
科技云报道
2022/04/29
4630
DPU市场火热,未来会任由几家大厂吃独食吗?
一文读懂SmartNIC
传统网卡仅实现了 L1-L2 层的逻辑,而由 Host CPU 负责处理网络协议栈中更高层的逻辑。即:CPU 按照 L3-L7 的逻辑,负责数据包的封装与解封装;网卡则负责更底层的 L2 层数据帧的封装和解封装,以及 L1 层电气信号的相应处理。
SDNLAB
2021/07/27
3K0
一文读懂SmartNIC
推荐阅读
相关推荐
这款国产高性能DPU智能网卡,即将开源!
更多 >
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档
查看详情【社区公告】 腾讯技术创作特训营