Nvidia ASAP(加速交换和数据包处理)技术简介

术语

ASAP: NVIDIA accelerated switching and packet processing (ASAP2) 加速网络交换和数据包处理技术

简介

NVIDIA 加速交换和数据包处理 (ASAP 2 ) 技术正在变得无处不在，可以增强最苛刻应用程序的网络和安全性。

现代数据中心网络日益虚拟化并作为服务进行配置。这些软件定义网络 (SDN) 提供了极大的灵活性和控制力，使您能够轻松地从一个数据中心的场所扩展到多云和混合云环境。

实施 SDN 技术和硬件加速网络（即 SR-IOV）之间长期存在的冲突主要是由于两者之间的根本差异：

• SDN，抽象底层NIC硬件，并为虚拟机/容器pod提供虚拟化网络设备。SDN 还利用了大量的 CPU 处理能力，其实这些能力应该用于运行业务应用程序。
• SR-IOV 的作用恰恰相反，它在虚拟机/容器 Pod 和 NIC 硬件之间提供直接接口。它绕过主机的CPU和操作系统，从而从I/O任务中释放昂贵的CPU资源。

话虽如此，云构建者倾向于避免 SR-IOV，因为它会影响实时迁移，有时还需要在来宾操作系统上安装网络驱动程序。SDN 和 SR-IOV 加速网络之间的这种不一致迫使系统架构师和网络工程师优先考虑其中之一，而这通常会导致应用程序性能不佳或系统设计不灵活以及总体拥有成本更高

ASAP解决方案将服务器/存储网络硬件的性能和效率与虚拟交换软件的灵活性相结合。ASAP的性能比非卸载 OVS 解决方案高出 10 倍，提供具有最高总体基础设施效率、部署灵活性和操作简单性的软件定义网络。

从 NVIDIA® Mellanox® ConnectX®-5 NIC 开始，Mellanox 通过 ASAP功能支持服务器 NIC 硬件中的加速虚拟交换。

在加速数据平面的同时，ASAP 保持 SDN 控制平面完整，从而对应用程序保持完全透明，保持灵活性和易于部署

NVIDIA® BlueField® 支持ASAP技术。BlueField 软件包包括已支持 ASAP的OVS 安装。在 Arm 内核上运行的虚拟交换机允许我们通过 Arm 内核传递进出主机功能的所有流量，同时执行 OVS 支持的所有操作。ASAP 2允许我们通过对 NIC 嵌入式交换机进行编程来卸载数据路径，并避免需要通过 Arm 内核传递每个数据包。控制平面与使用标准 OVS 时保持相同。OVS 桥在安装 BFB 后首次启动 DPU 时默认创建

NVIDIA ASAP 2 — 提供两全其美的产品

ConnectX SmartNIC和 BlueField 数据处理单元 (DPU) 中采用的NVIDIA 加速交换和数据包处理技术 (ASAP 2 ) 可提供突破性的数据中心网络性能，并且 CPU 利用率为零。

ASAP 2  的核心是 eSwitch——一种 ASIC 嵌入式交换机，可提供裸机服务器网络的性能和效率以及 SDN 的灵活性。eSwitch 的优点在于它允许 SmartNIC/DPU 处理硬件中的大部分数据包处理操作，从而释放主机的 CPU 并提供更高的网络吞吐量。几乎所有进出服务器的流量（甚至服务器托管的虚拟机或容器之间的流量）都可以由 eSwitch 快速处理。

NVIDIA ASAP 2技术堆栈提供了一系列网络加速功能，使您能够在最大性能 (SR-IOV) 或对遗留环境的支持 (VirtIO) 等之间进行选择，同时保留 SDN 层。BlueField DPU 还可以卸载和隔离 Arm 内核上的 SDN 控制平面软件。这为裸机、虚拟化和容器化环境中的云运营商提供了额外的 CPU 节省以及更好的控制和增强的安全性。

ASAP 2技术上游集成在 Linux 内核和一系列领先的 SDN 框架中。下图说明了 NVIDIA SmartNIC 和 DPU 如何利用 ASAP 2技术来加速硬件中的 OVS 堆栈：

在 GTC 2021 上，全球技术合作伙伴与 NVIDIA 一起展示了他们利用 ASAP2技术来保护和加速现代数据中心工作负载的方式

客户案例

中国移动加速公有云服务网络化

在本次会议中，NVIDIA 邀请了来自中国移动和 Nuage Networks 的行业专家讨论中国移动为其公共云服务实施由 NVIDIA ASAP 2技术支持的 Nuage SDN 解决方案。本次会议重点介绍 ASAP 2 vDPA 加速技术，包括其与 SR-IOV 相比的优点和缺点，以及性能预期。

演讲嘉宾： Sharko Cheng，中国移动云网络产品部高级网络架构师 Mark Iskra，诺基亚/Nuage Networks 总监 Ash Bhalgat，NVIDIA 云、电信和安全市场开发高级总监

点播观看：利用虚拟数据平面加速网络增强云原生应用程序

NVIDIA 保护并加速 GeForce NOW 云游戏平台

在 NVIDIA，我们始终努力在将产品推向市场之前先将其投入使用。GeForce NOW (GFN) 是 NVIDIA 的云游戏服务，在跨 20 个数据中心的强大计算平台上运行，为超过 1000 万用户提供服务。GFN 网络团队与 NVIDIA 网络业务部门进行内部合作，设计、实施和测试 OVN Kubernetes 基础设施，并通过 NVIDIA ASAP 2技术进行加速。其结果是一个完全集成的云原生 SDN 平台，提供具有内置安全性的高吞吐量、低延迟连接解决方​​案。本次会议深入探讨了云平台架构和 ASAP 2加速堆栈，旨在提供史诗般的游戏体验。

演讲者： Leonid Grossman，NVIDIA 云网络总监 Majd Debini，NVIDIA 云加速软件总监

点播观看：使用 NVIDIA DPU 构建 GeForce Now 私有云网络基础设施

Mavenir 与 NVIDIA 合作加速 5G UPF 应用

5G 无线网络的速度比 4G 快 10 倍，支持的网络流量是 4G 的 10,000 倍，因此 5G 核心网是要求最严苛的数据中心工作负载之一。领先的网络软件提供商 Mavenir 与 NVIDIA 合作，利用 ASAP 2技术加速其云原生 5G 核心解决方案。此次会议汇聚了来自 Mavenir 和 NVIDIA 的两位产品负责人，讨论了一系列问题，包括实现 5G 承诺所需的硬件加速、NVIDIA ASAP 2如何集成到 Mavenir 的 5G 用户平面功能 (UPF) 以及该技术如何定位以更广泛地加速网络功能（NF）。本次会议的独特之处在于，ASAP 2不仅用于加速 SDN 层，还用于加速应用程序管道。

演讲者： Manikandan Sankaran，产品管理总监，Mavenir Gal Haim Cohen，产品管理总监，NVIDIA 观看点播： 具有 SmartNIC 卸载功能的高性能 Mavenir UPF

Palo Alto Networks 与 NVIDIA 合作开发 5G 安全加速

处于网络安全前沿的 Palo Alto Networks 与 NVIDIA 合作，将 ASAP 2技术与旗舰级 PAN-OS 下一代防火墙 (NGFW) 集成，以满足 5G 网络严格的性能要求。他们构建的是一种创新解决方案，该解决方案使用 NVIDIA BlueField DPU 来减轻基于应用程序分类的策略执行负担。大多数数据量和带宽不需要通过防火墙检查，而是在硬件中处理。该解决方案是动态的，因为随着威胁的发展，该解决方案会在不改变底层基础设施的情况下进行调整。初步性能结果显示约 5 倍的改进。最后的演示很好地展示了该解决方案如何在性能和系统调整方面进行扩展，以及如何与 PAN 的下一代防火墙结合卸载现实世界的流量。

演讲者： Sree Koratala，Palo Alto Networks 移动安全产品管理副总裁 John McDowall，Palo Alto Networks 高级杰出工程师 Ash Bhalgat，NVIDIA 云、电信和安全市场开发高级总监

点播观看： 加速 5G 安全：基于 DPU 的下一代防火墙加速

VMware 和 NVIDIA 加速混合云网络和安全

数字基础设施领导者 VMware 与 NVIDIA 合作，将 AI 引入每个企业，并为混合云提供新的架构。VMware 项目 Monterey 是一项大规模工作，旨在重新构建其著名的 VMware Cloud Foundation 堆栈以使用 NVIDIA BlueField DPU。这项工作的主要部分包括利用 NVIDIA ASAP 2技术将 VMware 的 ESXi 网络卸载、加速和隔离到 BlueField。本次会议介绍了下一代云基础架构以及 NVIDIA BlueField DPU 在运行 VMware NSX 网络和安全服务时的作用。请收听，抢先了解如何使用现有 VMware 工具管理 BlueField DPU，实现新的高级功能，同时提供熟悉的用户体验。

演讲者： Sudhanshu (Suds) Jain，VMware 产品管理总监 Motti Beck，NVIDIA 企业市场开发高级总监

点播观看：如何通过下一代混合云架构优化现代工作负载

使用 NVIDIA ASAP 2保护并加速数据中心

现代数据中心工作负载需要裸机服务器网络的性能和效率以及 SDN 的灵活性。NVIDIA 及其广泛的合作伙伴生态系统正在利用NVIDIA ConnectX SmartNIC 和 BlueField DPU 中的先进 ASAP 2技术来保护和加速从云到边缘的数据中心工作负载。

相关资源

• GTC 会议：通过优化 GPU 利用率提高数据中心效率（2023 年春季）
• GTC 会议：人工智能和云时代的网络安全转型（2023 年春季）
• GTC 会议：开发人员分组讨论：利用 Triton Server 和 DALI 加速企业工作流程（2023 年春季）
• 网络研讨会：NVIDIA 和 VMware 合作将 AI 引入每个数据中心
• 网络研讨会：推出用于加速企业计算的 NVIDIA 认证系统
• 网络研讨会：联邦机构中的 NVIDIA 虚拟 GPU：复杂工作负载的远程工作解决方案

参考

利用 NVIDIA ASAP² 技术保护和加速现代数据中心工作负载: https://developer.nvidia.com/blog/securing-and-accelerating-modern-data-center-workloads-with-nvidia-asap-technology/

与OVS卸载对比: https://docs.nvidia.com/networking/display/tan10/asap+ovs+offload

DPU上的虚拟交换机: https://docs.nvidia.com/networking/display/bluefielddpuosv450/virtual+switch+on+dpu

晓兵(ssbandjl)

博客: https://cloud.tencent.com/developer/user/5060293/articles | https://logread.cn | https://blog.csdn.net/ssbandjl

晓兵技术杂谈(系列)

https://cloud.tencent.com/developer/user/5060293/video

DAOS汇总: https://cloud.tencent.com/developer/article/2344030