打开NVIDIA Jetpack 4.6 隐藏功能

前些日子，NVIDIA JetPack 4.6发布了（NVIDIA JetPack 4.6来了）

昨天，NVIDIA美国针对NVIDIA JetPack 4.6做了一个讲座：

（文章后面有Q&A，请耐心看完哟）

让我们看看都讲了啥？

首先介绍了什么是JetPack。其实大家已经很熟悉了。

NVIDIA JetPack SDK 附带 Linux 操作系统 (OS)、CUDA-X 加速库和用于机器学习各个领域的 API，包括深度学习、计算机视觉等。它还支持TensorFlow、Caffe、Keras等机器学习框架，以及OpenCV等计算机视觉库。

NVIDIA Jetson 由统一的软件架构支持，使软件开发人员的工作更加轻松。统一平台为开发人员在其他 Jetson 模块上增强他们的创作时节省了重复编码的麻烦。

大家最关心的是Jetpack 5.0啥时候出，毕竟这是升级一个大版本啊！

那么JetPack 4.6到底有哪些亮点呢？

JetPack 4.6的新功能：

1. 从 JetPack 4.6 开始，JetPack 正式支持 Triton 推理服务器。Jetson 上的 Triton 推理服务器支持来自多个框架的训练 AI 模型，包括 NVIDIA TensorRT、TensorFlow 和 ONNX Runtime。

JetPack 上的 Triton 推理服务器支持包括：

• 在 GPU 和 NVDLA 上运行模型
• 支持多种框架：TensorRT、TensorFlow 和 ONNX Runtime。
• 并发模型执行
• 动态批处理
• 模型管道
• 可扩展的后端
• HTTP/REST 和 GRPC 推理协议
• C编程接口

2. 支持VPI 1.1（从NVIDIA发布VPI看NVIDIA的大局观）

新算法：

•光流NVENC

•拉普拉斯金字塔CPU/CUDA

•图像直方图CPU/CUDA

•直方图均衡CPU/CUDA

•背景减法CPU/CUDA

3. 基于OTA的镜像升级

4. 支持A/B RootFS

NVIDIA® Jetson™ Linux 完全支持 NVIDIA Jetson Xavier™ NX、Jetson AGX Xavier™ 系列和 Jetson TX2 系列上的根文件系统冗余。它使用两个根文件系统，一个指定的 rootfs A 存储在通常的文件系统分区 APP 中，另一个指定的 rootfs B 存储在磁盘上位于 APP 之后的新分区 APP_b 中。从而提供安全的机制来执行OTA更新。

5.新的刷机工具：Initrd

• 支持到内部 (eMMC) 或外部（NVMe、SSD 等）媒介刷机。
• 启动到在 DRAM 中运行的 initrd，然后将不同的媒介暴露给主机以进行刷机。
• 在 Jetson Xavier NX 的情况下，可以并行刷机到不同的媒介，例如 QSPI 和 eMMC。
• 与以前的刷机方法相比，提供更快的刷机。
• 支持 Jetson TX2 系列、Jetson Xavier NX 和 Jetson AGX Xavier

6.支持从NVME启动

Jetson Xavier NX 和 Jetson AGX Xavier 的 CBoot 增强以支持 NVMe 驱动程序。

在 Jetson Xavier NX 上：

-Jetson Xavier NX 具有 QSPI 并从 QSPI 启动。

-现在可以刷 QSPI 和 NVMe 并从 NVMe 加载根文件系统、内核、kernel-dtb，而无需接触 eMMC（生产模块）或 SD 卡（开发人员套件）

在 Jetson AGX Xavier 上：

-Jetson AGX Xavier 没有 QSPI ，从 eMMC 启动

-现在可以在 eMMC 上刷入最少的启动组件，并从 NVMe（内核、内核-dtb 和根文件系统）加载剩余的内容

推荐的烧录到外部媒介的方法是“用 initrd 烧录”

7.Jetson IO tool

Jetson IO 工具增强以配置相机头接口。

现在无需使用可加载内核模块 (LKM)、设备覆盖和 Jetson IO 工具重新编译内核即可添加对相机的支持。

支持使用 Jetson-IO 工具在 Jetson 开发人员套件（Jetson Nano、Jetson Nano 2GB 和 Jetson Xavier NX）上配置 Raspberry-PI IMX219 或 Raspberry-PI High Def IMX477。

8.CUDA 和 TensorRT 运行时容器

除了 L4T 基础容器外，JetPack 4.6 还支持新的 CUDA 和 TensorRT 运行时容器

L4T 基础容器——

Jetson 容器的基本镜像容器， 从主机挂载 CUDA、cuDNN、TensroRT 和其他库。

CUDA 运行时容器——

使用 L4T 容器作为基础镜像并包含 CUDA 运行时组件。

不从主机挂载 CUDA。

可用作在 Jetson 上容器化 CUDA 应用程序的基础镜像

TensorRT 运行时容器——

使用 CUDA 运行时容器作为基础镜像，并包含 cuDNN 和 TensorRT 运行时组件。

不从主机挂载 CUDA/cuDNN/TensorRT。

可用作容器化使用 TensorRT 的 AI 应用程序的基础镜像

讲座Q&A:

问：Jetpack 5.0 支持 AGX xavier 和 Xavier NX么？

答：是的，JetPack 5.0 将支持这些平台。

问：Ubuntu 18.04 主机 PC 还能支持多长时间？

答：迁移到 JetPack 5.0 将带来 Ubuntu 20.04 主机 PC 支持。

问：JetPack 5.x 是否仍支持 Ubuntu 18.04 主机？

答：JetPack 5.0 将过渡到仅使用 Ubuntu 20.04 主机。

问：Jetpack 4.6 支持哪个 Deepstream 版本？是预装的吗？

答：DeepStream 6.0 是下一个 DeepStream 版本，将支持 JetPack 4.6。我们计划在 10 月发布 DeepStream 6.0

问：假设我有一个关于 Xavier NX 的工作项目。我是否可以简单地拔下 SD 卡并在不同的 Xavier NX 中使用它来使用相同的项目？

答：是的，这是可能的。

问：能否在Jetpack 4.6 使用 Deepstream 5.1？

答：DeepStream 5.1 与 JetPack 4.5.1 兼容。

问：您能否分享 L4T .deb 存储库的 URL？

答：它在我们的文档

https://docs.nvidia.com/jetson/archives/l4t-archived/l4t-3261/index.html#page/Tegra Linux Driver Package Development Guide/updating_jetson_and_host.html#wwpID0E0XI0HA

直接链接见: https://repo.download.nvidia.com/jetson/

问：支持 Jetson Xavier NX 的 20W 模式 实现更好的视频编解码性能和更高的内存带宽 --> NVIDIA 究竟是如何做到这一点的，新的时钟速度是多少？

答：有关时钟速度的详细信息应在开发人员指南中提及：

https://docs.nvidia.com/jetson/l4t/index.html#page/Tegra Linux Driver Package Development Guide/power_management_jetson_xavier.html

问：OTA 时断网，OS 会崩溃怎么办？

答：一旦下载了OTA包，真正应用OTA就不需要互联网了。

问：Yocto 有望在不久的将来得到官方支持吗？

答：Yocto 已经得到了我们与 NVIDIA 密切合作的合作伙伴和社区的支持，并确保其中支持新版本、功能和模块。JetPack 4.6 已经被支持。https://github.com/OE4T/meta-tegra

问：是否有任何工具可以大规模管理 OTA？像fleet manager。

答：2022 年 Jetson 将支持 NVIDIA Fleet Command。

https://www.nvidia.com/en-us/data-center/products/fleet-command/

我们还有多个合作伙伴，如 Mender、Balena 等，支持管理Jetsons fleet。

问：如果设备上较旧的 Jetpack 版本的分区表与 Jetpack4.6 的分区表不同，那么在 A/B rootfs 的情况下，OTA 将如何工作？

答：JetPack 4.6 支持 A/B rootfs.. 较旧的 JetPacks 不支持 A/B rootfs.. 我们支持从 JetPack 4.6 开始的 A/B rootfs 更新

问：只是为了确认，Jetson Nano 预计不会获得 OTA 支持，对吗？

答：正确，Jetson Nano 目前不支持基于镜像的 OTA 支持 。

问：对于支持 Nvidia Xavier NX 的定制 pcb 基板，新的 20W 电源模式是否需要进行任何重大更改？对于新的 20W 模式，定制 PCB 不应有任何重大更改。

答：您可以在此处找到有关 20W 模式的更多详细信息：

https://docs.nvidia.com/jetson/l4t/#page/Tegra Linux Driver Package Development Guide/power_management_jetson_xavier.html#wwpID0E01S0HA

问：SDK 管理器是否会更新提到的ETA 处理的各种刷机选项？

是的，SDK Manager 1.7 将在 9 月底支持此功能。

问：包含容器列表的 GitHub 项目地址是什么？

答：https://github.com/dusty-nv/jetson-containers

问：这对 20W 模式下的热分布有何影响？

答:

https://docs.nvidia.com/jetson/l4t/#page/Tegra Linux Driver Package Development Guide/power_management_jetson_xavier.html#wwpID0E0NM0HA

您是否尝试从提供的容器中检查基准测试 (https://developer.nvidia.com/embedded/jetson-benchmarks)？如果是，性能下降是多少？

答：容器不会增加任何性能损失......我们已经在容器内尝试了一些基准测试，但我们没有看到任何预期的性能下降