【解密Jetson Thor系列3】你的边缘AI项目该用哪款？AGX Thor、DGX Spark 适用场景大揭秘

本文整理自NVIDIA线上研讨会《Accelerate Robotics and Real-Time AI Inference on NVIDIA Jetson Thor》

【解密Jetson Thor系列2】开放生态重构AI推理边界——零日支持、7倍性能飞跃与机器人革命

【解密Jetson Thor系列1】从边缘到通用智能：英伟达为何打造Jetson Thor？

接下来，我想快速展示一张图表，它对比介绍了 AGX Thor、IGX Thor 和 DGX Spark 这三款产品。

当我们考虑用于边缘计算的不同处理器时：

• Jetson AGX Thor 主要适用于机器人和嵌入式 AI 系统。它提供了极高的灵活性，允许用户根据不同的设备形态（form factor）和应用场景（use case）来高度定制平台。
• IGX Thor 是 AGX Thor 的工业级版本，具备功能安全认证（functional safety），支持实时操作系统（RTOS），具有高可靠性，并且集成了传感器实时处理能力。它适用于对稳定性、安全性要求更高的工业与医疗边缘场景。
• DGX Spark 则是面向个人边缘计算、超级计算机应用以及通用边缘部署的设备。但相比前两者，它的设备形态灵活性较低。DGX Spark 通常由像 HP、Dell 和ASUS 这样的主流 OEM 厂商提供，主要面向希望直接购买现成设备、用于个人超级计算或者边缘推理部署的消费级或轻量级企业用户。

关于可用性与供应渠道：

• Jetson AGX Thor 目前主要通过我们的渠道合作伙伴提供开发者套件（developer kit），而量产系统则由我们的嵌入式 ODM 合作伙伴提供。
• IGX Thor 因为面向的是工业边缘和医疗边缘等严苛场景，通常由专业的行业 OEM 厂商（specialty OEMs）来构建基于 IGX Thor 的系统，以满足特定行业客户的需求。
• DGX Spark 则主要由像 HP、Dell 和ASUS 这类主流 OEM 提供，面向普通消费者或企业用户，他们可以直接购买并部署，用于个人超级计算，或直接用于边缘推理任务。

关于 AI 算力：

• AGX Thor 的算力非常强大：它不仅拥有 iGPU（集成 GPU），还搭载了 dGPU（独立 GPU）。其中，dGPU 算力最高可达 3,511 TFLOPS，加上 iGPU 的 2 petaFLOPS（2000+ TFLOPS），整体算力可以达到 约 5,500 TFLOPS（5.5 千万亿次浮点运算），这是非常高的计算性能。
• DGX Spark 的算力为 1 petaFLOPS，整体定位更偏向通用用途。

关于网络连接性能（Throughput）：

• AGX Thor 的网络带宽非常强，接近 100 GbE，具体包括 4 个 25 GbE 接口；
• IGX Thor 更进一步，由于采用了 ConnectX-7 网卡，其网络带宽最高可达 400 GbE；
• DGX Spark 的网络带宽为 200 GbE。

关于软件栈支持：

• Jetson AGX Thor 使用的是 JetPack OS，主要侧重于硬件平台支持，社区支持较多，但没有企业级支持（honor price 支持）。
• IGX Thor 则配备了 IGX OS，这是一个企业级软件平台，包含 NVIDIA 的 Enterprise AI 软件栈，并且提供商业级技术支持，非常适合对稳定性与安全性要求高的工业环境。
• DGX Spark 使用的是 DGX Base OS，可以运行类似 NVIDIA Metropolis 或其他 Blueprint 解决方案，适合研究和通用 AI 推理任务。

关于适用场景总结：

• Jetson AGX Thor 非常适合用于人形机器人，以及各种室内外、物理世界的垂直应用场景，具有非常大的灵活性，几乎可以覆盖所有机器人和嵌入式 AI 应用。
• IGX Thor 更专注于工业边缘和医疗边缘场景，比如工厂自动化、智能医疗设备等，对安全性、实时性要求很高的领域。
• DGX Spark 更多用于通用研究，或者希望部署为室内边缘推理设备的用户，但它缺乏工业级加固和宽温支持，所以适用的环境范围相对较窄，温度适应性不如 Jetson 系列。

如上就是对这三款边缘 AI 处理器的综合对比介绍，涵盖了它们的定位、算力、网络、软件支持及适用场景