开箱:
打开NVIDIA Jetson AGX Thor开发套件盒子,你会发现:
-Jetson AGX Thor 开发 套件
-电源(带适配器和区域插头)
-USB-C 和 USB-A 电缆
-快速启动文档
当您拿起它的瞬间,Jetson AGX Thor便展现出坚固耐用的质感与精工细作的构造。这款设备将工作站级的强大性能浓缩于极致紧凑且便携的形态中,既保障了专业算力需求,又实现了移动场景下的高效部署。
相较于Jetson AGX Orin开发套件,NVIDIA Jetson AGX Thor实现了架构与性能的双重跨越。Orin基于Ampere架构,搭载2048个CUDA内核、64个Tensor Core及12核ARM Cortex-A78AE CPU;而Thor则全面转向新一代Blackwell架构,集成2560个CUDA内核、96个第五代Tensor Core及14核Arm Neoverse-V3AE CPU,其CPU运行速度较Orin提升约2.6倍。这一升级不仅显著增强了并行计算与AI推理能力,更通过架构革新实现了能效比的突破性提升——在保持紧凑机身设计的同时,Thor以更强的算力密度重新定义了边缘计算设备的性能标杆。
相较于Jetson AGX Orin,Thor在AI算力上实现了指数级突破。Orin可提供约200-275 INT8 TOPS算力,该性能与早期FP8格式吞吐量相当;而Thor则通过Blackwell架构革新,将FP8性能推至约1000 TOPS,FP4性能更是达到2000 TOPS——在稀疏模式下更可达成2070 FP4 TFLOPS的峰值算力。这一跨越式提升源于Blackwell架构对FP6/FP4数据格式的开创性支持:相较FP8,FP4格式吞吐量翻倍;而对比FP16,其能效比与计算密度均实现两倍提升。通过引入更低精度、更高效率的计算格式,Thor在保持工业级可靠性的同时,将边缘AI设备的能效天花板推向全新高度——其每瓦特算力密度较前代提升400%以上,真正实现了"以小博大"的算力革命。
要在 Jetson 上安装 Ubuntu,我们将使用 NVIDIA 的 Jetson Thor 安装程序创建一个可引导的 USB 棒。
以下是设置过程的摘要:
完成后,安全地弹出U盘并将其插入Jetson AGX Thor。
从USB刷机
现在是刷Jetson Thor本身的关键步骤。
刷机过程需要一些时间,因为镜像被写入NVMe驱动器。
一旦刷机完成,安全拔掉U盘并重新启动。从这里,您可以通过标准Ubuntu设置向导:
初始设置后,必须更新软件,以确保您具有最新的功能和错误修复。
sudo apt updatesudo apt install nvidia-jetpack
根据可用的更新,这个过程可能需要一些时间。
我还将设置具有最大CPU时钟速度的Jetson Thor电源模式,以便以下安装步骤可以更快地运行。
将 NVIDIA Jetson AGX Thor 的电源模式更改为最佳性能。
sudo nvpmodel -m 0
检查正在使用哪种模式:
sudo nvpmodel -qNV Power Mode: MAXN0
然后运行下面的命令:
sudo jetson_clocksEnabled Legacy persistence mode for GPU 00000000:01:00.0.All done.
启用 jetson_clocks
将确保所有CPU和GPU内核的时钟频率最高。
Nvidia Jetson AGX Thor 开发套件已准备好使用。您可以立即利用 NVIDIA 提供的资源开始开发生成式 AI 项目。
总结
NVIDIA为Blackwell GPU架构引入了革命性的4位浮点格式(FP4),该格式专为超低精度推理场景优化设计,在实现极致能效比的同时,最大程度保留模型精度——通过动态精度校准技术,FP4可在保持推理结果准确性的前提下,将传统FP16格式的计算效率提升4倍。尽管当前Jetson AGX Thor在SGLang、vLM等主流AI框架中对FP4模型的原生支持尚未完善,但NVIDIA已明确表示将通过未来固件更新快速补全这一功能,相关技术白皮书将于近期发布。
搭载Blackwell架构的Jetson AGX Thor开发者套件,则为开发者提供了前所未有的AI算力平台:其2070 FP4 TFLOPS的峰值算力可轻松驾驭机器人自主导航、多模态AI交互、生成式AI内容创作等前沿场景。从实时语义理解到高精度三维重建,从复杂路径规划到生成式艺术创作,Thor以工业级可靠性与超便携形态,重新定义了边缘计算设备的可能性边界——现在,您只需手持这台"口袋里的AI工作站",即可将创意转化为改变世界的现实应用。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。