首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

充分利用NVIDIA Nsight开发工具发挥Jetson Orin的最大潜力

Orin 架构以行业领先的性能为下一代边缘 AI 系统提供动力,该系统由 12 个 ARM Cortex A78 内核和 2 MB 三级缓存, NVIDIA Ampere 架构 GPU 提供 16 个流式多处理器或每个 SM 128 个 CUDA 内核的 SM,Orin 还具有用于工作负载的专用加速器,用于视频缩放、图像处理,还有光流加速器即OFA、2 个 JPEG 解码器、2 个深度学习加速器单元或支持张量 RT 的 DLA,用于深度学习操作,还有可编程视频加速器(PVA)和视频编解码引擎。Orin 使用高带宽 LPDDR5 内存,并具有一组丰富的 IO 连接选项,包括 22 个 PCI Express 通道、4 个千兆以太网连接器和 16 个 CSI 通道。凭借所有这些强大的功能,Jetson Orin 完全有能力应对边缘 AI 场景。

04
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    CUDA-MODE 课程笔记 第一课: 如何在 PyTorch 中 profile CUDA kernels

    一直想系统看一下某个课程系统和科学的学习下 CUDA ,感觉 CUDA-MODE 这个课程能满足我的需求。这个课程是几个 PyTorch 的 Core Dev 搞的,比较系统和专业。不过由于这个课程是 Youtube 上的英语课程,所以要学习和理解这个课程还是需要花不少时间的,我这里记录一下学习这个课程的每一课的笔记,希望可以通过这个笔记帮助对这个课程以及 CUDA 感兴趣的读者更快吸收这个课程的知识。这个课程相比于以前的纯教程更加关注的是我们可以利用 CUDA 做什么事情,而不是让读者陷入到 CUDA 专业术语的细节中,那会非常痛苦。伟大无需多言,感兴趣请阅读本文件夹下的各个课程的学习笔记。

    01

    NVIDIA Nsight系统

    NVIDIA Nsight系统是一种低开销的性能分析工具,旨在为开发人员提供优化软件所需的见解。该工具中可视化了无偏活动数据,以帮助用户调查瓶颈,避免推断出假阳性,并以更高的性能提升可能性进行优化。用户将能够识别问题,例如GPU饥饿,不必要的GPU同步,不足的CPU并行化,甚至是目标平台上所有CPU和GPU上出乎意料的昂贵算法。它旨在跨多种NVIDIA平台扩展,例如:大型Tesla多GPU x86服务器,Quadro工作站,启用Optimus的笔记本电脑,带有Tegra + dGPU multi-OS的DRIVE设备以及Jetson。NVIDIA Nsight Systems甚至可以提供有关PyTorch和TensorFlow等深度学习框架的行为和负载的宝贵见解;允许用户调整其模型和参数以提高整体单GPU或多GPU利用率。

    03
    领券