英伟达推出地表最强AI芯片，各项指标大幅提升

NVIDIA在2023年11月14日宣布了其最新的AI和高性能数据中心GPU产品——HGX H200！

这是目前地表最强AI芯片！

HGX H200是一款专为AI、模拟和数据分析而设计的超级计算平台。

HGX H200 GPU采用了HBM3e内存，拥有4.8TB/s的内存带宽，比H100 GPU提高了1.4倍，是世界上第一款使用HBM3e内存的GPU。

可以处理TB级别模型，144TB共享内存空间

HGX H200 GPU集成了256个Grace Hopper Superchip，每个Superchip包含了一个NVIDIA Grace CPU和一个NVIDIA Hopper GPU，通过NVLink连接，形成了一个拥有144TB共享内存空间的单一GPU。

这样的设计可以消除传统的PCIe CPU到GPU的连接，提高带宽7倍，降低互连功耗5倍以上。HGX H200 GPU可以处理TB级别的模型，适用于大规模的推荐系统、生成型AI和图分析等领域。

Transformer Engine，FP8精度，快4倍，可上云

HGX H200 GPU还具有Transformer Engine，可以使用FP8精度，实现比上一代GPU快4倍的大语言模型的训练。

HGX H200 GPU还支持NVLink Switch System，可以加速每个GPU之间的集合通信，实现从小型企业到海量统一GPU集群的高效扩展。

此外，HGX H200 GPU还包含了NVIDIA BlueField-3数据处理单元（DPU），可以在超大规模AI云中实现云网络、可组合存储、零信任安全和GPU计算弹性。

HGX H200 GPU 和 H100 GPU对比

HGX H200 GPU在很多方面都比H100 GPU有显著的提升，例如内存容量、内存带宽、NVLink 带宽、NVLink Switch System、BlueField-3 DPU、PCIe、Grace Hopper Superchip和共享内存空间等。