480GB内存只是开胃菜？聊聊NVIDIA在SIGGRAPH上推出的几个产品

皮衣侠客黄仁勋重返为期五天的SIGGRAPH舞台自然带来了不少干货，除了一场魅力十足的演讲，人工智能NVIDIA AI Workbench统一工作空间，NVIDIA Omniverse元宇宙重大升级之外，这里不妨抽点时间聊聊更为直观的硬件设备。依然是浓厚的NVIDIA风格，堆料和性能全部拉满。

GH200 Grace Hopper：480GB内存怕不怕

现场新推出的GH200 Grace Hopper属于现有Grace Hopper Superchip的演进版本，采用了相同的Grace CPU和GH100 Hopper GPU，但首次配备了容量和带宽更高的HBM3e内存。在硬件上，GH200 Grace Hopper Superchip拥有72核心Grace CPU，480GB ECC LPDDR5X内存和GH100 GPU。

其中HBM3e显存容量提升到了141GB，采用6x24GB方式，以及6144-bit存储器接口。其实在理论上NVIDIA可以让GH200 Grace Hopper最高拥有144GB HBM3e显存，不过从目前的情况来看，141GB可以确保更好的产量。

如果对比现在的GH200仅配备96GB HBM3，HBM3e显存可以带来大约50%的容量提升和25%的带宽提升。很明显，新平台就是奔着更好的人工智能模型训练提升性能而去的。

不过现阶段版本的HBM3 GH200仍然在生产中，并计划下个月开始投入商用。HBM3e GH200还要再等等，现阶段会先给厂商提供测试样品，并最快在2024年第二季度上市。由于两个版本使用的平台均基于Grace CPU和GH100 GPU，NVIDIA也强调了两个版本之间拥有很好的兼容性，并且兼容现有的NVIDIA MGX服务器规范，买回来直接插上去就可以用。在未来一段时间中，HBM3和HBM3e两个版本会在市场上共存，只不过HBM3e版本肯定要规上不少。

工作站新卡：RTX 4000和RTX 5000

在发布大杀器间隙，NVIDIA也不忘更新RTX 4000和RTX 5000两个阵营的专业级显卡，包括RTX 4000、RTX 4500和RTX 5000三个版本，以及一个针对数据中心的L40S。

几款新品全部基于Ada Lovelace架构，在显存规格上，RTX 4000 20GB、RTX 4500 24GB、RTX 5000 32GB，L40S 48GB。

其中NVIDIA RTX 4000 20GB在外观上很像数个月前发布的RTX 4000 SFF，但使用了全高的PCB设计，以及单槽冷却，TGP 130W，拥有6144个CUDA Core，GPU代号AD104，拥有更高的时钟频率，可以提供26.7 FP32 TFLOPS的计算吞吐量，与NVIDIA GeForce RTX 4070计算性能一个级别。

NVIDIA RTX 4500 24GB则配备7680个CUDA Core，核心AD104，性能39.6 FP32 TFLOPS，与GeForce RTX 4070 Ti相当，但使用了双槽散热系统，TGP 210W。

NVIDIA RTX 5000 32GB属于大幅精简的AD102，12800个CUDA Core，性能65.3 FP32 TFLOPS，表现低于旗舰专业卡RTX 6000 Ada，但价格也相对RTX 6000 Ada便宜了2800美元。

另外还有一个专门给服务器使用的远程管理版本L40S Ada数据中心计算卡，拥有18176个CUDA Core，核心也是AD102，提供91.6 FP32 TFLOPS算力，与RTX 6000 Ada性能一致。

L40S Ada首先会应用于图形AI和视频处理OVX服务器，它使用被动冷却方案，但仍然提供显示输出接口，也可以安装到工作站中。只不过工作站的散热设计要重新考量。

专业卡与游戏关系不大，但在诸如OpenCL等API上的支持更为友好，效率也更高。特别对于AIGC的创作人员而言，专业显卡的工作效率是消费级GPU很难企及的。也因为如此，NVIDIA也才会为其报出高于消费级GPU数千美元的价格。而前面提到的GH200的老款A100和H100，业内成交价格已经轻松超过30万人民币了。