首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

英伟达发布全球最强AI芯片H200!性能飙升90%,利润率或超1000%!

目前随着全球人工智能AI技术的飞速发展,越来越多的企业开始布局这一领域。但是,AI技能的强大离不开其芯片的作用。因其决定着人工智能系统的整体运行效率和性能。

近日,据界面新闻报道,英伟达在2023年全球超算大会(SC23)上发布了一款全球最强大的AI芯片——NVIDIA H200 Tensor Core GPU(图形处理器)。其相比于上一代产品H100而言,H200的整体性能飙升了60%至90%。

该芯片的强大之处主要体现在哪里?

具体而言,该款芯片相比于上一代H100芯片而言有了显著的提升,主要还是基于NVIDIA Hopper超级芯片架构,并且具有极高的处理性能与先进的内存技术功能,如果面向大数据环境下的大规模建模与推理问题,可以增强数据建模与推理工作负载。

同时,基于NVIDIA Hopper体系结构、TensorRT-LLM等软、硬件支持,新款H200在大规模模型的学习与推理方面具有显著的优势。相比于H100,在lama 2(700亿)上,H200的运算速度将提高将近一倍。在以后的软件升级中,H200还会有更多的性能优势。

在人工智能方面,英伟达表示,H200在大模型Llama 2、GPT-3.5上的推力速度想必上一代H100快了近一倍,并且还将以4路和8路的配置继续提供。因此,H200将可以适用于每一种类型的数据中心,例如本地、云、混合云和边缘等。

不仅如此,英伟达H200作为目前首款采用HBM3e的GPU,还拥有高达141GB的显存空间。与上一代H100相比,H200的空间容量几乎是翻了一番。同时,显存带宽也从上一代H100的3.35 TB/S增加到了4.8 TB/S。

除此之外,由于H200与H100采用了相同的架构设计,在软件的使用上还互相兼容,这也就说明了H200将拥有者上一代H100的所有功能。因此在是用来H100的用户或企业对于最新H200芯片可以做到无缝衔接。

不仅如此,H200芯片与CPU(中央处理器)相比,H200在HPC下获得的结果速度更是达到了一个“恐怖”的数据——提高了110倍。根据英伟达公布的数据显示,在基于TF32的Tensor内核之下,H200的浮点计算能力可以达到989兆次。在INT8 Tensor内核之下,将提供高达3,958 TFLOPS(浮点数/秒3958兆次)。

值得一提的是,由于基于H200芯片购先得HGX H200加速服务器平台,所以还拥有着NVLink和NVSwitch的高速互连支持。

例如,8台 HGX H200可实现32 petaflops(千亿亿次浮点计算)的FPB深度计算,以及1.1 TB的聚集式高带宽存储。因此在科研、人工智能等领域,对海量数据进行大规模学习与推理,可实现高达1750亿个参数计算。

虽然H200芯片是具有全球最强的处理能力,但是遗憾的是,它无法销往中国。据钛媒体向英伟达确认的消息,如果没有得到出口许可,最新款H200将不会销往中国。

至于这其中的缘由,想必这已是众所周知的事。今年10月17日,美国商务部已经重新更改了关于高科技芯片领域的出口限制,其中就包括新发布的芯片参数的处理性能标准:多个数字处理单元的集成电路(用于数据中心)总处理性能为2400-4800,“性能密度”大于1.6且小于5.92。

很显然,作为目前全球最强的AI处理芯片,早就远远超过了该红线。

但是,英伟达仍然不愿意放弃中国如此大的市场利润。英伟达又想到了一个办法,那便是生产中国特供版芯片“HGX H20、L20 PCle、L2 PCle”。

所谓的中国特供版,也就是符合美国的出口红线标准。钛媒体消息了解到,中国特供版芯片最快将于本月16日公布。这些芯片在带宽、计算速度等众多方面都有所限制,理论综合算力相比于英伟达H100要降低80%左右,至于H200而言就更加缩水了。

值得注意的是,英伟达并没有公布H200芯片的市场价格。但是根据市场行情,上一代H100芯片的成本仅仅只有3320美元,但是英伟达对客户的售价却高达2.5万美元至4万美元。直接大致H100的利润率将高达1000%。

因此,如今H200芯片的问世,至于售价只会更高。

  • 发表于:
  • 原文链接https://page.om.qq.com/page/Oe2t834LKX2bR1uNEONe4ANw0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券