作为AI处理器开发商,Habana Labs宣布将在近期推出Gudi人工智能训练处理器,早在去年9月份的时候,Habana Labs在推出GOYA处理器的时候,就曾透露将在今年第二季度的时候,推出用于训练的处理器Gudi,目前这款处理器终于登上了人工智能的舞台,而Gudi处理器也将成为Habana Labs进军AI市场的又一次尝试。
据了解,Gaudi处理器搭载了32GBHBM-2内存,目前拥有HL-200和与HL-205两种型号,其中HL-200与HL-100相互对应,使用的是RestNet-50。根据官方介绍,Gudi处理器可以提供超过4倍的吞吐量,以及达到2倍的能源效率和一般的延迟,值得一提的是,Gudi处理器正在评估阶段,并面向近20名的Goya客户,由他们给出合理的意见。
根据Gudi处理器的演示过程看,Gudi处理器在一秒之内筛选1650张图像,批量大小为64,而之所以能够取得如此耀眼的成绩,主要是因为Gudi处理器并没有在原有的GPU或者是CPU等老架构上进行升级。Habana Labs对Gudi处理器进行了全新的架构创新,所以该处理器也是号称在训练神经网络上“秒杀”英伟达。
与此同时,Gaudi处理器还搭载了第二代Tensor处理核,在其基础上对开发工具,库,翻译器等进行重新的整编,能够为客户群体提供一个更加灵活,更加全面的解决方案。尤其是在较小的Batch Size的情况下,能够保持其高运算的能力,并且可以从单一的设备扩展至数百个处理器。
总体来看,Gudi处理器最大的一个优势就是为用户提供了一个强大的性能能力,尤其是在人工智能全面爆发的时代,大家对于数据等的需求愈渐旺盛,Gudi处理器能够帮助用户构建一个更大,更复杂的神经网络。
值得一提的是,Habana Labs还推出了一款名为HLS-1的8-Gaudi系统。Habana Labs在Gudi处理器上插入了大量网络带宽,这也意味着,用户可以将Habana Labs硬件放入到现有的数据中心,然后通过以太网交换机构建AI集群,这也为业务的发展带来无限的可能性。
从评估到部署,Gudi处理器要走的路还有很长,但是其出现对于市场上同类产品来说,也是具有一定的挑战性的!