马斯克：最强大的AI训练系统！10万张H100还不够

近日，马斯克宣布x.AI公司打造的超级AI训练集群Colossus已全面启动并投入运营。

他强调，为了进一步提升这一系统的计算能力，Colossus将在接下来的几个月内迎来大规模扩容，新增10万张GPU，其中包括5万张更为尖端的H200型号。这一举措预示着Colossus的算力将实现再次飞跃，计算能力将翻倍增长。

据悉，Colossus自今年7月初步建成以来，就已搭载了10万张H100 GPU，奠定了其作为当前世界上最强大AI训练系统的基础。

这一系统的性能卓越，据称已超越了美国能源部的Aurora系统——全球速度最快的AI超级计算机。在先前的基准测试中，Aurora在大部分硬件启用状态下达到了惊人的10.6 exaflops峰值速度，而Colossus的算力提升无疑将进一步挑战这一极限。

此外，xAI公司的旗舰级语言模型Grok-2目前正依托15,000个GPU进行紧锣密鼓的训练。随着Colossus系统百万级GPU资源的加入，Grok-2及未来更强大的语言模型的开发将得到前所未有的加速，并计划在年内揭晓Grok-2的升级版，展现AI技术的又一里程碑式成就。