华为：推出全新架构昇腾AI计算集群，支持超万亿参数大模型训练！

IT之家9月20日消息，今天在华为2023全球互联大会上，华为总经理兼 ICT基础设施管理委员会主任兼企业 BG副总裁汪涛，正式宣布了升腾 AI集群的全新架构——Atlas900超级群集，该群集可以支持上千亿级的大规模模型训练，并将其命名为Atlas900。

据悉，新集群将使用华为“星河”智算交换机——云引擎XH16800，利用其800 GE的密集度，可在双层交换网中完成2250个节点（相当于18000张卡）的超大型非会聚式集群组网。

新集群采用了新颖的超级节点体系结构，极大地提高了大规模模型的学习性能。在此基础上，充分利用华为在计算、网络、存储、能源等方面的技术优势，从设备级、节点级、集群级、服务级等多个层面上，实现大规模数据建模的稳定度从“天”级到“月”级的跨越。

另外，华为还推出了更加开放易用的 CANN7.0异构计算体系结构，该体系结构不但与现有的人工智能框架、加速库及主流大模型等完全兼容，而且对其底层功能进行了深度开放，使得 AI框架与加速库能够更好的调用与管理计算资源，并支持开发人员定制高性能运算，使得大模型具有更强的竞争优势。

此外，华为还对 AscenddC进行了优化，使算子的执行逻辑得到了简化，从而极大地降低了算法的研发周期，为人工智能模型和应用的研发提供了新的思路。

据 IT之家了解，截至7月底，升腾 AI集群已经为25个城市提供了 AI计算中心，并在7个城市获得了“面向下一代人工智能的公共算力开放创新平台”称号。

目前，公司拥有30余家硬件合作伙伴，1200余家 ISV，联合发布的行业人工智能解决方案超过2500种，服务范围涵盖电信，互联网，金融等多个行业。