华为推出全新架构昇腾AI计算集群，支持超万亿参数大模型训练！

IT之家9月20日消息，今天在华为2023全球互联大会上，华为总经理兼 ICT基础设施管理委员会主任兼企业 BG副总裁汪涛，宣布了一个全新的升腾人工智能集群，Atlas900超级群集，该群集可以支持上千亿个大型数据模型的训练。

据悉，新集群将使用华为“星河”智算交换机——云引擎XH16800，利用其800 GE的密集度，可在双层交换网中完成2250个节点（相当于18000张卡）的超大型非会聚式集群组网。

新集群采用了新颖的超级节点体系结构，极大地提高了大规模模型的学习性能。在此基础上，充分利用华为在计算、网络、存储、能源等方面的技术优势，从设备级、节点级、集群级、服务级等多层次提高系统的可靠度，实现从天空到月球的大模型训练稳定度。

另外，华为还推出了更加开放、易于使用的 CANN7.0异构计算体系结构，该体系结构与现有的人工智能框架、加速库以及主流大模型完全兼容，并对其底层功能进行了深度开放，使得算法框架与加速库能够更好的使用并对其进行管理，并支持开发人员定制高性能运算，使得大模型具有更强的竞争优势。

此外，华为还对 AscenddC进行了全面的优化，提高了算子的设计效率，降低了算法设计的复杂度，提高了算法的性能，提高了算法的性能，提高了算法的性能。

据 IT之家了解，截至7月底，升腾 AI集群已经为25个城市提供了 AI计算中心，并在7个城市获得了“面向下一代人工智能的公共算力开放创新平台”称号。

目前，公司拥有30余家硬件合作伙伴，1200余家 ISV，联合发布的行业人工智能解决方案超过2500种，服务范围涵盖电信，互联网，金融等多个行业。