据了解,Meta公司正在投入巨额资源,开发新一代的Llama 4多模态人工智能模型。
相关信息显示Meta计划在2025年发布这一模型,预计将使用24万块GPU进行训练,这是其前代Llama 3所使用GPU数量的十倍。
Llama 3模型是在拥有24,000块GPU的集群上训练的,而Llama 4的训练规模将扩大到24万块GPU。
Meta的首席执行官马克·扎克伯格透露,为了支持Llama 4的训练,公司正在大规模投资计算资源。他提到,Meta计划在年底之前部署35万块英伟达H100 GPU,其中一部分将用于训练Llama 4模型。
从Llama系列的早期迭代——Llama 1仅依赖2048块GPU起步,到Llama 3.1已跃升至16384块GPU,Meta在GPU使用上的急剧扩张,显示出该公司在人工智能领域的投入不断增加。
财务数据显示,Meta在服务器、数据中心及网络基础设施上的投资正以每年近33%的速度激增,预示着公司年度相关支出将触及370亿至400亿美元的新高。
领取专属 10元无门槛券
私享最新 技术干货