首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

重金砸向Llama 4,24万块GPU打造AI未来

据了解,Meta公司正在投入巨额资源,开发新一代的Llama 4多模态人工智能模型。

相关信息显示Meta计划在2025年发布这一模型,预计将使用24万块GPU进行训练,这是其前代Llama 3所使用GPU数量的十倍。

Llama 3模型是在拥有24,000块GPU的集群上训练的,而Llama 4的训练规模将扩大到24万块GPU。

Meta的首席执行官马克·扎克伯格透露,为了支持Llama 4的训练,公司正在大规模投资计算资源。他提到,Meta计划在年底之前部署35万块英伟达H100 GPU,其中一部分将用于训练Llama 4模型。

从Llama系列的早期迭代——Llama 1仅依赖2048块GPU起步,到Llama 3.1已跃升至16384块GPU,Meta在GPU使用上的急剧扩张,显示出该公司在人工智能领域的投入不断增加。

财务数据显示,Meta在服务器、数据中心及网络基础设施上的投资正以每年近33%的速度激增,预示着公司年度相关支出将触及370亿至400亿美元的新高。

  • 发表于:
  • 原文链接https://page.om.qq.com/page/O2D5l5FNeqVQ1DPs8gIeviiA0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券