首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

蚂蚁开源分布式训练扩展库 ATorch,大模型训练算力利用率达 60%

据《科创板日报》1 月 9 日报道,近日,蚂蚁集团宣布开源大模型分布式训练加速扩展库 ATorch,可针对不同模型和硬件资源,实现深度学习自动资源动态优化和分布式训练稳定性提升,帮助提升深度学习的智能性。据了解,在大模型训练中,ATorch 千亿模型千卡级别训练的算力利用率可达 60%。目前,ATorch 已集成到蚂蚁集团大模型训练开源产品 DLRover 中,这是蚂蚁集团基于云原生技术打造的智能分布式深度学习系统。

  • 发表于:
  • 原文链接https://page.om.qq.com/page/O2wT9gFfbF8zLPZ3vJiaHV8Q0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券