首页
学习
活动
专区
圈层
工具
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

DeepSeek开源周第四天 :开源并行优化策略

观点网讯:2月27日,DeepSeek在开源周第四天,开源了内部并行优化策略(Optimized Parallelism Strategies)。

此次开源,DeepSeek分别发布了DualPipe双向管道并行算法和EPLB专家并行负载均衡器。

据DeepSeek介绍,DualPipe是一项在DeepSeek-V3技术报告中引入的双向管道等值算法,实现了向后和向后计算通信阶段的完全重叠,还减少了管道气泡。

在GitHub上,目前该算法已经获得544个Star收藏。

免责声明:本文内容与数据由观点根据公开信息整理,不构成投资建议,使用前请核实。

  • 发表于:
  • 原文链接https://page.om.qq.com/page/OriVcr_q7Gz_3AgWt3ve6osA0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券