DeepSeek开源第二弹：EP通信库 DeepEP
三言科技消息 DeepSeek正式启动“开源周”，首个开源的代码库为FlashMLA。据悉，DeepSeek本次“开源周”将陆续开源5个代码库。
今天，DeepSeek官方推出开源第二弹：首个用于MoE模型训练和推理的EP通信库 DeepEP。
DeepEP可以做到：
1. 高效优化的 All-to-All 通信
2. 支持 NVLink 和 RDMA 的节点内 / 跨节点通信
3. 训练及推理预填充阶段的高吞吐量计算核心
4. 推理解码阶段的低延迟计算核心
5. 原生支持 FP8 数据分发
6. 灵活控制 GPU 资源，实现计算与通信的高效重叠
- 发表于:
- 原文链接：https://page.om.qq.com/page/ONnWke4BtbxmzjtnZgyNGvcw0
- 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号（企鹅号）传播渠道之一，根据《腾讯内容开放平台服务协议》转载发布内容。
- 如有侵权，请联系 cloudcommunity@tencent.com 删除。
相关快讯
扫码
添加站长 进交流群
领取专属 10元无门槛券
私享最新 技术干货
腾讯云开发者
