首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

DeepSeek开源周one more thing:V3/R1推理系统概述

三言科技消息 在DeepSeek连续五天推出开源代码库后,今天又推出one more thing:V3/R1 推理系统概述。

详情如下:

#OpenSourceWeek第 6 天:还有一件事 – DeepSeek-V3/R1 推理系统概述

通过以下方式优化吞吐量和延迟:

跨节点 EP 驱动的批量扩展

计算与通信重叠

负载平衡

DeepSeek 在线服务统计:

每个 H800 节点每秒有 73.7k/14.8k 个输入/输出令牌

成本利润率 545%

我们希望本周的见解能够为社区带来价值,并为我们共同的 AGI 目标做出贡献。

  • 发表于:
  • 原文链接https://page.om.qq.com/page/Ol7DZGTNC-2E5GFwm9OStL0Q0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券