用户1480340 - 个人中心 - 腾讯云开发者社区-腾讯云

开发者社区

文档建议反馈控制台

文章/答案/技术大牛

发布

用户1480340

LV1

发表了文章 1天前2026-10-24 13:19:10

DeppInfer系列之 - 矩阵、注意力与 GPU：拆解 DeepGEMM 与 FlashMLA

LLM 推理的时间几乎都花在矩阵乘上。一层 Transformer 里，Q/K/V/O 四个投影是四个 GEMM，MLP 的两个线性层是两个 GEMM，注意力本...

用户1480340 1天前2026-10-24 13:19:10

人工智能、DeepSeek

发表了文章 3天前2026-10-22 15:59:34

DeepSeek开源生产级推理框架DeepInfer：单集群一天处理155万亿token

官方给的说法是：单集群每天 155 万亿 token，谷电价下每张卡每小时收入 38 美元。我看到这组数字的第一反应是去翻代码，看看能不能对得上。

用户1480340 3天前2026-10-22 15:59:34

个人简介

暂未填写公司和职称
暂未填写个人简介
暂未填写技能专长
暂未填写学校和专业
暂未填写个人网址
暂未填写所在城市
加入社区时间：2018-03-13

个人成就

获得 3 次赞同
文章被阅读 304 次

关注了：0关注者：0