DeppInfer系列之 - 矩阵、注意力与 GPU：拆解 DeepGEMM 与 FlashMLA

LLM 推理的时间几乎都花在矩阵乘上。一层 Transformer 里，Q/K/V/O 四个投影是四个 GEMM，MLP 的两个线性层是两个 GEMM，注意力本身还是两个 GEMM。一个 token 走完一层，绝大多数 FLOPs 都在做 C=A×BC = A \times BC=A×B。