三言科技 2月24日消息,DeepSeek正式启动“开源周”,首个开源的代码库为FlashMLA。据悉,DeepSeek本次“开源周”将陆续开源5个代码库。
FlashMLA是针对Hopper GPU优化的高效MLA解码内核,专为处理可变长度序列而设计,其灵感来自FlashAttention 2&3和cutlass项目。该代码库目前已投入生产。
分享快讯到朋友圈
领取专属 10元无门槛券
私享最新 技术干货