首页
学习
活动
专区
圈层
工具
发布
社区首页 >专栏 >国产算力·昇腾 910C 大模型推理优化(下):源码修改与算子优化,提速30%|得物技术

国产算力·昇腾 910C 大模型推理优化(下):源码修改与算子优化,提速30%|得物技术

作者头像
得物技术
修改于 2026-10-27 11:01:28
修改于 2026-10-27 11:01:28
1610
举报
概述
本文为《昇腾 910C 大模型推理优化实践》下篇。上篇已覆盖昇腾 910C 的软硬件环境、性能基线与瓶颈分析,以及无需改动源码的镜像升级与参数调优。本篇承接上篇,继续深入 vllm-ascend 源码修改、算子层优化与 MTP 投机解码,并给出优化前后的完整性能对比与方法论总结。
文章被收录于专栏:得物技术得物技术

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档