得物技术
国产算力·昇腾 910C 大模型推理优化(下):源码修改与算子优化,提速30%|得物技术
原创
关注作者
腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
得物技术
社区首页
>
专栏
>
国产算力·昇腾 910C 大模型推理优化(下):源码修改与算子优化,提速30%|得物技术
国产算力·昇腾 910C 大模型推理优化(下):源码修改与算子优化,提速30%|得物技术
得物技术
关注
修改于 2026-10-27 11:01:28
修改于 2026-10-27 11:01:28
161
0
举报
概述
本文为《昇腾 910C 大模型推理优化实践》下篇。上篇已覆盖昇腾 910C 的软硬件环境、性能基线与瓶颈分析,以及无需改动源码的镜像升级与参数调优。本篇承接上篇,继续深入 vllm-ascend 源码修改、算子层优化与 MTP 投机解码,并给出优化前后的完整性能对比与方法论总结。
文章被收录于专栏:
得物技术
得物技术
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系
cloudcommunity@tencent.com
删除。
第四期热点征文-C#
卓越架构师最佳实践征文#场景解决方案
问题归档
专栏文章
快讯文章归档
关键词归档
开发者手册归档
开发者手册 Section 归档