首页
学习
活动
专区
圈层
工具
发布
社区首页 >专栏 >预训练全流程:几千张卡跑几个月,一个大模型是怎么训出来的?

预训练全流程:几千张卡跑几个月,一个大模型是怎么训出来的?

作者头像
用户12431597
发布于 2026-11-10 15:29:37
发布于 2026-11-10 15:29:37
160
举报
概述
上一课把数据备好了。这一课把这些 token 真正跑起来——做一次预训练要拆成几个阶段、学习率怎么设、模型怎么切到几千张卡上、跑崩了怎么办、最后能跑出多少算力利用率。用 6 个问题把整条流程算清。内容来自我做的 35 课大模型课程的第 9 课。 在线阅读(免登录、手机可看):https://zhuangzhaoyeye.github.io/llm-course/ 国内镜像:https://lear

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档