首页
学习
活动
专区
圈层
工具
发布
社区首页 >专栏 >第一性原理大模型课程 · 第 17 课:微调工程:16 B/参数、低秩 ΔW 与 QLoRA 三件套

第一性原理大模型课程 · 第 17 课:微调工程:16 B/参数、低秩 ΔW 与 QLoRA 三件套

作者头像
用户12431597
发布于 2026-11-18 15:58:24
发布于 2026-11-18 15:58:24
100
举报
概述
这是大模型课程系列的第 17 课。 第 14 到 16 课我们一直在让模型「跑起来」——切分、省显存、量化。这一课换个目标:把通用模型调成你自己的助手。而第一步不是讲方法,是先把「为什么必须换方法」算成数字。 全量微调在显存上先撞墙(7B 要 112 GB),于是有了 LoRA;LoRA 省不掉被冻结的基座,于是有了 QLoRA;最后回答一个比「怎么调」更重要的问题——什么时候该微调、什么时候该检

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档