
腾讯 WorkBuddy 新接入的混元 Hy4 flash 把每百万 tokens 输入压到 0.5 元,靠混合注意力、LatentMoE、Engram 将 KV cache 降至 Hy3 的 1/24,并用自蒸馏训练与强化学习缩短输出,综合成本显著下降。
先给结论:腾讯 WorkBuddy 里的 Hy4 flash,低成本不是靠牺牲效果换来的,而是一条完整技术链的产物——架构上压缩 KV cache,训练上缩短输出长度,推理上优化解码,最终每百万 tokens 输入 0.5 元、输出 2 元。拆开看这条链,才能理解该模型为何能做到成本显著降低、效果还略优于 Hy4 preview。
衡量成本,先看标价。Hy4 flash 与 Hy4 面向不同需求,两者每百万 tokens 的定价差异集中在输入、输出与缓存命中三项,具体对比如下:
计费项 | Hy4 flash | Hy4 |
|---|---|---|
输入(缓存命中) | 0.02 元 | 0.3 元 |
输入(缓存未命中) | 0.5 元 | 6 元 |
输出 | 2 元 | 18 元 |
两组数字之间不是一个档位的差距,而是数量级的下探:缓存未命中的输入降了十二倍,输出降了九倍,缓存命中的输入降了十五倍。官方对此的措辞是“价格相比 Hy4 大幅降低”,并把 Hy4 flash 定位为迄今为止性价比最高的 Hy 系列模型。
低价本身不难,难的是低价之下效果不塌。要做到这一点,必须在模型结构与计算方式上动刀,而不是简单缩小规模。其中影响面最广的一项,是 KV cache 的体积,它正落在架构层。
成本的一大来源,是大模型推理时的显存与缓存开销,尤其是 KV cache。它随上下文长度和并发量增长,是长文本、高并发场景里最难压的成本项。
混元团队在预训练阶段为 Hy4 flash 引入混合注意力、LatentMoE、Engram 等架构特性,并通过大量 scaling ladder 实验确保效果符合预期。其中可量化的关键结果是:KV cache 大小仅为 Hy3 的 1/24、Hy4 的 1/6。
Hy4 flash 总参数 224B,其中 64B 为 Engram 参数——这部分值得单独一提:这类参数正是压缩缓存、保留效果的架构基础之一。缓存开销降到这个量级,直接带来两个好处:同样的硬件能承载更长的上下文与更多并发,单位任务的成本随之下降。
架构压缩解决的是“每个 token 有多贵”,训练优化解决的则是“要生成多少 token”。Hy4 flash 在后训练阶段做了两件事。
其一是自蒸馏训练:官方口径称为自蒸馏 Hy4,即直接用 Hy4 的输出蒸馏 Hy4 flash。通过让小模型学习大模型的行为,Hy4 flash 以 12B 的激活参数拿到了接近更大规模模型的综合智能水平。
其二是强化学习把端到端任务的输出长度降低 50%。输出更短,意味着同样的任务要生成的 token 更少。由于输出单价通常高于输入单价,把输出长度砍半,对总成本的贡献往往比压缩输入更明显。对用户的直观感受则是回答更紧凑、等待更短。
第三处优化落在推理阶段。官方披露,混元团队结合 megakernel、4bit 量化、DFly 等手段极致优化,使 Hy4 flash 的解码速度超过 150 tps,并可大规模低成本部署运营。
4bit 量化压缩了权重的存储与读取成本,megakernel 优化了计算内核的调度效率,DFly 则加速了解码过程。这三项叠加,让每一次 token 生成的边际成本进一步下降。对腾讯 WorkBuddy 这类需要服务大量并发用户的产品而言,单次调用足够便宜、足够快,也是把新模型放进限免窗口、开放给高频使用的前提。
把这三刀连起来看:架构层降低缓存开销,训练层减少要生成的 token 数,推理层压低单次生成成本。三条线同时收紧,才有了输入 0.5 元这样具备竞争力的定价。
降本是否以牺牲实用性为代价,需要评测来回答。官方在评估环节构建了基于腾讯 WorkBuddy 典型任务的内部评测集 WorkIndex,结合人工评价,聚焦日常工作的产物效果、单轮输出长度和端到端用时,而非公开榜单分数。
这一评测覆盖 PPT 制作与修改、文档编辑、表格修复、音视频处理及视觉理解等任务——都是真实办公中高频、规模化发生的场景,恰好是成本敏感型任务的集中地。结果是 Hy4 flash 的单任务成本仅为 Hy4 preview 的 1/13、Hy4 的 1/20,综合效果还略优于 Hy4 preview(该预览版总参数 770B、激活参数 49B,与旗舰 Hy4 同规格,已由 Hy4 正式版替换、不再单列)。
盲测则从用户端补上印证:腾讯内部 85 位 WorkBuddy 用户参与,覆盖 27 类共 259 个任务,Hy4 flash 的用户满意度接近 Claude Haiku 5.5,单任务成本显著低于其他所有参测模型,任务时长也最短。满意度、成本、时长三项同时成立,说明这条降本技术链没有把实用性当成代价。
降本这件事,最终要落到你自己的任务上才算数。打开腾讯 WorkBuddy,在对话框里把模型切到 Hy4 flash,挑几件日常最高频的文档整理、表格修复跑一轮,用实际产出的效果和消耗的积分来判断它是否合手。Hy4 flash 目前处于首次限免期,2026 年 11 月 30 日 23:59 前可在腾讯WorkBuddy 中免费体验,这段时间足够验证它对你是够用又够省;特定图片与视频生成任务会切换到相应多模态模型,按正常规则产生积分消耗。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。