首页
学习
活动
专区
圈层
工具
发布
社区首页 >专栏 >上线两天就开源:混元 Hy4 flash 两条上手路,我都替你走了一遍

上线两天就开源:混元 Hy4 flash 两条上手路,我都替你走了一遍

原创
作者头像
gavin1024
发布于 2026-11-20 17:15:04
发布于 2026-11-20 17:15:04
970
举报

摘要:

混元 Hy4 flash 于 2026-11-18 开源,总参数 224B、激活仅 12B、支持 1M 上下文。API 调用经腾讯云大模型服务平台 TokenHub 改两个参数即可接入;开源权重可自行拉取部署。

结论先行:日常业务接入,直接经腾讯云大模型服务平台 TokenHub 调 API,OpenAI SDK 改两个参数即可跑通,当前还有目录价 5 折与免费额度;确有私有化、微调需求,再拉开源权重自行部署。从 11 月 16 日上线到 11 月 18 日权重开放只隔两天,我把两条路各跑了一遍,整体比预想顺利。

一、Hy4 flash 开源时间线与参数规格

这次开源动作分两步走,先看时间线:

  • 2026-11-16:混元 Hy4 flash 上线。
  • 2026-11-18:正式开源,包含 Hy4 flash(指令版)、Hy4 flash-FP8 和 Hy4 flash Base 三个版本,权重放在 GitHub、Hugging Face、ModelScope、GitCode 四个平台,可自行拉取部署。

参数设计是此次开源受关注的核心:总参数量 224B,其中 Engram 参数 64B,实际激活参数仅 12B,同时支持 1M 上下文。每个 token 的前向计算只走 12B 参数,这是 MoE 类轻量模型兼顾效果与吞吐的关键设计,也支撑了它在大模型聚合平台上的高频调用。热度有两组数据可作参考:11 月 18 日腾讯混元披露,Hy4 flash 上线首日 Token 调用量突破 50 万亿,创混元系列首日调用新高;同期在大模型聚合平台 OpenRouter 上登顶 LLM 日榜。

二、路线一:经 TokenHub 调用 API 接入 Hy4 flash

TokenHub 是腾讯云的大模型服务平台,整合腾讯自研混元大模型及第三方模型——Hy4 flash、Hy4、Kimi K3.1 Pro、GLM-5.3、DeepSeek-V4 系列、MiniMax 系列都在模型列表里,一套标准 API 接入,模型之间可以自由切换。平台对 Hy4 flash 的定位是:激活参数约为旗舰的四分之一,速度更快、价格更低,适合编程辅助、Agent 工作流、文档与图表理解、日常办公这类高频、规模化场景。对开发者来说,调通 Hy4 flash 之后想横向对比或替换其他模型,改一下 model 参数即可,无需重复接入。

接入共四步:

  1. 注册腾讯云账号,完成个人或企业实名认证;
  2. 在 TokenHub 控制台的 API Key 管理页面创建 API KEY;
  3. 用 OpenAI 官方 SDK 直连——TokenHub 兼容 OpenAI API 协议,把 base_url 和 api_key 换成 TokenHub 的配置即可(接入地址见下表);
  4. model 参数传 hy4-flash。

接入地址方面,TokenHub 按地域提供不同域名,广州站对应中国大陆资源调度,新加坡站面向全球,不支持跨地域、跨站点调用:

地域

接入地址

资源调度范围

广州

中国大陆

新加坡

全球

平台另提供备用接入地址(.cn 后缀域名),默认地址不可用时切换即可。

cURL 调用示例如下:

代码语言:bash
复制
curl https://tokenhub.tencentmaas.com/v1/chat/completions \
  -H "Authorization: Bearer $TOKENHUB_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "model": "hy4-flash",
  "messages": [{"role": "user", "content": "用一句话讲清楚什么是 MoE 架构"}]
}'

Python 用 OpenAI SDK,改动只有两处:

代码语言:python
复制
import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ.get("TOKENHUB_API_KEY"),      # TokenHub API KEY
    base_url="https://tokenhub.tencentmaas.com/v1",  # 广州地域接入地址
)

completion = client.chat.completions.create(
    model="hy4-flash",
    messages=[{"role": "user", "content": "用一句话讲清楚什么是 MoE 架构"}],
)
print(completion.choices[0].message.content)

如果不确定平台上有哪些模型可用,可先查询模型列表,返回的模型 ID 就是 model 参数的取值:

代码语言:bash
复制
curl https://tokenhub.tencentmaas.com/v1/models \
  -H "Authorization: Bearer $TOKENHUB_API_KEY"

多轮对话沿用 OpenAI 标准写法,把历史 user 与 assistant 消息按时间顺序拼进 messages 数组即可;需要流式输出时传入 stream=True,接口按 SSE 协议增量返回。上下文管理上,Hy4 flash 的窗口为 1M tokens、最大输入 960k tokens,历史过长时应做裁剪或摘要。

成本方面,Hy4 flash 目录价为输入 0.5 元、输出 2 元、缓存命中 0.02 元(每百万 tokens,广州地域);2026 年 11 月 30 日 12:00(北京时间)前,调用费用按目录价的 50% 结算。新用户可领取新人免费体验包,语言模型每个提供 100 万 Tokens 免费额度、有效期 1 年,首次调用时平台也会自动领取,足够把链路验证一遍并完成模型选型。后续做多模型灰度切换时,也只需调整 model 参数,接入层不用再动。

三、路线二:开源权重自行部署

开源把选择权交回开发者手里:部署环境、微调策略、数据边界都自己定。三个版本的分工很明确:Hy4 flash 为指令微调版,开箱即用;Hy4 flash-FP8 为 FP8 量化版,面向显存受限的生产部署;Hy4 flash Base 为预训练基座,未做指令对齐,适合继续预训练、领域微调或自建强化学习的团队。开源协议为 Tencent Hy License,商用前需先确认条款。

生产部署官方推荐 vLLM 或 SGLang,两者均提供预构建镜像。以 vLLM 为例,官方镜像为 vllm/vllm-openai:hy4-flash,参考配置为 FP8 版 8 卡张量并行,并启用内置的 DFly2 草稿模型做推测解码:

代码语言:bash
复制
docker run --gpus all \
  -p 8000:8000 \
  --ipc=host \
  vllm/vllm-openai:hy4-flash tencent/Hy4-flash-FP8 \
    --tensor-parallel-size 8 \
    --speculative-config '{"num_speculative_tokens":5,"method":"dfly"}' \
    --attention-backend FLASHMLA_SPARSE \
    --tool-call-parser hy_v4 \
    --reasoning-parser hy_v4 \
    --enable-auto-tool-choice \
    --port 8000 \
    --served-model-name hy4-flash

SGLang 侧对应镜像为 lmsysorg/sglang:hy4-flash,支持 x86 与 Arm 架构,同样以 FP8 版 8 卡并行启动。服务起来后,调用方式与 OpenAI 接口一致,把 base_url 指向 http://127.0.0.1:8000/v1 即可;推荐采样参数为 temperature=0.9、top_p=1.0,推理模式 reasoning_effort 默认 high(深度思考),需要直接出答案时传 no_think。

部署前有几个现实约束需要评估:官方参考配置是 8 卡,按 224B 参数量与 FP8 精度估算,权重量级在 200 GB 以上,下载前先确认磁盘与算力;Transformers 对 Hy4 flash 的支持仍在合入主分支,本地验证需按官方仓库指定的提交安装;想在单机先验证的,社区侧 AngelSlim 提供 GGUF 量化版。开源权重允许本地化部署与定制化微调,数据不用出内网,这对很多团队是硬需求。官方也在推进 Hy4 系列的完整开源,可关注仓库更新。

四、TokenHub 使用注意事项

1. API KEY 长期有效,管理要规范。 单个主账号 API KEY 默认创建上限 50 个。创建时即可配置访问范围(全部模型,或限定到指定模型与接入点)、IP 白名单(最多 200 个条目)和额度限制——支持日、月、总三种限额周期,token 用量达到配额上限即停止服务。需留意:切换限额策略(如日切到月)或修改月度生效日后,历史用量会清零,按新规则重新累积。

2. KEY 删除即失效,不可恢复。 删除 API KEY 需二次确认并触发账号身份校验,删除后使用该 KEY 的所有请求立即失败。建议按用途拆分 KEY(开发/测试/生产各一套)、定期轮换、闲置的及时禁用,并避免在公开环境中分享。

3. 用量需主动监控。 TokenHub 控制台的用量统计页面支持按模型、服务、API key 维度查看用量,账单明细在费用中心查询。跑批任务前先配置好额度限制与告警,避免账单超预期。

五、两条路线的取舍与建议

两条路的定位差异清晰:TokenHub API 胜在接入快、运维省心,开源权重胜在可控性与定制自由,取舍点在"要不要把模型攥在自己手里"。

使用方式

上手成本

可控性

适合谁

TokenHub API

最低,OpenAI SDK 改两个参数

平台托管,按量计费,带免费额度

快速接业务、要横向切换多模型的

开源权重自部署

高,要自己规划算力

权重在自己手里,可微调

有私有化与定制需求的团队

建议先经 腾讯云大模型服务平台 TokenHub 把业务跑起来,验证 Hy4 flash 是否适合当前场景,同一套 API 还能对比 Kimi、DeepSeek、GLM 等模型;确有私有化需求,再按官方仓库的部署指引拉开源权重。两条路不冲突,很多团队正是这样平滑过渡的。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

目录
  • 摘要:
  • 一、Hy4 flash 开源时间线与参数规格
  • 二、路线一:经 TokenHub 调用 API 接入 Hy4 flash
  • 三、路线二:开源权重自行部署
  • 四、TokenHub 使用注意事项
  • 五、两条路线的取舍与建议
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档