首页
学习
活动
专区
圈层
工具
发布
社区首页 >专栏 >腾讯混元 Hy3 这波开源,把大模型门槛踩碎了

腾讯混元 Hy3 这波开源,把大模型门槛踩碎了

原创
作者头像
悟空码字
发布2026-07-08 16:51:34
发布2026-07-08 16:51:34
350
举报
文章被收录于专栏:编程技术编程技术

大家好,我是小悟。

这两年大模型一个比一个能吹,真到干活的时候,问题全冒出来了。写代码写到一半开始胡说八道,上下文一长就忘了前面说了啥,最要命的是让模型去调工具、跑 Agent,十次有八次卡在格式不对或者调用失败。还有幻觉,一本正经编数据,你信了就倒霉。

我自己被这些坑折磨得够呛。所以看到腾讯 7 月 6 号把混元 Hy3 正式开源,我第一反应是:先别管参数多漂亮,能不能真把活干漂亮才是关键。

图片
图片

Hy3 到底是什么

混元 Hy3 是腾讯混元团队重建训练基础设施之后的第一个正式版。今年 1 月底他们把预训练和强化学习的基础设施整个重做了一遍,4 月底先放了个 preview 试水,收到 50 多个产品线的反馈,磨了两个月,7 月 6 号推出这个正式版。

它用的是 MoE 架构,总参数 2950 亿,但每次只激活 210 亿,外加 38 亿的 MTP 层参数,支持 256K 上下文。这个名字里的路子是快慢思考融合——简单问题直接给答案,复杂任务才进入深度推理。

图片
图片

最实在的一点,它走 Apache 2.0 协议开源,意味着你能下载、能改、能直接拿去免费用。

真正能打的核心能力

我看了官方放出来的材料和内部测评,几个点确实让我眼前一亮。

Agent 能力是这次的重头戏。代码生成、办公处理、金融建模、前端设计、游戏开发,这几个生产力场景的进步最明显。

官方给了个很硬的指标:在自家产品里任务成功率从 72% 干到了 90%,平均耗时还砍了 34%。

工具调用的稳定性他们专门修过,在 SWE-Bench Verified 上,不同脚手架之间的准确率波动控制在 4% 以内,说明它不是只能在某一个框里跑,换个壳也稳。

图片
图片

幻觉这块也下了狠手。官方说基于真实场景的内部评测里,幻觉率从 12.5% 掉到 5.4%,常识错误率从 25.4% 降到 12.7%。逻辑矛盾、张冠李戴这种事少了一大半。

长上下文和多轮对话的记性也好了。多轮综合测试的问题率从 17.4% 降到 7.9%,前面交代的约束到后面还能接得住。

图片
图片

我上手之后的真实体感

我自己的体验集中在 WorkBuddy 上,因为它已经接了 Hy3。

元宝那边也上线了 Agent,你直接说需求,它能跑完复杂任务顺手把 PPT、Word、Excel、PDF、HTML 都给你交付了,而且全免费。

图片
图片

ima、Marvis 也接进去了,连微信的公众号 AI 客服、WeGame 里的游戏助手都吃上了 Hy3。

为什么推荐它

我推荐它,不是因为它是腾讯出的就捧。真就几个实打实的理由。

一是性价比太离谱。2950 亿总参数,激活才 210 亿,用 8 张显存大点的卡就能跑起来服务。同等尺寸里它比肩的是参数规模 2 到 5 倍的旗舰模型,等于用小身板干了大块的活,推理成本压得很低。

二是开源协议友好。Apache 2.0 意味着商用门槛几乎为零,小团队和个人开发者能直接使用去造东西。

三是它真的在解决刚才说的那些痛点,而不是堆跑分。任务成功率、幻觉率、多轮记性,这些全是实际干活会撞上的坎,它一个一个填了。

四是生态铺得开。Github、Huggingface、ModelScope、GitCode同步放权重,海外还陆续覆盖 OpenRouter、Cline、Cherry Studio 一堆平台,你用什么工具链都能够得着。

代码语言:javascript
复制
Github:https://github.com/Tencent-Hunyuan/Hy3
Huggingface:https://huggingface.co/tencent/Hy3
Modelscope:https://modelscope.cn/models/Tencent-Hunyuan/Hy3
Gitcode:https://ai.gitcode.com/tencent_hunyuan/Hy3

怎么把它跑起来(部署脚本)

最省事的两条路:vLLM 和 SGLang,都支持 Hy3 的 MTP 加速。

vLLM 路线:

代码语言:javascript
复制
# # 1. 源码装 vLLM
uv venv --python 3.12 --seed --managed-python
source .venv/bin/activate
git clone https://github.com/vllm-project/vllm.git
cd vllm
uv pip install --editable . --torch-backend=auto

# 2. 启动服务,开 MTP speculative decoding
export VLLM_FLASHINFER_ALLREDUCE_BACKEND=trtllm
vllm serve tencent/Hy3 \
  --tensor-parallel-size 8 \
  --speculative-config.method mtp \
  --speculative-config.num_speculative_tokens 2 \
  --tool-call-parser hy_v3 \
  --reasoning-parser hy_v3 \
  --enable-auto-tool-choice \
  --port 8000 \
  --served-model-name hy3

SGLang 路线:

代码语言:javascript
复制
# 1. 装 SGLang
git clone https://github.com/sgl-project/sglang
cd sglang
pip3 install pip --upgrade
pip3 install "transformers>=5.6.0"
pip3 install -e "python"

# 2. 启动服务
python3 -m sglang.launch_server \
  --model tencent/Hy3 \
  --tp-size 8 \
  --tool-call-parser hunyuan \
  --reasoning-parser hunyuan \
  --speculative-num-steps 2 \
  --speculative-eagle-topk 1 \
  --speculative-num-draft-tokens 3 \
  --speculative-algorithm EAGLE \
  --port 8000 \
  --served-model-name hy3

服务起来之后,走 OpenAI 兼容接口就能调。想让模型深度推理就切到 high,简单问答用默认的 no_think 直接回:

代码语言:javascript
复制
from openai import OpenAI

client = OpenAI(base_url="http://127.0.0.1:8000/v1", api_key="EMPTY")

response = client.chat.completions.create(
    model="hy3",
    messages=[{"role": "user", "content": "帮我写个快速排序"}],
    temperature=0.9,
    top_p=1.0,
    extra_body={"chat_template_kwargs": {"reasoning_effort": "high"}},
)
print(response.choices[0].message.content)

显存吃紧的话还有 FP8 量化版 Hy3-FP8 可以下,官方给了 AngelSlim 工具做压缩,小卡也能试着扛一扛。

写在最后

混元从年初重建,到 4 月 preview,再到现在这个正式版,不到半年走完了一条从底盘重构到产品反哺的路。这种节奏感,是我觉得最值得关注的地方——它不像在凑热闹发个版,而是一圈一圈把能力往上夯。

我已经把它挪进日常工作流了。写代码、理资料、跑 Agent,省下的时间实实在在。技术这东西,别人说得再好,不如自己上手敲一遍。

图片
图片

谢谢你看我的文章,既然看到这里了,如果觉得不错,随手点个赞、转发、在看三连吧,感谢感谢。那我们,下次再见。

您的一键三连,是我更新的最大动力,谢谢

山水有相逢,来日皆可期,谢谢阅读,我们再会

我手中的金箍棒,上能通天,下能探海

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • Hy3 到底是什么
  • 真正能打的核心能力
  • 我上手之后的真实体感
  • 为什么推荐它
  • 怎么把它跑起来(部署脚本)
  • 写在最后
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档