9 月 15 日 TypeSafe AI 发布 Jev 至今正好两周。热点期过去了，留下的东西反而更值得盘一盘：48 小时内冒出六个开源版项目（用开源模型把 Jev 的判断玩法重新实现一遍），第三方榜单两周内大改版、排名洗牌，跑得较快的开源版项目 SemIf（原名 OpenJev）把后端铺到了 CPU 和 Apple Silicon 上。

这篇不追热点本身，做一件更实际的事：把这两周的新事实摆在一起，重算一遍企业落地的账——哪里的门槛降了，哪里的坑被坐实了，以及用活字格搭接入链路这本账，哪些结论要更新。

![Image](https://developer.qcloudimg.com/http-save/yehe-10920694/84d949ad84ebe6cf31bba7e33415d9ba.png)

## 两周时间线，先把事实摆齐

- 9 月 15 日，Jev 开放早期访问，当天 Hacker News 千分级热度，24 小时内近 13% 的 Vercel 付费团队接入；
- 9 月 16 日起，48 小时内六个开源版项目相继出现，Latent Space 的 AINews 做了完整盘点；
- 9 月 18 日，Jev 1\.13 上架 OpenRouter（型号 typesafe/jev\-1\.13，32k 上下文），一个 OpenRouter 密钥即可调用，不再需要 TypeSafe 账号；同一天 SemIf（原 OpenJev）冲上 HN 600 多分；
- 9 月 21 到 23 日，SemIf 连续合入社区 PR：llama\.cpp CPU 后端、Torch CPU 评分、Apple Silicon MLX/MPS、Qwen3\.8\-27B 的 EXL3 桥、按场景划分的温度校准；
- 9 月 26 日前后，第三方决策模型榜单发布 sealed\-decision 改版，排名大幅洗牌，SemIf 主帖在 HN 来到 722 分，仓库 4300 余 star。

两周内，这条线从「一个爆火模型」变成了「一个有小生态的品类」。

## 48 小时，六个开源版

Jev 是闭源服务，社区拿不到它的内部实现，只能对着行为猜架构。48 小时内，六拨人交出了六份答案——用开源模型把「读概率、不生成文本」这套玩法重新实现一遍。这类项目在技术圈有个行话叫「复现」，翻译过来就是「开源版 Jev」：

六份答案的技术路线几乎不重合，说明「读概率、不生成文本」这个接口模式本身有足够的实现空间，不绑定某一种架构。对落地的人来说，这是好消息：可选的实现越多，被单点卡住的风险越小。

## 榜单洗牌：公开跑分的一课

这两周最有教育意义的事，发生在第三方榜单上。

榜单初版里，SemIf（Qwen3\.5\-4B）以 73\.1 排总榜第二，紧咬 Jev 的 74\.4——开源版能摸到的位置，它先摸到了。随后榜单发布 sealed\-decision 改版，SemIf 落到 47\.7、暂列第十二，Jev 也滑到第三，排在 Plumb\-4B（65\.84）和 decider\-4b v2（64\.13）之后——而这套改版方法本身，在榜单自己的讨论线程里还有争议。

排名谁高谁低会过去，教训是长期的：**同一家模型，榜单改一版口径，排名可以掉十位**。这坐实了一条工程纪律：公开跑分不能当验收标准。模型之间的真实差距，往往小于评测口径之间的漂移。要在业务里用，只能拿自己的历史数据测，用实测数字定阈值。榜单的作用是缩小候选范围，到此为止。

顺带一提，SemIf 自己的文档也把话写得很明白：它复现的是接口模式，没有复现 Jev 未公开的模型与训练过程，与 TypeSafe 无关联。引用它的数字时，这个口径要一起带上。

## 开源版跑上了 CPU：门槛又低了一截

决策模型部署在服务端，通常带着一个默认前提：得有张能跑 4B 模型的卡。这两周 SemIf 的更新把这个前提拆掉了：

- llama\.cpp 后端直接从本地 GGUF 检查点评分，不需要 CUDA 设备，线程数可限；
- Torch CPU 评分路径独立可用；
- Apple Silicon 有 MLX 原生后端和 PyTorch/MPS 两条路；
- 温度校准支持按场景分别拟合，校准输出的概率可以直接进下游逻辑。

含义很直接：**一台普通的内网服务器，没有 GPU，也能跑决策模型**。成本结构从「买卡或租卡」变成「复用现有服务器」。4B 级模型在 CPU 上的延迟当然比不上 GPU，但对审批分流、工单路由这类业务场景，几百毫秒到秒级的判断大多够用——这些场景的瓶颈从来不在算力，在流程。

## 活字格接上 Jev 之后，判断环节省的是 token

活字格接入决策模型的链路形态很简单：服务端命令发起 HTTP 请求，决策模型服务返回各选项概率，写回数据表后驱动流程分支。判断结果不写成一段话，也不拼成 JSON——一次前向传播，概率直接读出来。

省的就是这里。让通用大模型做同一个判断，它得把答案逐字写出来，输出 token 按量计费；SemIf 的实测里，读概率的中位耗时是 1\.023 秒，让模型自己写 JSON 是 5\.332 秒，多出来的时间基本都花在逐字生成上。托管版 Jev 的定价是每百万输入 token 0\.042 美元、输出免费，等于把贵的那半边直接划掉；换成开源版自建，连 token 账单都没有——成本从「按调用付费」变成「复用已有的服务器」。高频场景会把这笔账放大：审批分流、工单路由这类判断一天跑几千上万次，省掉的是每一次的输出 token。

这两周的变化在链路两端。

部署端多了一个选项。原来默认要 GPU 服务器，现在 CPU 路径成立，内网里找台闲置服务器就能起步；等调用量上来再升级 GPU，链路本身不用改。

编排端的价值被生态放大了。决策模型的实现有六种以上、榜单口径两周改一版，说明这个品类还在快速演化。活字格做的是 AI 工作流编排：大模型调用、决策模型、HTTP 服务、规则分支、人工审批是同级节点，画在同一张编排图上。底层模型换掉——比如从 4B 换到更新的开源版，或者在榜单前列的几个实现之间切换——改的是服务端命令里的请求配置，业务流程的编排不动。模型层的动荡，到编排层就被吸收掉了。

顺带一句：省下的 token 也是编排出来的。哪些判断走决策模型、哪些必须留给大模型，是编排图上的节点分配，业务调整时改的是这张图。

换句话说，越是模型层快速洗牌的阶段，「判断逻辑沉在编排层、模型实现挂在接口后面」这种结构的收益越大。

![Image](https://developer.qcloudimg.com/http-save/yehe-10920694/4884a43cc6f4ac9f1172c065730e710c.png)

## 两周后不变的东西

复盘完再回头看，有几件事比两周前更清晰。

**接口模式比模型重要。**六个开源版、六种路线，都奔着同一个接口模式去：状态和结构化问题进去，带概率的决策出来。这个模式成了事实标准，按它搭的链路不会被某个具体模型绑架。

**自己的数据才算验收标准。**榜单改版一次、排名洗牌一次，这件事就会被重新证明一次。候选模型看榜单，上线阈值看自己的历史数据，两个环节不要混。

**护栏与兜底要设计在流程里。**SemIf 按场景做温度校准、新加坡政府科技局把决策模型用于内容审核护栏（后一篇细讲），都指向同一个方向：决策模型不是单独存在的组件，它和阈值、转人工、默认分支一起构成完整的判断单元。这些单元用活字格的编排能力拼起来，改一处不动全身。

这两周的热点信息量大，落到手上的动作其实只有一句话：链路口径没变，部署选项多了 CPU，验收纪律被再次确认。想拿到更细的落地清单——CPU 部署的实测延迟、阈值怎么定、服务端命令怎么配——可以私信留言，值得单独展开一篇。

## 延伸阅读

- SemIf 仓库（CPU 后端与温度校准的提交记录）：[https://github\.com/TheoLeeCJ/SemIf](https://github.com/TheoLeeCJ/SemIf)
- Jev 1\.13 在 OpenRouter 的页面（上下文与定价口径）：[https://openrouter\.ai/typesafe/jev\-1\.13](https://openrouter.ai/typesafe/jev-1.13)
- 活字格智能体开发能力（AI 工作流编排的产品侧说明）：[https://www\.grapecity\.com\.cn/solutions/huozige/ai/ai\-agent\-development](https://www.grapecity.com.cn/solutions/huozige/ai/ai-agent-development)


9 月 15 日 TypeSafe AI 发布 Jev 至今正好两周。热点期过去了，留下的东西反而更值得盘一盘：48 小时内冒出六个开源版项目（用开源模型把 Jev 的判断玩法重新实现一遍），第三方榜单两周内大改版、排名洗牌，跑得较快的开源版项目 SemIf（原名 OpenJev）把后端铺到了 CPU 和 Apple Silicon 上。

Jev 爆火两周：48 小时 6 个开源版，都被接进了企业内网

两周时间线 → 48 小时六个开源版 → 第三方榜单洗牌（跑分别当验收标准）→ SemIf CPU 后端（不用显卡也能跑）→ 活字格接上 Jev 后省 token 的账（部署端 / 编排端）

人工智能

开发工具

后端

Jev发布两周内生态快速成型：48小时涌现六个开源复现版，CPU与Apple Silicon后端落地，榜单改版引发排名洗牌。核心结论：决策模型接口模式已成事实标准，CPU部署显著降低门槛，实测数据比公开跑分更可靠，编排层可吸收模型层动荡。

智能体开发

服务器

智能体

路由

JSON

4核4G3M云服务器 新用户低至38元/年！

文章

问答

视频

教程

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云智能顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

EdgeOne AI 安全实战专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋

腾讯云代码助手

云原生构建

TAPD 敏捷项目管理

Cloud Studio

SDK中心

API中心

命令行工具

涵盖代码开发、场景应用、自动测试全流程，助你从零构建专属AI助手

一站式MCP教程库，解锁AI应用新玩法

聚焦“写作效率、视觉美观与运行性能”三方面进行全面升级，为您提供更高效、稳定的创作环境

社区富文本&Markdown编辑器全新改版上线，欢迎大家体验!

诚挚邀请您参与本次调研，分享您的真实使用感受与建议。您的反馈至关重要，感谢您的支持与参与！

社区新版编辑器体验调研

Jev 爆火两周：48 小时 6 个开源版，都被接进了企业内网-腾讯云开发者社区-腾讯云

Jev 爆火两周：48 小时 6 个开源版，都被接进了企业内网

Jev 爆火两周：48 小时 6 个开源版，都被接进了企业内网

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐