>在构建复杂的 AI Agent 应用时，开发者经常会遇到这样的痛点：面对海量的非结构化输入，如何快速、低成本地进行意图分类、模型路由或是风险评估？如果每次都调用庞大的推理大模型，不仅 Token 成本高昂，系统延迟也难以满足实时性要求。
为了解决这一难题，**AgentScope Java** 推出了全新的扩展模块 —— JEV (agentscope-extensions-jev)。它不是传统的聊天模型，而是一个专为路由、评分、分类等场景打造的快速、类型安全且带有置信度判断的轻量级决策引擎。

今天，我们就来深入解析 JEV 模块，看看它如何为你的 Agent 应用降本增效、保驾护航。
## 一、 什么是 JEV？何时使用它？
JEV 模块位于 agentscope-extensions-judge 父模块下，为 TypeSafe System One 和 Jev 提供了原生的 Java HTTP Client。它不会注册成 AgentScope 的 Model Provider，而是作为应用代码中的“决策大脑”存在。
 **💡 核心适用场景：**

1. **结构化转换**：想把非结构化输入变成 Noul（Yes/No）、Choice（多选一）或 Score（评分）类型的结构化结果。
2. **概率与置信度校准**：需要精确的校准概率和置信度，而不是让大模型生成一段模糊的文本。
3. **低成本预判**：想在调用更大、更昂贵的推理模型前，做一次低成本的意图预判和路由分发。

## 二、 支持的问题类型：精准量化决策
JEV 提供了三种核心问题类型，满足不同维度的决策需求：
| 问题类型 | 返回结果说明 | 典型场景 |
|--|--|--|
| NoulQuestion	| 一个 Yes/No 陈述为真的概率	| 风险判断、安全拦截（如：该操作是否安全？）| 
| ChoiceQuestion	| 选中的选项、每个选项的概率和置信度	| 意图分类、工单分发、模型路由| 
| ScoreQuestion	| 概率加权分数、等级说明、每个等级的概率和置信度	| 质量评估、情感打分、优先级排序| 
## 三、 快速上手与 Spring Boot 无缝集成
### 1. 添加 Maven 依赖
在 pom.xml 中引入 JEV 扩展：
```xml
<dependency>
    <groupId>io.agentscope</groupId>
    <artifactId>agentscope-extensions-jev</artifactId>
    <version>${agentscope.version}</version>
</dependency>
```
### 2. 核心代码示例
只需几行代码，即可完成一次带置信度判断的分类决策：
```java
// 1. 初始化 Client
JevClient client = JevClient.builder()
        .apiKey(System.getenv("TYPESAFE_API_KEY"))
        .baseUrl("https://api.typesafe.ai")
        .model("jev-latest")
        .retryPolicy(new JevRetryPolicy(2, Duration.ofMillis(500)))
        .build();

// 2. 构建请求：将非结构化文本分类到不同团队
SystemOneRequest request = SystemOneRequest.builder()
        .state("My payouts have been failing for 3 days.")
        .question("team", new ChoiceQuestion(
                "Which team should handle this?",
                Map.of(
                        "billing", "Payments and refunds",
                        "technical", "Bugs and integrations")))
        .build();

// 3. 获取结果并基于置信度进行路由
SystemOneResult result = client.systemOneBlocking(request);
ChoiceAnswer answer = (ChoiceAnswer) result.answers().get("team");

if (answer.confidence() < 0.75) {
    // 置信度不足，路由至人工审核 (HITL)
} else {
    // 置信度达标，自动路由至 answer.choice() 对应的团队
}
```
### 3. Spring Boot Starter 支持
对于 Spring Boot 用户，JEV 提供了开箱即用的 Starter。只需引入 agentscope-jev-spring-boot-starter，即可在 application.yml 中优雅配置：
```yaml
agentscope:
  jev:
    api-key: ${TYPESAFE_API_KEY:} # 未设置时自动读取环境变量
    base-url: https://api.typesafe.ai
    model: jev-latest
    timeout: 5s
    retry:
      max-retries: 2
      initial-backoff: 500ms
```
>注：Client 默认具备完善的容错机制，对 HTTP 429/529/5xx 响应会自动进行指数退避重试。
## 四、 三大实战中间件：重塑 Agent 工作流
JEV 最强大的地方在于它可以直接作为**中间件 (Middleware)** 挂载到 ReActAgent 中。官方在 io.agentscope.extensions.judge.jev.example 包下提供了三个极具参考价值的中间件：
### 🛠️ 1. 工具选择 (JevToolSelectionMiddleware)
**痛点**：当 Agent 拥有海量工具 (Tools) 时，将所有 Tool Schema 塞给大模型会导致上下文爆炸、推理变慢且容易选错工具。
**解法**：在 onReasoning 阶段，用 JEV 筛选和排序发给主模型的工具。
- **行为**：保留核心工具（如 reset_tools），并用 JEV 对可选工具进行概率排序，最多保留 maxTools 个。
- **优势**：大幅减少 Token 消耗，提升主模型的工具调用准确率。支持 failOpen 机制，JEV 失败时自动降级为全量工具。
### 🔀 2. 模型路由 (JevModelRouterMiddleware)
**痛点**：简单任务用大模型太贵，复杂任务用小模型效果差。
**解法**：在 Agent 调用模型前，让 JEV 根据任务复杂度在多个候选模型中做选择。
```java
JevModelRouterMiddleware modelRouter = JevModelRouterMiddleware.builder(client)
        .choice("fast", fastModel, "Direct lookups, extraction, and localized changes.")
        .choice("powerful", powerfulModel, "Architecture and high-stakes decisions.")
        .instructions("Choose the least costly model that can complete the task.")
        .confidenceThreshold(0.75)
        .build();
```
- **行为**：读取最新用户消息，返回选择结果及置信度。若置信度低于阈值或无用户文本，自动回退到默认配置的 Fallback 模型。

### 🛡️ 3. 工具执行守卫 (JevAutoModeMiddleware)
**痛点**：Agent 自主调用高危工具（如 bash、delete_db）时，缺乏灵活的风险评估机制。
**解法**：在 onActing 阶段（工具真正执行前），用 JEV 判断高风险调用是否可以自动放行。
- **行为**：向 JEV 发送一个 Yes/No 风险问题（NoulQuestion），请求中包含完整对话历史和工具参数。若 P(safe) 低于设定的 safetyThreshold，则直接拒绝执行，并合成 DENIED 结果写入对话状态。
- **优势**：与人工确认 (HITL) 完美结合。已经通过人工确认为 ALLOWED 的调用会跳过 JEV 检查，实现安全与效率的平衡。
## 五、 总结
**AgentScope Java 的 JEV 模块** 填补了“大模型推理”与“传统规则引擎”之间的空白。它通过提供类型安全的 API、精准的置信度校准以及开箱即用的 Agent 中间件，让开发者能够以极低的成本构建出更聪明、更安全、更高效的 AI Agent 系统。
无论是优化 Token 成本、提升路由准确率，还是为 Agent 加上最后一道安全防线，JEV 都是你不可或缺的开发利器。

在构建复杂的 AI Agent 应用时，开发者经常会遇到这样的痛点：面对海量的非结构化输入，如何快速、低成本地进行意图分类、模型路由或是风险评估？如果每次都调用庞大的推理大模型，不仅 Token 成本高昂，系统延迟也难以满足实时性要求。 为了解决这一难题，AgentScope Java 推出了全新的扩展模块 —— JEV (agentscope-extensions-jev)。它不是传统的聊天模型

AgentScope Java 进阶：1. 用 JEV 打造高置信度、低成本的 Agent 智能决策引擎

人工智能

JEV模块为AI Agent应用提供轻量级决策引擎，专攻意图分类、模型路由与风险评估。支持Noul、Choice、Score三类结构化问题，通过类型安全API与置信度校准实现低成本预判。提供工具选择、模型路由、工具执行守卫三大中间件，有效降低Token消耗、提升响应速度，并增强系统安全性。

大模型推理

Spring Boot

AgentScope

中间件

AI Agent

路由

Agent

Java

文章

问答

视频

教程

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云智能顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

EdgeOne AI 安全实战专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋

腾讯云代码助手

云原生构建

TAPD 敏捷项目管理

Cloud Studio

SDK中心

API中心

命令行工具

涵盖代码开发、场景应用、自动测试全流程，助你从零构建专属AI助手

一站式MCP教程库，解锁AI应用新玩法

聚焦“写作效率、视觉美观与运行性能”三方面进行全面升级，为您提供更高效、稳定的创作环境

社区富文本&Markdown编辑器全新改版上线，欢迎大家体验!

诚挚邀请您参与本次调研，分享您的真实使用感受与建议。您的反馈至关重要，感谢您的支持与参与！

社区新版编辑器体验调研

AgentScope Java 进阶：1. 用 JEV 打造高置信度、低成本的 Agent 智能决策引擎-腾讯云开发者社区-腾讯云

AgentScope Java 进阶：1. 用 JEV 打造高置信度、低成本的 Agent 智能决策引擎

AgentScope Java 进阶：1. 用 JEV 打造高置信度、低成本的 Agent 智能决策引擎

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐