![springai.png](https://developer.qcloudimg.com/http-save/yehe-9261324/aee0f5958225bcbdf738bec2cd42dece.png)


Java 团队接大模型，最容易走偏的不是“不会写 Prompt”，而是一上来就绑死某家 SDK，业务代码里到处是厂商类名、返回结构和计费字段。等要换模型、做灰度、补日志、控成本、加权限时，才发现改动要散落到几十处。

本系列不讲“再调一次 GPT”，而是把 **Spring AI 2.0** 当成一套可进企业系统的工程框架来拆：从 HTTP 到模型的主链，到 RAG、记忆、工具、MCP、Agent，再到可观测、评测、成本、安全和上线。最终目标不是 24 个互不相关的 Demo，而是能落地一套 **企业知识 + 客服工单 Agent**。

下面是总览。每招都有文章和视频，可按层阅读，也可按编号顺序学。

---

## 一、Spring AI 是什么

Spring AI **不是大模型**，也不重新训练模型。它是 Spring 官方在 Java 技术栈里，给 OpenAI、Anthropic、Google、Amazon、Microsoft、Ollama 等供应商做的一套 **可移植抽象**。

可以把它理解成 JDBC / Spring Data 那一派思路：

- 常用 80%：统一接口（`ChatClient` / `ChatModel` / `EmbeddingModel` / `VectorStore`）
- 剩下 20%：厂商特有能力走 **Escape Hatch**，不强行抹平

所以它解决的是“企业应用怎么稳定地用模型”，不是“模型本身怎么变聪明”。

---

## 二、整体架构

主调用链：

```text
用户请求
  → Controller
  → Service
  → ChatClient
      ├─ Advisor（Memory / RAG / 租户 / 日志 / 策略）
      ├─ Prompt / Message / PromptTemplate
      ├─ Structured Output / Streaming
      └─ Tool Calling / MCP
  → ChatModel / EmbeddingModel / Image / Audio / TTS / Moderation
  → Provider SDK / API
  → LLM
```

旁路与治理层（和生产系统绑在一起，而不是可选插件）：

```text
文档 ETL：DocumentReader → Transformer → DocumentWriter → VectorStore
RAG：     Query → Retrieve → Augment → Generate
记忆：    ChatMemory（短期窗口 / 持久化）≠ RAG（外部知识）
Agent：   Chain / Parallel / Routing / Orchestrator-Workers / Evaluator-Optimizer / Reflection
治理：    Observability + Evaluation + Token/成本 + 安全边界 + 降级与切换
```

第 24 招把这些收束成一条企业助手链路：

```text
用户
  → ChatClient
  → Memory / Advisor
  → RAG（企业知识 + 来源引用 + 租户过滤）
  → Tool / MCP（查订单、建工单、外部工具）
  → Agent Workflow（调研、编排、反思）
  → Model
  → Observability / Eval
```

一句话：**业务代码只面向 ChatClient 和 Advisor 编程；模型、向量库、工具、评测都是可替换的后端能力。**

---

## 三、这套软件系统能做什么

本系列最终拼出来的，不是聊天窗，而是一套可治理的 Java AI 应用。能力按层如下。

### 1. 对话与输入输出

| 能力 | 说明 | 对应招 |
|------|------|--------|
| 统一对话入口 | `ChatClient` Fluent API，同步 `/chat`、流式 `/chat/stream` | 第 1～2 招 |
| 提示词治理 | System / User / Assistant 消息模型，`PromptTemplate`，可配置、可版本、可测试 | 第 3 招 |
| 结构化输出 | 模型文本 → Java Record/POJO；Converter + Schema 校验 + 失败重试 | 第 4 招 |
| 多模态 | 图、语音作为 `Media` 进入业务接口，而不是单独演示 | 第 5 招 |

### 2. 知识与检索（RAG）

| 能力 | 说明 | 对应招 |
|------|------|--------|
| Embedding | 文本进向量空间，相似度决定检索质量 | 第 6 招 |
| VectorStore | PGVector / Redis 等统一抽象；写入、删除、TopK、元数据过滤 | 第 7 招 |
| 文档 ETL | Reader → 清洗/切分/补元数据 → 入库，可追溯 | 第 8 招 |
| 最小 RAG 闭环 | Question → Retrieve → Context → Prompt → LLM → Answer + 出处 | 第 9 招 |
| 模块化 RAG | Query / Retrieve / Augment 可组合；换大模型救不了检索错 | 第 10 招 |

### 3. 记忆、拦截器、工具与 Agent

| 能力 | 说明 | 对应招 |
|------|------|--------|
| 对话记忆 | LLM 无状态；`ChatMemory` 管“刚才说了什么”，RAG 管“企业里有什么” | 第 11 招 |
| Advisor | AI 调用链上的拦截器：Memory、RAG、租户上下文可组合、可测试 | 第 12 招 |
| Tool Calling | 模型请求执行 Java 方法，访问实时数据和业务 API | 第 13 招 |
| MCP | Tool / Resource / Prompt 标准化；Spring Boot 可做 Client 也可做 Server | 第 14 招 |
| Agent 原则 | 先工作流、后智能体；简单可组合，不先上复杂平台 | 第 15 招 |
| 五种模式 | Chain / Parallel / Routing / Orchestrator-Workers / Evaluator-Optimizer | 第 16 招 |
| Reflection | 生成 → 评价 → 修改；只用于高价值场景，并配确定性校验 | 第 17 招 |

### 4. 上线治理

| 能力 | 说明 | 对应招 |
|------|------|--------|
| 可观测 | Actuator + Micrometer；Prompt、检索、工具、Token 进同一条 Trace | 第 18 招 |
| 评测 | 不能只看 HTTP 200；用另一模型做 Evaluator，建数据集与回归 | 第 19 招 |
| 成本 | Chat / Embedding Usage 进架构指标，管住多步 Agent 的隐性花费 | 第 20 招 |
| 模型切换 | 换 Key ≠ 换模型；行为差异必须过自动 Eval Gate | 第 21 招 |
| 安全 | Prompt Injection、租户隔离、Tool 权限；权限放在确定性应用层 | 第 22 招 |
| 生产化 | 超时、429、模型/向量库/工具故障时的降级、失败可解释、可恢复 | 第 23 招 |
| 企业助手 | 把以上能力收成一个可运行系统：知识问答 + 工单 Agent | 第 24 招 |

企业助手落地后应具备：文档上传与 ETL、带出处的知识问答、多轮记忆、订单查询、创建工单、MCP 外部工具、Agent 调研、流式输出、结构化结果、租户过滤、评测和指标。

**掌握标准不是“能调用 GPT”，而是能把 Data、API、Workflow、Model、Eval、Observability 组合成可治理的 Java 应用。**

---

## 四、建议阅读顺序

| 阶段 | 招数 | 先搞清楚什么 |
|------|------|----------------|
| 入门主链 | 1～5 | 请求怎么走到模型，Prompt 和输出怎么进 Java |
| 知识地基 | 6～10 | 为什么 RAG 的上限往往在数据管道，而不在模型 |
| 开始办事 | 11～17 | 记忆、拦截器、工具、MCP、工作流与智能体 |
| 能上线 | 18～24 | 观测、测试、成本、切换、安全、降级、完整助手 |

时间紧：先看 **第 1、2、9、12、13、23、24 招**，再按需补层。

---

## 五、文章与视频入口

渠道：腾讯云开发者社区。每招均可点进对应文章和视频。

### 入门主链（第 1～5 招）

| 招 | 主题 | 文章 | 视频 |
|----|------|------|------|
| 1 | AI 应用调用链 | [阅读](https://cloud.tencent.com/developer/article/2736977) | [观看](https://cloud.tencent.com/developer/video/87113) |
| 2 | 跑通 ChatClient | [阅读](https://cloud.tencent.com/developer/article/2736976) | [观看](https://cloud.tencent.com/developer/video/87112) |
| 3 | Prompt 不只是字符串 | [阅读](https://cloud.tencent.com/developer/article/2736975) | [观看](https://cloud.tencent.com/developer/video/87111) |
| 4 | 文本变 Java 对象 | [阅读](https://cloud.tencent.com/developer/article/2736974) | [观看](https://cloud.tencent.com/developer/video/87110) |
| 5 | 模型也能看图听声音 | [阅读](https://cloud.tencent.com/developer/article/2736973) | [观看](https://cloud.tencent.com/developer/video/87109) |

### 知识与 RAG（第 6～10 招）

| 招 | 主题 | 文章 | 视频 |
|----|------|------|------|
| 6 | Embedding 是什么 | [阅读](https://cloud.tencent.com/developer/article/2736972) | [观看](https://cloud.tencent.com/developer/video/87108) |
| 7 | VectorStore 别乱选 | [阅读](https://cloud.tencent.com/developer/article/2736971) | [观看](https://cloud.tencent.com/developer/video/87107) |
| 8 | 文档怎么进向量库 | [阅读](https://cloud.tencent.com/developer/article/2736970) | [观看](https://cloud.tencent.com/developer/video/87106) |
| 9 | RAG 先做最小闭环 | [阅读](https://cloud.tencent.com/developer/article/2736969) | [观看](https://cloud.tencent.com/developer/video/87105) |
| 10 | RAG 进入模块化 | [阅读](https://cloud.tencent.com/developer/article/2736968) | [观看](https://cloud.tencent.com/developer/video/87104) |

### 记忆、工具与 Agent（第 11～17 招）

| 招 | 主题 | 文章 | 视频 |
|----|------|------|------|
| 11 | 对话怎么记住上下文 | [阅读](https://cloud.tencent.com/developer/article/2736967) | [观看](https://cloud.tencent.com/developer/video/87103) |
| 12 | Advisor 就是 AI 拦截器 | [阅读](https://cloud.tencent.com/developer/article/2736966) | [观看](https://cloud.tencent.com/developer/video/87102) |
| 13 | Tool 让模型开始办事 | [阅读](https://cloud.tencent.com/developer/article/2736965) | [观看](https://cloud.tencent.com/developer/video/87101) |
| 14 | MCP 把工具标准化 | [阅读](https://cloud.tencent.com/developer/article/2736964) | [观看](https://cloud.tencent.com/developer/video/87100) |
| 15 | Agent 别急着上框架 | [阅读](https://cloud.tencent.com/developer/article/2736963) | [观看](https://cloud.tencent.com/developer/video/87099) |
| 16 | 五种 Agent 模式 | [阅读](https://cloud.tencent.com/developer/article/2736962) | [观看](https://cloud.tencent.com/developer/video/87098) |
| 17 | Reflection 怎么做 | [阅读](https://cloud.tencent.com/developer/article/2736961) | [观看](https://cloud.tencent.com/developer/video/87097) |

### 上线治理与完整助手（第 18～24 招）

| 招 | 主题 | 文章 | 视频 |
|----|------|------|------|
| 18 | AI 也必须可观测 | [阅读](https://cloud.tencent.com/developer/article/2736960) | [观看](https://cloud.tencent.com/developer/video/87096) |
| 19 | AI 测试不能只看 200 | [阅读](https://cloud.tencent.com/developer/article/2736959) | [观看](https://cloud.tencent.com/developer/video/87095) |
| 20 | 成本也要进架构 | [阅读](https://cloud.tencent.com/developer/article/2736958) | [观看](https://cloud.tencent.com/developer/video/87094) |
| 21 | 模型切换不是改个 Key | [阅读](https://cloud.tencent.com/developer/article/2736957) | [观看](https://cloud.tencent.com/developer/video/87093) |
| 22 | 安全边界怎么守 | [阅读](https://cloud.tencent.com/developer/article/2736956) | [观看](https://cloud.tencent.com/developer/video/87092) |
| 23 | 做到真正能上线 | [阅读](https://cloud.tencent.com/developer/article/2736955) | [观看](https://cloud.tencent.com/developer/video/87091) |
| 24 | 做个企业 AI 助手 | [阅读](https://cloud.tencent.com/developer/article/2736954) | [观看](https://cloud.tencent.com/developer/video/87090) |

---

## 六、相关前置文

系列外、同一主题可对照：

- [Spring AI 私有知识库实战：用最小 RAG 做一个不乱答的智能客服](https://cloud.tencent.com/developer/article/2716969)
- [Spring AI 企业 AI 集成火箭助推器](https://cloud.tencent.com/developer/article/2603337)

官方文档：[Spring AI Reference](https://docs.spring.io/spring-ai/reference/)

---

从第 1 招开始：先画出 HTTP → ChatClient → ChatModel → Provider → LLM 这条链，再往下加 RAG、Tool 和治理。链画不清，后面每一招都会变成“会调 API、不会上线”。

![springai2.png](https://developer.qcloudimg.com/http-save/yehe-9261324/cd4fda3a8833890f4e46b50ab5ed05ff.png)

Java 团队接大模型，最容易走偏的不是“不会写 Prompt”，而是一上来就绑死某家 SDK，业务代码里到处是厂商类名、返回结构和计费字段。等要换模型、做灰度、补日志、控成本、加权限时，才发现改动要散落到几十处。

Spring AI 2.0 实战系列导读（24 招总入口）

架构师

人工智能

后端

开发工具

Java团队集成大模型的核心，是采用SpringAI作为工程化框架，而非绑定特定厂商SDK。SpringAI提供可移植抽象层，业务代码只面向ChatClient和Advisor编程。该框架支持从主调用链到RAG、工具调用、Agent及上线治理（可观测、评测、成本、安全）的完整体系，最终可落地企业知识问答与工单Agent。系统化学习路径助你掌握可进企业系统的Java AI应用架构。

数据管道

客服工单

代码解释

智能体

Agent

Redis

Java

2026上云采购 | AI焕新·智启新局

advisor

lexiang

文章

问答

视频

教程

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云智能顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

EdgeOne AI 安全实战专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋

腾讯云代码助手

云原生构建

TAPD 敏捷项目管理

Cloud Studio

SDK中心

API中心

命令行工具

涵盖代码开发、场景应用、自动测试全流程，助你从零构建专属AI助手

一站式MCP教程库，解锁AI应用新玩法

聚焦“写作效率、视觉美观与运行性能”三方面进行全面升级，为您提供更高效、稳定的创作环境

社区富文本&Markdown编辑器全新改版上线，欢迎大家体验!

诚挚邀请您参与本次调研，分享您的真实使用感受与建议。您的反馈至关重要，感谢您的支持与参与！

社区新版编辑器体验调研

Java团队集成大模型的核心，是采用SpringAI作为工程化框架，而非绑定特定厂商SDK。SpringAI提供可移植抽象层，业务代码只面向ChatClient和Advisor编程。该框架支持从主调用链到RAG、工具调用、Agent及上线治理（可观测、评测、成本、安全）的完整体系，最终可落地企业知识问答与工单Agent...

Spring AI 2.0 实战系列导读（24 招总入口）-腾讯云开发者社区-腾讯云

Spring AI 2.0 实战系列导读（24 招总入口）

Spring AI 2.0 实战系列导读（24 招总入口）

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐