​
##  🧠 为什么 Java 开发者终于在 2025 年开始做 RAG 了？

在 2024 年之前，检索增强生成（RAG）还是个 Python 专属的"俱乐部"。

Java 开发者只能眼睁睁看着：

- LangChain

- LlamaIndex

- HuggingFace

- Python 笔记本

- ……做着各种酷炫的 AI 操作

但 2025 年彻底改变了这一切。

现在有了：

- Spring AI

- PgVector / Milvus / Chroma

- 内置在 Spring Boot 中的 Embeddings

- 简单的向量搜索客户端

- 本地 LLM 支持

- ……你现在可以完全在 Spring Boot 中构建一个生产级别的 RAG 管道。

**无需黑客手段。**
**无需胶水脚本。**
**无需 Python 依赖。**

这份指南将带你构建第一个端到端的 Java RAG 管道，代码简洁且对开发者友好。

让我们开始吧。👇

## 🧩 步骤 1：2025 RAG 架构（Java 版）

大多数公司在生产环境中使用的就是这个架构：

```text

┌──────────────────────────┐
            │       Spring Boot        │
            │        (Spring AI)       │
            └────────────┬─────────────┘
                         │
             ┌───────────▼────────────┐
             │   Embedding Generator  │  ← OpenAI / Ollama / Gemini
             └───────────┬────────────┘
                         │
             ┌───────────▼────────────┐
             │  Vector Database (DB)  │  ← PgVector / Milvus / Pinecone
             └───────────┬────────────┘
                         │
             ┌───────────▼────────────┐
             │ LLM (Chat / Completion)│
             └─────────────────────────┘
```

一个干净、现代的 Java RAG 系统：

- ✔ 文档摄取

- ✔ 转换为 Embeddings

- ✔ 存储向量

- ✔ 向量搜索

- ✔ 将相关片段输入 LLM

让我们构建每个部分。

## 📦 步骤 2：添加依赖（Spring Boot 3.5）

你的 pom.xml 只需要三个真正的依赖：

```xml

<dependencies>
    
    <dependency>
        <groupId>org.springframework.ai</groupId>
        <artifactId>spring-ai-openai-spring-boot-starter</artifactId>
    </dependency>
    
    <dependency>
        <groupId>org.springframework.ai</groupId>
        <artifactId>spring-ai-pgvector-store-spring-boot-starter</artifactId>
    </dependency>
    
    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-web</artifactId>
    </dependency>
</dependencies>
```

就这些。

    Spring AI 承担了大部分繁重的工作。

## 🧠 步骤 3：创建 Embeddings（Java 代码）

Spring AI 为 Java 提供了最简单的 Embedding API。

```java

@Service
public class EmbeddingService {
    @Autowired
    private EmbeddingClient embeddingClient;
    
    public List<Double> embed(String text) {
        return embeddingClient.embed(text).getOutput();
    }
}
```

调用这个方法可以将任何文档转换为向量。

## 🏛️ 步骤 4：将 Embeddings 存储到 PgVector

PgVector 是 Spring Boot 最容易使用的向量数据库，因为它本质上就是 PostgreSQL。

你的表结构：

```sql

CREATE TABLE documents (
    id SERIAL PRIMARY KEY,
    content TEXT,
    embedding VECTOR(1536)
);
```

用 Spring 插入数据：

```java

@Autowired
JdbcTemplate jdbc;

public void saveEmbedding(String content, List<Double> vector) {
    jdbc.update("""
        INSERT INTO documents(content, embedding)
        VALUES (?, ?)
    """, content, vector.toArray());
}
```

搞定。

你现在有了一个 Java 向量数据库。💥

## 🔍 步骤 5：向量搜索（最近邻查询）

这是那个神奇的查询：

```sql

SELECT content
FROM documents
ORDER BY embedding <-> :queryVector
LIMIT 3;
```

代码版本：

```java

public List<String> searchSimilar(List<Double> vector) {
    return jdbc.query("""
        SELECT content FROM documents
        ORDER BY embedding <-> ?
        LIMIT 3
    """, (rs, row) -> rs.getString("content"), vector.toArray());
}
```

这赋予了 RAG 强大的能力 —— 语义搜索而非关键词搜索。

## 🤖 步骤 6：使用检索到的上下文询问 LLM

Spring AI 的 ChatClient 让 RAG 变得极其简单：

```java

@Autowired
ChatClient chatClient;

public String answer(String question) {
    List<Double> queryVector = embeddingClient.embed(question).getOutput();
    List<String> context = searchSimilar(queryVector);
    
    String prompt = """
        Answer the question using ONLY the context below.
        Context:
        %s
        Question:
        %s
    """.formatted(String.join("\n", context), question);
    
    return chatClient.call(prompt);
}
```

这就是一个完整的 RAG 管道。

**没有 LangChain。**
**没有 Python。**
**只有干净的 Spring Boot 代码。**

## 🚀 步骤 7：暴露为 API

```java

@RestController
@RequestMapping("/rag")
public class RagController {
    @Autowired
    private RagService ragService;
    
    @GetMapping("/ask")
    public String ask(@RequestParam String q) {
        return ragService.answer(q);
    }
}
```

调用方式：

```text

GET /rag/ask?q=What is the refund policy?
```

你现在有了一个基于 Java 的 RAG 微服务，可以直接部署。

## 🎉 结果：你刚刚构建了什么

- ✔ AI 驱动的答案引擎

- ✔ 语义向量搜索

- ✔ 具备外部知识的 LLM

- ✔ 完全基于 Spring Boot

- ✔ 可部署到任何地方：Docker、Kubernetes、ECS、Cloud Run

现在，各大公司正在使用完全相同的设置：

- 客户支持应用

- 内部企业搜索

- 知识库

- 聊天机器人助手

- 代码/文档问答

- LLM 驱动的工作流

这就是 2025 年 Java 团队标准化的架构。

## 🏁 最后思考

Spring AI 彻底改变了游戏规则。

Java 开发者终于有了一个干净、官方的方式来构建：

- RAG

- 智能体

- 向量搜索

- 多模态应用

- 函数调用系统

而且它与 Spring Boot 完美配合。

如果你是一名 Java 后端工程师，这是属于你的 AI 时刻。别错过！

在 2024 年之前，检索增强生成（RAG）还是个 Python 专属的"俱乐部"。

告别 Python 依赖！Spring AI RAG 核心依赖配置指南

大模型全栈架构师

人工智能

后端

编程语言

2025年Java开发者终于迎来RAG时代！SpringAI整合PgVector、Milvus等工具，无需Python依赖即可构建生产级RAG管道。本指南详解7步搭建Java版RAG系统：从文档Embedding生成、向量存储到语义搜索，最后通过SpringBoot API输出智能问答。SpringBoot 3.5+SpringAI让Java也能轻松实现AI驱动的知识库、客服机器人等应用，完全摆脱Python依赖。

向量数据库

聊天机器人

PostgreSQL

Kubernetes

数据库

智能体

Python

Java

AI驱动 智领未来

tencentdb-catalog

postgres

文章

问答

视频

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云智能顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋

腾讯云代码助手

云原生构建

TAPD 敏捷项目管理

Cloud Studio

SDK中心

API中心

命令行工具

涵盖代码开发、场景应用、自动测试全流程，助你从零构建专属AI助手

一站式MCP教程库，解锁AI应用新玩法

聚焦“写作效率、视觉美观与运行性能”三方面进行全面升级，为您提供更高效、稳定的创作环境

社区富文本&Markdown编辑器全新改版上线，欢迎大家体验!

诚挚邀请您参与本次调研，分享您的真实使用感受与建议。您的反馈至关重要，感谢您的支持与参与！

社区新版编辑器体验调研

2025年Java开发者终于迎来RAG时代！SpringAI整合PgVector、Milvus等工具，无需Python依赖即可构建生产级RAG管道。本指南详解7步搭建Java版RAG系统：从文档Embedding生成、向量存储到语义搜索，最后通过SpringBoot API输出智能问答。SpringBoot 3.5+S...

告别 Python 依赖！Spring AI RAG 核心依赖配置指南-腾讯云开发者社区-腾讯云

告别 Python 依赖！Spring AI RAG 核心依赖配置指南

告别 Python 依赖！Spring AI RAG 核心依赖配置指南

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐