### LlamaIndex官方源码：

```python
from llama_index.core.node_parser import SentenceWindowNodeParser
from llama_index.core.postprocessor import MetadataReplacementPostProcessor

node_parser = SentenceWindowNodeParser.from_defaults(
    window_size=2,
    window_metadata_key="window",
    original_text_metadata_key="original_text",
)

nodes = node_parser.get_nodes_from_documents(documents)

index = VectorStoreIndex(nodes)

postprocessor = MetadataReplacementPostProcessor(
    target_metadata_key="window"
)

query_engine = index.as_query_engine(
    similarity_top_k=3,
    node_postprocessors=[postprocessor],
)
```

### 一、主要思路（来源：[all-in-rag](https://datawhalechina.github.io/all-in-rag/#/chapter3/10_index_optimization "all-in-rag") 有关Node是如何新建的，Datawhale已经写的非常详细了）

句子窗口检索的思想可以概括为：**为检索精确性而索引小块，为上下文丰富性而检索大块。**

其工作流程如下：

1.  **索引阶段：**在构建索引时，文档被分割成**单个句子**。每个句子都作为一个独立的**“节点（Node）”**存入向量数据库。同时，每个句子节点都会在元数据（metadata）中**存储其上下文窗口**，即该句子原文中的前N个和后N个句子。这个窗口内的文本不会被索引，仅仅是作为元数据存储。
    
2.  **检索阶段：**当用户发起查询时，系统会在所有单一句子节点上执行**相似度搜索**。因为句子是表达完整语义的最小单位，所以这种方式可以非常精确地定位到与用户问题最相关的核心信息。
    
3.  **后处理阶段：**在检索到最相关的句子节点后，系统会使用一个名为 **`MetadataReplacementPostProcessor`** 的后处理模块。该模块会读取到检索到的句子节点的元数据，并用元数据中存储的完整上下文窗口来替换节点中原来的单一句子内容。
    
4.  **生成阶段：**最后，这些被**替换**了内容的、包含丰富上下文的节点被传递给LLM，用于生成最终的答案。
    

### 二、用一个例子来解释

####1.索引阶段：

 （1）假如现在需要处理一段文本，首先将其划分为**单句**：

**检索增强生成**是一种使大语言模型（LLM）能够从外部数据源中检索并集成新信息的技术。在RAG框架下，大语言模型首先查阅指定的文档集合，再对用户查询作出回应。这些文档补充了模型预训练数据中已有的信息，使模型能够利用训练数据中未包含的领域特定信息和或最新信息。例如，该技术可帮助基于大语言模型的聊天机器人访问企业内部数据，或依据权威来源生成回答。RAG通过在生成回答前引入信息检索环节来提升大语言模型的性能。与仅依赖静态训练数据的模型不同，RAG能够从数据库、上传文档或网络资源中提取相关文本。

**结果如下六句话：**

```python
S0：检索增强生成是一种使大语言模型（LLM）能够从外部数据源中检索并集成新信息的技术。 
S1：在RAG框架下，大语言模型首先查阅指定的文档集合，再对用户查询作出回应。
S2：这些文档补充了模型预训练数据中已有的信息，使模型能够利用训练数据中未包含的领域特定信息和或最新信息。
S3：例如，该技术可帮助基于大语言模型的聊天机器人访问企业内部数据，或依据权威来源生成回答。
S4：RAG通过在生成回答前引入信息检索环节来提升大语言模型的性能。
S5：与仅依赖静态训练数据的模型不同，RAG能够从数据库、上传文档或网络资源中提取相关文本。
```

###### （2）若window\_size=2，将单句添加为 Node：window是在此时就计算好了

**对应****源代码****：**

```python
node_parser = SentenceWindowNodeParser.from_defaults(
    window_size=2,
    window_metadata_key="window",
    original_text_metadata_key="original_text",
)
```

**Node的结构大致如下所示：**

-     text = Node 当前的正文
-     original\_text = metadata 中保存的原始单句副本
-     window = metadata 中保存的上下文窗口

**上下文窗口metadata\["window"\]并不会被索引，只作为元数据meatadata存储下来**

```python
Node 0:
    text = "S0",
    metadata={
        "window": "S0\nS1\nS2",
        "original_text": "S0",
        ...
    }

Node 1:
     text = "S1",
     metadata={
        "window": "S0\nS1\nS2\nS3",
        "original_text": "S1",
        ...
    }

Node 2:
     text = "S2",
     metadata={
        "window": "S0\nS1\nS2\nS3\nS4",
        "original_text": "S2",
        ...
    }

...
```

对每个**单句**进行Embedding（），使用 text 属性：embedding = embed(node\["text"\])

```python
// 源码
index = VectorStoreIndex(nodes)

Embedding（S0）
Embedding（S1）
Embedding（S2）
Embedding（S3）
Embedding（S4）
Embedding（S5）
```

#### 2.检索阶段

（1）用户输入一个 query（“RAG技术能用来做什么？”）

（2）Embedding（query）

（3）Vector Search（向量检索）：similarity(query, S1) .... similarity(query, S5)

（4）Top-K（假设K=2）

  向量检索返回目标 Node，通常会将它包装在 **`NodeWithScore`** 中：

```python
NodeWithScore(
    node=node, // 这个node是原来的node，并没有新建一个node
    score=0.92
)
```

  K=2，因此retrevier返回 score最高的两个结果

```python
[
    NodeWithScore(S3，score=0.92),
    NodeWithScore(S5，score=0.88)
]
```

#### 3.后处理阶段：MetadataReplacementPostProcessor

```python
源码：
postprocessor = MetadataReplacementPostProcessor(
    target_metadata_key="window"
)

// 底层
node.set_content(node.metadata["window"])
```

**`MetadataReplacementPostProcessor`** 的后处理模块读取到检索到的句子节点的元数据，并用元数据中存储的完整上下文窗口来替换节点中原来的单一句子内容。

```python
Node.text = S3 ---> Node(S3).window ---> Node.text = S1, S2, S3, S4, S5

Node.text = S5 ---> Node(S5).window ---> Node.text = S3, S4, S5
```

#### 4.生成阶段

替换上下文窗口，将答案传送给LLM

**LLM****收到的结果：（官方****源码****里并未提到去重问题，可以加一个window merge处理）**

*在RAG框架下，大语言模型首先查阅指定的文档集合，再对用户查询作出回应。这些文档补充了模型预训练数据中已有的信息，使模型能够利用**训练数据**中未包含的领域特定信息和或最新信息。例如，该技术可帮助基于大语言模型的**聊天机器人**访问企业内部数据，或依据权威来源生成回答。RAG通过在生成回答前引入**信息检索**环节来提升大语言模型的性能。与仅依赖静态训练数据的模型不同，RAG能够从数据库、上传文档或网络资源中提取相关文本。*

索引阶段：在构建索引时，文档被分割成单个句子。每个句子都作为一个独立的“节点（Node）”存入向量数据库。同时，每个句子节点都会在元数据（metadata）中存储其上下文窗口，即该句子原文中的前N个和后N个句子。这个窗口内的文本不会被索引，仅仅是作为元数据存储。

RAG索引优化-LlamaIndex上下文扩展思路讲解

人工智能

编程语言

架构设计

LlamaIndex句子窗口检索策略解析：通过单句精确索引与上下文窗口后处理，实现检索精准性与上下文丰富性的平衡。本文详解SentenceWindowNodeParser配置、MetadataReplacementPostProcessor替换机制及RAG应用示例，展示如何用window_size参数优化向量检索效果，提升LLM回答质量。

向量数据库

聊天机器人

数据存储

代码解释

LlamaIndex

数据库

文章

问答

视频

教程

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云智能顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

EdgeOne AI 安全实战专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋

腾讯云代码助手

云原生构建

TAPD 敏捷项目管理

Cloud Studio

SDK中心

API中心

命令行工具

涵盖代码开发、场景应用、自动测试全流程，助你从零构建专属AI助手

一站式MCP教程库，解锁AI应用新玩法

聚焦“写作效率、视觉美观与运行性能”三方面进行全面升级，为您提供更高效、稳定的创作环境

社区富文本&Markdown编辑器全新改版上线，欢迎大家体验!

诚挚邀请您参与本次调研，分享您的真实使用感受与建议。您的反馈至关重要，感谢您的支持与参与！

社区新版编辑器体验调研

LlamaIndex句子窗口检索策略解析：通过单句精确索引与上下文窗口后处理，实现检索精准性与上下文丰富性的平衡。本文详解SentenceWindowNodeParser配置、MetadataReplacementPostProcessor替换机制及RAG应用示例，展示如何用window_size参数优化向量检索效果，...

RAG索引优化-LlamaIndex上下文扩展思路讲解-腾讯云开发者社区-腾讯云

RAG索引优化-LlamaIndex上下文扩展思路讲解

RAG索引优化-LlamaIndex上下文扩展思路讲解

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐