首页
学习
活动
专区
圈层
工具
发布
社区首页 >专栏 >RAG 分块实测:固定窗口每 12 块就切碎 1 个答案,段落边界天然免疫,重叠量必须盖过最长句

RAG 分块实测:固定窗口每 12 块就切碎 1 个答案,段落边界天然免疫,重叠量必须盖过最长句

作者头像
步步为营DotNet
发布于 2026-11-08 12:43:00
发布于 2026-11-08 12:43:00
660
举报
概述
RAG 入库前都要把文档切块。最省事的做法是按固定字符数切——但中文句子没有空格,一刀下去经常把答案切成两半。切碎的答案还能不能被检索回来?重叠窗口要开多大才够?段落边界值不值得做?我们用 80 万字的中文语料把三种切分策略全测了一遍。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档